Datenschutzrecht-Praxis
 


Neues zum Datenschutzrecht


8.8.2025

Bias in KI-Systemen – Whitepaper des BSI mit Handlungsempfehlungen

KI ist in aller Munde. Der Einsatz erfolgt häufig recht schnell, ein Bewusstsein in Bezug auf etwaige Gefahren und entsprechende Maßnahmen brauchen dagegen ihre Zeit. Ein Beispiel hierfür ist Bias. Kennen Sie, oder?

Bei Bias in KI-Systemen handelt es sich nicht nur um eine ethische Frage, sondern um eine nicht zu unterschätzende Problematik, die eine Gefährdung für den sicheren Einsatz von KI-Systemen darstellen kann. Bias-Arten weisen eine hohe Diversität auf und können in unterschiedlichen Phasen des Lebenszyklus eines KI-Systems auftreten. Der richtige Umgang mit Bias ist komplex und erfordert eine umfassende Beschäftigung mit der Thematik.

Das neue Whitepaper „Bias in der künstlichen Intelligenz“ des Bundesamts für Sicherheit in der Informationstechnik (BSI) soll Entwicklern, Anbietern und Betreibern von KI-Systemen eine erste Einführung in die Bias-Thematik geben. Es werden Bias-Arten dargestellt und aufgezeigt, in welchen Phasen des Lebenszyklus eines KI-Systems sie auftreten können. Weiter wird eine Auswahl an qualitativen und quantitativen Detektionsmöglichkeiten präsentiert. Darauf folgt eine Übersicht über mögliche Methoden, um Bias in einem KI-System zu verhindern. Schließlich wird die Interaktion zwischen Bias und Cybersicherheit erörtert.

Ein Blick in das Whitepaper des BSI ist zu empfehlen. Nach dessen Lektüre werden Sie die Forderungen des BSI an Entwickler, Anbieter und Betreiber von KI-Systemen nachvollziehen können:

  • Aufbau und Ausbau von Wissen über Bias
  • Zuständigkeiten
  • Organisatorische und technische Maßnahmen bei der Datenerhebung, die potentiellen Bias in den Daten reduzieren
  • Minimierung von unerwünschten Bias in KI-Modellen
  • Prozesse der Bias-Detektion und der Bias-Mitigation

Das Whitepaper „Bias in der künstlichen Intelligenz“ des BSI finden Sie auf der Website des BSI oder können es als pdf-Datei hier direkt herunterladen.

Sollten Sie Fragen zum Einsatz von KI oder zu sonstigen datenschutzrechtlichen Themen haben oder insoweit Unterstützung benötigen, können Sie mich gerne kontaktieren.


Zurück zur Übersicht