Studie des Europarats zeigt Risiken auf
Eine aktuelle Studie des Europarats hat auf Mängel in den bestehenden Mechanismen zur Verhinderung von Diskriminierung bei der Entwicklung von algorithmischen Systemen hingewiesen. Die Studie zeigt Wege auf, wie die Technologie zur Förderung der Gleichstellung eingesetzt werden kann und verweist auf die Notwendigkeit von Menschenrechtsfolgenabschätzungen während des gesamten Lebenszyklus der KI.
Generalsekretärin des Europarats Marija Pejčinović Burić erklärte letzte Woche im Vorfeld des Internationalen Frauentags dazu:
Wenn wir nicht lernen, das Potenzial der KI zu nutzen, um Ungleichheiten - auch zwischen den Geschlechtern - zu überbrücken und Diskriminierung zu verhindern, kann und wird die KI zu einer Kraft werden, die Ungleichheiten verfestigt, aufrechterhält und verstärkt.
Die Bewältigung der Herausforderungen durch neue Technologien, einschließlich KI, ist einer der Schwerpunktbereiche der neuen Gleichstellungsstrategie 2024-2029.
KI-Systeme sind nicht neutral
In der Einleitung der Studie heißt es, dass algorithmische Systeme allzu oft auf der Grundlage historischer Daten und Modelle aufgebaut und aufrechterhalten werden. Beispielsweise hätte KI in der Vergangenheit in Bewerbungsprozessen von Unternehmen Frauen für offene Stellen ausgeschlossen, wenn der Algorithmus hauptsächlich mit Daten von früheren männlichen Bewerbern trainiert wurde. Folglich könne KI dazu beitragen, Stereotypen und falsche Annahmen über Geschlecht, Rasse, sexuelle Orientierung, Fähigkeiten, Klasse, Alter, Religion oder Weltanschauung, Geografie und andere soziokulturelle und demografische Faktoren zu reproduzieren.
Es müssten gezielte Anstrengungen unternommen werden, um dies zu vermeiden: Unternehmen sollten zu Kontrollen vor und nach der Markteinführung spezifischer Software verpflichtet werden, es müssten mehr Sensibilisierungsmaßnahmen durchgeführt werden, werbebasierte Maßnahmen und befristete Sondermaßnahmen durchgeführt werden sowie Quoten für die Gleichstellung, Vielfalt und Integration weiter genutzt werden.
Die „Study on the impact of artificial intelligence systems, their potential for promoting equality, including gender equality, and the risks they may cause in relation to non-discrimination“ ergänzt die laufenden Verhandlungen des Europarats über ein globales Abkommen zum Einsatz von KI auf der Grundlage von Menschenrechten, Rechtsstaatlichkeit und Demokratie. Sie ist auf der Website des Europarats abrufbar.
