Beim Chaos Communication Congress in Hamburg treffen sich Hackerinnen und Hacker. Ein Thema dort: digitale Inklusion. Generative KI kann helfen, Inklusion zu erleichtern, indem beispielsweise Coden vereinfacht wird. Sie kann aber auch diskriminierende Weltbilder reproduzieren.
Ende Dezember 2023 fand das größte europäische Treffen für Hacker*innen in Hamburg statt. Das Thema Inklusion sollte diesmal einen größeren Raum bekommen. Dazu hielt Casey Kreer einen Vortrag. Sie ist Beraterin und Coach zu digitaler Barrierefreiheit und hat selbst eine Behinderung.
Casey Kreer sprach über generative KI als Tool für Menschen mit Sehbehinderung. Beispielsweise hilft ihr ChatGPT bei der Internetrecherche. Sie kann dadurch leichter eine Suche durchführen.
"Ich kann mir durch die neuen Möglichkeiten zum Beispiel Bilder erkennen lassen. Das ist viel besser geworden und sehr viel detailreicher."
Neben der Hilfe bei der Suche von Inhalten ist auch die Erkennung von Bildern und das Programmieren vereinfacht worden, erklärt Casey. Die KI kann beispielsweise für das Programmieren Teile vom Coden zusammenfassen und dadurch erleichtern.
KI als persönliche Assistenz
Dass KI-Software Bilder mit Worten beschreibt, ist nicht neu. Was allerdings enorm fortschrittlich ist, ist die individuelle Anpassung an den Menschen und seine Behinderung. Die KI ist dabei in Systeme integriert, die individuell genutzt werden und damit als persönliche Assistenz unterstützen.
Die neuen Möglichkeiten, die durch die aktuelle Weiterentwicklung von KI geschaffen werden, sind aber noch nicht so verlässlich wie eine menschliche persönliche Assistenz oder menschengemachte Texte. KI-Chatbots machen noch viele Fehler, was in der Fachsprache Halluzinieren genannt wird.
Nachteile von KI bei der Inklusion
Eine KI ist nur so gut wie die Menschen, die sie trainieren und die Daten, mit denen sie trainiert wird. Das bedeutet, im schlechtesten Fall reproduziert sie Vorurteile und agiert diskriminierend.
"Wenn ich zum Beispiel nur Fotos im Internet habe von Menschen mit Sehbehinderung, die eine dunkle Sonnenbrille tragen, kann die KI auch nur Bilder erstellen von Menschen mit Sehbehinderung, die eine dunkle Brille tragen."
Wenn die KI ausschließlich gefüttert wird mit Bildern von Menschen mit Sehbehinderung, die dunkle Sonnenbrillen tragen und einen Stock in der Hand halten, reproduziert sie dieses eine Bild von Menschen mit Sehbehinderung, erklärt unsere Reporterin Marie Zinkann. So wird lediglich ein Bild reproduziert, nämlich dass Menschen mit Sehbehinderung stets dunkle Brille tragen und einen Stock in der Hand haben. Die Realität ist jedoch vielfältiger.
Diese Problematik schafft wiederum Barrieren, auch für sehbehinderte Menschen. Denn sie müssen sich darauf verlassen können, dass die KI bei der Suche von Inhalten möglichst getreu die Realität abbildet – ohne Diskrimierung.