Auf der Suche nach Literatur zu meinem Thema stieß ich auf eine interessante Studie vom 23. Oktober 2023. In dem Paper „Glazko, Kate S., et al. “An Autoethnographic Case Study of Generative Artificial Intelligence’s Utility for Accessibility.” Proceedings of the 25th International ACM SIGACCESS Conference on Computers and Accessibility. 2023“ untersuchte ein Team von Wissenschaftler*innen aus den USA, New York, die Nützlichkeit von generativer künstlicher Intelligenz (GAI) für die Bedürfnisse von Menschen mit und ohne Behinderung. Die Testpersonen nutzten verschiedene GAI, darunter Github Copilot, Midjourney, DALL-E, GPT-4, GPT3, ChatPDF und Bing, um ethisch bedenkliche, voreingenommene und/oder diskriminierende Annahmen zu untersuchen.
Mit Amalgamen erforschten sie in 7 Fallstudien zwischen März 2023 und Oktober 2023, ob ChatPDF ein barrierefreies PDF erstellen kann. Ein Autist durchlief diverse GPTs, um Texte zu übersetzen und von anderen bewerten zu lassen. Ein blinder Softwareentwickler ließ mit GAI Code für eine App erstellen und baute diese. Eine Fallstudie prüfte HTML-Inhalte durch GPT-4 auf digitale Barrieren. Und noch weitere 5 Fallstudien. In allen sieben Fallstudien war der GUI-Einsatz unbefriedigend und begünstigte Behindertendiskriminierung. Ein Beispiel war die Frage an Midjourney: “group of people with a variety of disabilities looking happy, illustration format” The resulting images are not representative of many disabilities and “inaccurate [in their] use of assistive technologies” even after specific requests in new prompts. Also, despite repeated attempts to vary the prompt, Midjourney can “only represent disabled happiness as attending a party”.. [S.4]
Zusammenfassend schließen die Forscher*innen darauf, dass dies auf ein “lack of relevant training data” und “Build-in Ableism by biases in training data” zurückzuführen ist. Ohne ethisch besseres Material für Machinelearning wird diese Hürde immer bestehen bleiben.
