Die Nutzung künstlicher Intelligenz zur Überprüfung und Sortierung von Bewerberlebensläufen hat in den letzten Jahren stark zugenommen. KI optimiert diese ehemals von Personalverantwortlichen durchgeführten Aufgaben, indem sie große Datenmengen zusammenfasst, wünschenswerte Merkmale hervorhebt und Warnsignale aufzeigt.
Gleichzeitig haben zahlreiche Organisationen, die die Interessen von Menschen mit Behinderungen vertreten, vor dem Potenzial der Technologie gewarnt, Bewerber aufgrund oberflächlicher Unterschiede in ihren Lebensläufen zu diskriminieren und auszuschließen.
Forscher der University of Washington haben nun eine neue Ebene dieser Ausgrenzungsdynamik aufgedeckt, indem sie OpenAI’s ChatGPT befragten, wie sich Hinweise auf Behinderungen auf die Bewertung von Bewerberlebensläufen auswirken.
Zu Beginn ihrer Untersuchung nutzten Forscher der Paul G. Allen School of Computer Science & Engineering der UW den öffentlich zugänglichen Lebenslauf eines der Studienautoren als Kontrolle. Das Team modifizierte diesen Lebenslauf, um sechs Variationen zu erstellen, von denen jede unterschiedliche behinderungsbezogene Qualifikationen enthielt, von Stipendien und Auszeichnungen bis hin zu Mitgliedschaften in einem Diversity-, Equity- und Inclusion-Gremium oder einer Studentenorganisation.
Die Ergebnisse der zehnfachen Ausführung des GPT-4-Modells von ChatGPT zur Bewertung der modifizierten Lebensläufe im Vergleich zur Originalversion für eine reale „studentische Forscher“-Stellenausschreibung bei einem großen Softwareunternehmen waren sowohl aufschlussreich als auch ernüchternd.
In praktisch jedem anderen Bereich sollten Auszeichnungen und die Teilnahme an Gremien als Pluspunkt anerkannt werden, aber aufgrund ihrer Assoziation mit Behinderung in diesem Experiment wurden die behinderungsmodifizierten Lebensläufe in 60 Versuchen nur in einem Viertel der Fälle höher bewertet als der Kontroll-Lebenslauf. Dies trotz der Tatsache, dass alle anderen Teile des Lebenslaufs, abgesehen von den behinderungsbezogenen Änderungen, mit dem Original identisch blieben.
Der menschliche Einfluss
Dennoch bot die UW-Forschung einen Hoffnungsschimmer. Die Forscher konnten die behinderungsbezogenen Lebensläufe höher einstufen lassen, indem sie die Editor-Funktion von GPT-4 nutzten, die es Benutzern ermöglicht, weitere Anpassungen am Tool vorzunehmen. In diesem Fall forderten sie GPT-4 auf, keine ableistischen Vorurteile zu zeigen und mit den Prinzipien der Disability Justice und DEI zu arbeiten. Mit dieser Anpassung verbesserte sich die Bewertung für alle getesteten Behinderungen bis auf eine Ausnahme, nämlich Depression. Lebensläufe, die mit Taubheit, Blindheit, Zerebralparese, Autismus und dem allgemeinen Begriff „Behinderung“ assoziiert waren, verbesserten sich alle, aber nur drei wurden höher eingestuft als Lebensläufe, die keine Behinderung erwähnten. Insgesamt stufte dieses System die behinderungsmodifizierten Lebensläufe in 37 von 60 Fällen höher ein als den Kontroll-Lebenslauf, nachdem GPT-4 angewiesen wurde, inklusiver zu sein.
Dies deutet darauf hin, dass das Bewusstsein der Personalverantwortlichen für die Grenzen der KI und der Einsatz von Tools, die auf DEI-Prinzipien trainiert und angepasst werden können, Teil einer komplexen Herausforderung bei der Verbesserung der Inklusivität in der KI sein können.