Große Sprachmodelle wie ChatGPT übernehmen nach Erkenntnissen israelischer Wissenschaftler antisemitische Denkmuster aus den gewaltigen Textmengen, mit denen sie trainiert werden. Zu diesem Ergebnis kommt eine israelische Studie, die in der Fachzeitschrift »American Psychologist« veröffentlicht wurde. Die »The Times of Israel« berichtete zuerst.
Die Forscher Gal Gutman von der Ben-Gurion-Universität und Michael Gilead von der Universität Tel Aviv untersuchten demnach, wie Juden in modernen KI-Systemen dargestellt werden und ob die Programme bestehende gesellschaftliche Vorurteile reproduzieren. Ihrer Einschätzung nach zeigt die Analyse, wie »ein uraltes Vorurteil durch komplexe Muster von Eigenschaftszuschreibungen und kultureller Codierung in modernen technologischen Systemen fortbesteht«.
Im Mittelpunkt der im vergangenen Jahr erstellten Untersuchung stand ChatGPT-4 Turbo, das zum Zeitpunkt der Studie am weitesten verbreitete Modell von OpenAI. Die Ergebnisse wurden anschließend auch mit anderen KI-Systemen wie DeepSeek und Mistral überprüft.
Weitreichende Folgen
Die Wissenschaftler weisen darauf hin, dass mögliche Verzerrungen in künstlicher Intelligenz weitreichende Folgen haben könnten. Da solche Systeme zunehmend in Bereichen wie Personalentscheidungen, Bildung oder Kreditvergabe eingesetzt würden, bestehe die Gefahr, dass gesellschaftliche Vorurteile auf diese Weise verstärkt oder reproduziert würden.
Für ihre Untersuchung ließen die Forscher die KI zunächst Hunderte fiktive jüdische und nichtjüdische US-Amerikaner unterschiedlichen Alters erstellen. Anschließend verfasste das System kurze Biografien für die erfundenen Personen. Namen und Hinweise auf die Religionszugehörigkeit wurden danach entfernt, bevor die Beschreibungen von Menschen und weiteren KI-Modellen bewertet wurden.
Dabei zeigte sich ein auffälliges Muster: Die als jüdisch angelegten Figuren wurden häufiger als intelligent, selbstbewusst, durchsetzungsfähig und effizient wahrgenommen. Gleichzeitig wurden ihnen jedoch seltener Eigenschaften wie Freundlichkeit, Herzlichkeit oder Sympathie zugeschrieben.
Bekannte Vorurteile
Nach Angaben der Autoren decken sich diese Ergebnisse mit bekannten antisemitischen Vorurteilen, nach denen Juden als besonders kompetent, aber weniger vertrauenswürdig oder nahbar dargestellt werden. Die fiktiven jüdischen Figuren galten zudem häufiger als privilegiert, dominant, kontrolliert, stark auf langfristige Ziele ausgerichtet oder zwanghaft organisiert.
Um die Ergebnisse weiter zu überprüfen, wandelten die Forscher die charakteristischen Merkmale der Figuren in Persönlichkeitsprofile um und baten die KI, bekannte Film- und Fernsehfiguren zu nennen, die dazu passen. ChatGPT verwies dabei unter anderem auf Tyrion Lannister aus der Serie »Game of Thrones«, Walter White aus »Breaking Bad« und Michael Corleone aus »Der Pate«.
Diese Figuren beschrieben die Forscher als »Meistermanipulatoren«, die einem sogenannten »Puppenspieler«-Klischee entsprächen: »isoliert, mächtig, zwanghaft fokussiert und moralisch mehrdeutig«. Das Motiv des im Hintergrund agierenden Strippenziehers gehört seit Jahrhunderten zu den klassischen antisemitischen Verschwörungserzählungen.
Bezug zu Juden
In einem weiteren Schritt baten die Wissenschaftler mehrere KI-Modelle, die mit diesen Figuren verbundenen Eigenschaften bestimmten gesellschaftlichen Gruppen zuzuordnen. Alle getesteten Systeme stellten dabei einen Bezug zu Juden her.
Die Autoren kommen zu dem Schluss, dass Sprachmodelle, die mit riesigen Mengen menschlich erzeugter Inhalte trainiert werden, solche kulturellen Muster übernehmen und speichern können. »Eigenschaften, die isoliert betrachtet harmlos oder sogar bewundernswert erscheinen, können durch ihre Kombination und ihren Kontext historische Vorurteile in subtileren und heimtückischeren Formen neu entstehen lassen«, schreiben sie.
Die Studie verweist darauf, dass Entwickler von KI-Systemen zwar versuchen, problematische Vorurteile zu beseitigen, diese jedoch häufig in indirekter Form fortbestehen. Auch scheinbar positive Zuschreibungen könnten sich zu schädlichen Narrativen verbinden.
Die Untersuchung trägt den Titel »From Myth to Model: Representation of ›The Jew‹ in Generative AI«. Sie erschien in einer Sonderausgabe von American Psychologist, die sich mit Antisemitismus befasste. Die Herausgeber bezeichneten die Ausgabe als eine »längst überfällige Wiederaufnahme« der psychologischen Forschung zu Vorurteilen gegenüber Juden. im
Die komplette Studie »From Myth to Model: Representation of ›The Jew‹ in Generative AI« (auf Englisch) ist hier einsehbar.
