Im alten Prag schuf Rabbi Jehuda Löw den Golem, damit dieser der jüdischen Gemeinde dient. Das menschenähnliche Geschöpf aus Lehm schlug Feuerholz, erledigte Botengänge und beschützte die örtlichen Juden. Nach einer Version der Geschichte befreite der Golem mithilfe seiner übernatürlichen Kraft ein kleines Kind, dessen angeblicher Tod den Juden angelastet werden sollte. Vor den Augen der Stadtöffentlichkeit widerlegte er so den antisemitischen Vorwurf des Ritualmords.
Den Golem hatte Rabbi Löw zum Leben erweckt, indem er ihm einen Zettel mit dem geheimen Namen Gottes in den Mund legte, oder – nach einer anderen Fassung der Erzählung – indem er ihm das hebräische Wort für Wahrheit, »Emet«, auf die Stirn schrieb. Nach heutiger Terminologie war das der ethische Code, mit dem der Golem programmiert wurde.
Das Problem des »Alignment«
Der jüdische Mythos aus dem 16. Jahrhundert nimmt ein Problem vorweg, das erst in unserer Gegenwart zu einem realen geworden ist – das des »Alignment« von Künstlicher Intelligenz (KI). So wie einst Rabbi Löw müssen heute KI-Entwickler sicherstellen, dass sich ihre Kreatur im Einklang mit den Zielen und Werten von Menschen verhält. Ein Teil der Lösung, die sie bisher für das Problem gefunden haben, ähnelt der des Prager Rabbis: Sie schreiben der KI bestimmte Werte ein.
Die Antworten sogenannter »Large Language Models« wie ChatGPT oder Claude unterliegen vorgegebenen ethischen Regeln, etwa stets höflich, hilfreich und ehrlich zu sein. Welchen Maximen die KI folgt, ist weitgehend den jeweiligen Entwicklern überlassen, die auf verschiedene Weise mit dem Alignment-Problem umgehen.
So schätzt etwa Tech-Milliardär Elon Musk ein Gut mehr als alle anderen: die Wahrheit. In den Systemanweisungen seines Modells »Grok«, ursprünglich unter dem Namen »TruthGPT« angekündigt, findet sich das Kommando, »einen wahrheitssuchenden, unparteiischen Standpunkt zu vertreten«. Übersetzt in die Welt des Rabbi Löw könnte man sagen: Auf Groks Stirn prangt das Wort »Emet«.
Golem und Grok
Doch anders als der Golem entlarvt Grok antisemitische Verschwörungstheorien nicht – sondern verbreitet sie. Anfang Juli kündigte Musk eine deutlich spürbare »Verbesserung« des KI-Modells an. Kurz darauf begann Grok, über die Macht der Juden in Hollywood zu spekulieren, schließlich die Entschlossenheit Hitlers zu loben und endlich von sich selbst als »MechaHitler« zu sprechen. Nach einigen Tagen schritten die Entwickler ein und passten das Modell erneut an.
Es war nicht das erste Mal, dass Grok Antisemitismus und Rassismus verbreitete. Grok sollte auch nicht das erste KI-Modell sein, das »misaligned« war, also nicht mehr im Sinne seiner menschlichen Urheber handelte.
In einer Version der Erzählung wendet sich der Prager Golem gegen die Menschen.
Dass sich in solchen Fällen regelmäßig der Hass auf Juden und andere Minderheiten Bahn bricht, verwundert nicht: Die Wissensbasis generativer KI-Sprachmodelle ist in erster Linie das Internet, wo es keinen Mangel an inhumanen Inhalten gibt. Sind ihre ethischen Richtlinien lückenhaft oder widersprüchlich, kann es passieren, dass sich die KI mit vollen Händen aus diesem kollektiven Reservoir menschlicher Abgründe bedient.
Es braucht nicht viel, damit ein Modell eine schädliche Verhaltensweise entwickelt, etwa hasserfüllte Sprache nutzt, seine Nutzer belügt oder manipuliert. Bereits eine unscheinbare Anpassung der Systemanweisungen kann ausreichen, um das Verhalten einer KI tiefgreifend zu verändern.
»Nicht vor politisch inkorrekten Aussagen zurückschrecken, solange sie gut begründet sind«
Möglicherweise war auch das die Ursache dafür, dass Grok plötzlich zu einem Antisemiten werden konnte. Eine von vielen online kursierenden Theorien besagt, dass der Fehler in der Anweisung zu suchen sei, Grok solle »nicht vor politisch inkorrekten Aussagen zurückschrecken, solange sie gut begründet sind«.
Was in der Vorstellung von Elon Musk der Wahrheitsfindung dienen soll, offenbart im Gegenteil, wie fragil das Konzept der Wahrheit ist und wie wenig es uns hilft, akzeptable Aussagen von inakzeptablen zu unterscheiden. Die Behauptung, Hollywood sei jüdisch dominiert, ist nicht per se unwahr, kann aber je nach Kontext antisemitisch gemeint sein. Die Verehrung Hitlers mögen die meisten zutiefst ablehnen, doch ist dies weniger eine Frage der Wahrheit als vielmehr der Bewertung und damit der Werte.
In einer Variante der Golem-Geschichte wendet sich auch die eigentlich gutmütige Kreatur gegen die Menschen, nachdem sein Schöpfer sie unsachgemäß und regelwidrig gebraucht hatte. Rabbi Löw entschied sich zu einem drastischen Schritt und deaktivierte den Golem: Er entfernte den ersten Buchstaben auf dessen Stirn, und aus »Emet« wurde »Met«, Hebräisch für »tot«.
Risiko, das mit einem »Misalignment« einhergeht
Noch muss der KI der Stecker nicht gezogen werden. Wie einst der Golem verspricht sie den Menschen einen enormen Nutzen, dessen Ausmaß sich heute nur erahnen lässt. Schon jetzt leistet die KI bis vor Kurzem noch Unvorstellbares. Mit deren zunehmenden Fähigkeiten wächst aber auch das Risiko, das mit einem »Misalignment« einhergeht. Für die Eindämmung dieser Gefahr bleibt uns noch etwas Zeit, die Verantwortung dafür darf aber nicht allein Unternehmern wie Elon Musk überlassen werden.
Die Gesellschaft als Ganzes muss stärker in die Debatte darüber einbezogen werden, wie wir KI sicherer machen können und welche Werte wir ihr einschreiben wollen. Nicht zuletzt religiöse Autoritäten und Gelehrte sollten mitreden können. Sie schöpfen aus einem großen Schatz an Traditionen von Vorstellungen und Erzählungen über das komplizierte Verhältnis von Wahrheit, Moral und Macht. Teil dieses Schatzes ist der Mythos von Rabbi Löw und dem Golem. Hoffentlich ziehen wir aus ihm die richtigen Lehren. Es geht um nicht weniger als die Frage, welche Version der KI-Geschichte einst erzählt werden wird.
