Wenn sich bei der Diskussion über die Künstliche Intelligenz (KI) heute Heilsversprechen und apokalyptische Prophezeiungen gegenüberstehen, ist stets Vorsicht geboten. Das war schon so bei der Atomkraft, und es gilt auch bei der Künstlichen Intelligenz. Und in der Tat haben sowohl Microsoft-Gründer Bill Gates als auch Twitter-Herrscher Elon Musk die KI schon mit der Atomkraft verglichen, mit ihrem angeblich riesigen Potenzial und den gewaltigen Risiken, die damit einhergehen.
Dabei ist die sogenannte Künstliche Intelligenz derzeit nichts anderes als angewandte Statistik, verbunden mit Mechanismen des computergestützten Selbstlernens. Dennoch fasziniert sie derzeit viele. KI produziert in Form von ChatGPT erstaunlich gut lesbare Texte. Das kann jeder für sich selbst ausprobieren.
übersetzungssoftware Das System von OpenAI in Kalifornien, ursprünglich als gemeinnütziges Unternehmen gegründet, produziert jetzt schon Milliarden an Einnahmen für Microsoft, denn der IT-Gigant hat es sich für teures Geld einverleibt. An der Übersetzungssoftware DeepL aus Köln können wir sehen, welche Fortschritte die KI bei der Beherrschung von Sprache in den letzten Jahren gemacht hat. Es ist gut zu wissen, dass DeepL um einiges besser ist als vergleichbare Übersetzungsdienste der US-Giganten. Wie sagte schon Umberto Eco: »Die Übersetzung ist die Sprache Europas.«
Europa ist bei der KI weder abgehängt noch der amerikanischen Technologie ausgeliefert.
Europa ist bei der KI weder abgehängt noch der amerikanischen Technologie ausgeliefert; wir können das alles auch selbst sehr gut. Im Unterschied zu Amerika aber haben wir in Europa gelernt, längerfristig zu denken und Risiken neuer Technologien abzuschätzen und einzuhegen.
Das verdanken wir nicht zuletzt Hans Jonas, dem jüdischen Religionsphilosophen, der vor den Nazis nach Amerika flüchten musste und viele Jahre an der New School of Social Research in New York lehrte. 1979 schrieb Jonas sein Buch Prinzip Verantwortung, das in den Reihen der deutschen Anti-Atomkraft-Bewegung den Status einer »Bibel« erlangte.
potenzial Es lohnt sich noch, in dieses Büchlein hineinzuschauen. Denn was uns Jonas ins Stammbuch schrieb, gilt auch heute noch: Wenn wir es mit Technologien zu tun haben, die das Potenzial haben, die Menschheit auszulöschen oder das Menschsein auf Erden gewaltig zu verändern, müssen wir Vorsorge treffen, dass die schlimmsten Folgen dieser Technologie niemals eintreten. Diese Pflicht haben wir auch dann, wenn wir unsicher sind, ob solche Folgen überhaupt jemals eintreten werden.
Hans Jonas gehört zu der sehr kleinen Gruppe von Philosophen, deren Werk die Welt wirklich verändert hat. Sein Vorsorgeprinzip ist sogar in das Europarecht eingeflossen. Zunächst nur als ein Prinzip des Umweltrechts, später – durch die Rechtsprechung des Europäischen Gerichtshofs – auch als allgemeines Prinzip der Gesetzgebung.
Dass die KI eines Tages Gewaltiges bewirken wird, steht außer Frage.
Es ist daher gut und richtig, dass die EU nun bald ein Gesetz über die Künstliche Intelligenz verabschieden wird. Dieses teilt die KI in vier Risikoklassen ein. Zu den künftig verbotenen Formen werden dann KI-gestützte Systeme zur sozialen Bewertung gehören, dem sogenannten »Social Scoring«, wie wir es aus China kennen. In den drei anderen Risikoklassen werden Auflagen definiert, um so sicherzustellen, dass Grundrechtsschutz, Demokratie und Rechtstaatlichkeit auch im Zeitalter der KI funktionieren.
gier Es wird zur Rechtspflicht erhoben, was ein vernünftiger und verantwortlich handelnder Ingenieur und Informatiker ohnehin tun würde. Und wir wissen ja seit Eugen Kogons großer Studie über die »Stunde der Ingenieure« von 1976, dass Ingenieure als Einzelne sehr verantwortlich handeln wollen. Nur macht die Gier nach Profit im »Raubtierkapitalismus« (Helmut Schmidt) den Einzelnen ein solch verantwortliches Handeln oft sehr schwer.
Damit Ingenieure und Entwickler nicht mit ihrer schweren Verantwortung alleingelassen werden, braucht es Gesetze wie den geplanten »AI Act« der Europäischen Union. Denn dass die sogenannte Generative KI Gewaltiges bewirken wird, ja eines Tages vielleicht sogar den Menschen überflügeln könnte, steht wohl außer Frage.
Damit Ingenieure und Entwickler nicht mit ihrer schweren Verantwortung alleingelassen werden, braucht es Gesetze wie den geplanten »AI Act« der EU.
Stuart Russell, Autor des aktuell wichtigsten KI-Lehrbuchs für Universitäten, schrieb über die Notwendigkeit, das Kontrollproblem zu lösen, das sich ergibt, wenn ein technisches System in jeder Hinsicht intelligenter wird als der Mensch.
»golem aleph« 1965 wurde Gershom Scholem, ein ebenfalls aus Deutschland geflüchteter jüdischer Philosoph und Mitbegründer des Leo-Baeck-Instituts, von Chaim Pekeris herbeigerufen. Pekeris war Professor am Weizmann-Institut in Rehovot und hatte soeben den ersten Computer entwickelt. Scholem gab ihm den Namen »Golem Aleph« (Golem I). Anstelle des Wortes »Golem« sollten wir »KI« in seine große Rede aus diesem Anlass hineinlesen.
Scholem fragte damals: Was haben der Prager Golem des Mittelalters und der Golem Aleph gemeinsam? Kann der Golem wachsen? Kann er menschliche Form annehmen? Kann er sich erinnern und sprechen? Kann der Golem lieben? Ich denke, es täte der KI der Zukunft gut, wenn ihre Entwickler und Nutzer Jonas und Scholem lesen würden.
Der Autor ist Beamter der Europäischen Kommission, Trustee des Leo-Baeck-Instituts in New York und Co-Autor des Buches »Prinzip Mensch. Macht, Freiheit und Demokratie im Zeitalter der Künstlichen Intelligenz«.
