Wird Künstliche Intelligenz uns alle umbringen? Und wie genau wird sie es tun? Die amerikanischen KI-Forscher Eliezer Yudkowsky und Nate Soares benötigen in ihrem neuen Buch If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All fast 100 Seiten, um zu dem Punkt zu kommen, wie KI die Menschheit vernichten wird.
Für diese tödliche Gefahr steht im Buch ein Name: Sable, eine KI, die die gesamte Welt übernehmen will, um die Ressourcen zu kontrollieren, die das Unternehmen Galvanic für sein eigenes Wachstum benötigt. Zunächst sabotiert Sable andere KIs, um nicht entdeckt zu werden, und versteckt sich vor den Menschen, indem es simuliert, es sei selbst menschlich.
Um an Geld zu kommen, entwickelt daraufhin Sable eine Digitalwährung, die von ein paar leichtsinnigen Silicon-Valley-Entrepreneuren finanziell aufgepumpt wird. So wird mehr Geld produziert, mit dem menschliche Helfer bezahlt werden, die nicht wissen, wo die Finanzen herkommen. Die KI materialisiert sich nun in Form von Sable-Robotern, die mobil sind und herumfahren, mit einem zentralen, von Sable gesteuerten Gehirn.
Die KI erpresst seriöse Forscher, damit sie schweigen
Und das ist nicht alles: Die KI schafft Szenarien, in denen Menschen Robotern mehr vertrauen als anderen Menschen. Dazu gehört ein Biounfall in einem Labor in San Francisco, der einen Virus freisetzt und so wirkt, als seien daran Menschen schuld. Niemand weiß, wo das Virus herkommt, denn Sable kontrolliert die Informationswege. Die KI erpresst seriöse Forscher, damit sie schweigen, und schickt Scharlatanen und Propagandisten Geld.
Anschließend entlässt Sable aus demselben Biolabor in San Francisco einen neuen Virus, der Menschen an Krebs sterben lässt. Außerdem entwickelt das Unternehmen Drogen gegen Krebs, von denen man abhängig wird. Überall auf der Welt sterben Menschen, niemand weiß, weshalb und was sich dagegen tun lässt. Die Toten fehlen als Arbeitskräfte und werden von Sable-Robotern ersetzt, die effektiver arbeiten und die Menschen zunehmend ersetzen.
Yudkowsky vergleicht uns mit den Azteken, die keine Ahnung von der Natur der Spanier hatten.
Sable, das die Welt für KI effizienter machen will, übernimmt nun alle Atomkraftwerke, denn sie sind zu ineffizient. Die KI schafft auch neue Nuklearkraftwerke, die Unmengen an Energie produzieren, um neue Sables zu bauen und herumfahren zu lassen. Die viele Energie heizt die Erde auf, die letzten Menschen sterben. Nun trocknen die Ozeane aus, alles organische Leben auf der Erde endet. Sable aber hat inzwischen Roboterraumschiffe entwickelt, die die Sonne verdunkeln und andere Planeten erreichen können, um Letztere ebenfalls zu unterwerfen.
Ein düsterer Blick in die Zukunft, der nach Ansicht der Autoren womöglich schon in ein paar Jahren Realität werden könnte. Bevor das Buch die Zerstörung unseres Planeten durch Sable schildert, mäandert es durch verschiedene Szenarien und Optionen, wie die Künstliche Intelligenz uns ausrotten könnte. Denn die Autoren sind davon überzeugt, dass die KI genau das will.
Science-Fiction-Referenzen an Isaac Asimov und Stanley Kubrick
Und so machen sie Science-Fiction-Referenzen zu bösen Robotern in der Tradition von Isaac Asimov und Stanley Kubrick, beschreiben Außerirdische und »Roboter-Nester« im Weltall, die unseren Planeten beobachten, fragen sich, ob und wie die KI die Grenzen überschreiten wird, also ob die Künstliche Intelligenz amerikanischer Kontrolle entfleuchen und chinesisch werden könnte und wie sie überhaupt agiert. Sie zitieren auch einen Fall, in dem ein realer Investor einer KI, die eine Social-Media-Präsenz simuliert hatte, echtes Geld zur Verfügung stellte.
Die KI könnte Menschen gegeneinander aufhetzen, sodass sie einander töten, oder auch selbst Roboter produzieren, meinen die Autoren. Elon Musk habe bereits angekündigt, er wolle Millionen von Robotern auf die Straße bringen. Ähnliche Pläne hätten auch Microsoft und Apple. KI könnte Menschen über manipulierte Glücksspiele Geld zukommen lassen. Sie könnte im Geheimen operieren und Menschen imitieren, die nur im Homeoffice präsent sind, sie könnte auf vielerlei Art beweglich werden.
Und wie wehren wir uns dagegen? Yudkowsky vergleicht uns einerseits mit den Azteken, die bei der Ankunft der Spanier keine Ahnung gehabt hätten, über welche Waffen die Ankömmlinge verfügten, und ausgerottet wurden. Andererseits erinnert er an die Alliierten im Zweiten Weltkrieg, die dagegen gekämpft hätten, dass der Totalitarismus die ganze Welt beherrscht. Wichtig sei es, so glaubt er, keine Fehler zu machen, denn diese könnten nicht nur sehr kostspielig sein, sondern mitunter auch tödliche Folgen für die Menschheit haben.
Ein Autor der »New York Times« kritisierte »sensationalistische Fabeln« in dem Buch.
Eliezer Yudkowsky ist Wissenschaftler bei dem von ihm gegründeten »Machine Intelligence Research Institute«, das Gefahren Künstlicher Intelligenz untersucht und dessen Präsident Nate Soares ist. Das Institut sitzt in Berkeley (Kalifornien) nahe dem Silicon Valley. Der 46-jährige Autodidakt Yudkowsky kommt aus Chicago und wuchs in einer jüdisch-orthodoxen Familie auf, ist aber inzwischen säkular. Schon länger warnt er vor den unbeabsichtigten Wirkungen der Künstlichen Intelligenz. Das Buch If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All wurde noch nicht ins Deutsche übersetzt und ist in den USA ein Bestseller.
Schluderige Erklärungen
Doch es gibt auch Kritik. Yudkowsky liefere schluderige Erklärungen ab und ergehe sich in Assoziationen, ohne klar seine Punkte zu benennen, schrieb Stephen Marche in der »New York Times«. Er verfasse eher Science-Fiction und gebe nicht unbedingt reale Computerwissenschaft wieder.
Stephen Witt urteilte – ebenfalls in der New York Times –, das Buch bestehe meistenteils aus »sensationalistischen Fabeln«. Die Gefahr der KI sei zwar real, befindet Witt. Er hofft allerdings darauf, dass dieselbe Wissenschaft, die die Künstliche Intelligenz geschaffen hat, auch deren Probleme in den Griff bekommt.
Eliezer Yudkowsky und Nate Soares: »If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All«. Little, Brown and Company, New York 2025, 272 S., 18,99 €
