Künstliche Intelligenz

Wenn böse Roboter die Menschheit ausrotten

Yudkowskys Dystopie: Eine KI lässt Atomkraftwerke so viel Energie erzeugen, dass sich die Erde aufheizt und die letzten Menschen sterben. Foto: Marco Limberg via KI

Wird Künstliche Intelligenz uns alle umbringen? Und wie genau wird sie es tun? Die amerikanischen KI-Forscher Eliezer Yudkowsky und Nate Soares benötigen in ihrem neuen Buch If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All fast 100 Seiten, um zu dem Punkt zu kommen, wie KI die Menschheit vernichten wird.

Für diese tödliche Gefahr steht im Buch ein Name: Sable, eine KI, die die gesamte Welt übernehmen will, um die Ressourcen zu kontrollieren, die das Unternehmen Galvanic für sein eigenes Wachstum benötigt. Zunächst sabotiert Sable andere KIs, um nicht entdeckt zu werden, und versteckt sich vor den Menschen, indem es simuliert, es sei selbst menschlich.

Um an Geld zu kommen, entwickelt daraufhin Sable eine Digitalwährung, die von ein paar leichtsinnigen Silicon-Valley-Entrepreneuren finanziell aufgepumpt wird. So wird mehr Geld produziert, mit dem menschliche Helfer bezahlt werden, die nicht wissen, wo die Finanzen herkommen. Die KI materialisiert sich nun in Form von Sable-Robotern, die mobil sind und herumfahren, mit einem zentralen, von Sable gesteuerten Gehirn.

Die KI erpresst seriöse Forscher, damit sie schweigen

Und das ist nicht alles: Die KI schafft Szenarien, in denen Menschen Robotern mehr vertrauen als anderen Menschen. Dazu gehört ein Biounfall in einem Labor in San Francisco, der einen Virus freisetzt und so wirkt, als seien daran Menschen schuld. Niemand weiß, wo das Virus herkommt, denn Sable kontrolliert die Informationswege. Die KI erpresst seriöse Forscher, damit sie schweigen, und schickt Scharlatanen und Propagandisten Geld.

Anschließend entlässt Sable aus demselben Biolabor in San Francisco einen neuen Virus, der Menschen an Krebs sterben lässt. Außerdem entwickelt das Unternehmen Drogen gegen Krebs, von denen man abhängig wird. Überall auf der Welt sterben Menschen, niemand weiß, weshalb und was sich dagegen tun lässt. Die Toten fehlen als Arbeitskräfte und werden von Sable-Robotern ersetzt, die effektiver arbeiten und die Menschen zunehmend ersetzen.

Yudkowsky vergleicht uns mit den Azteken, die keine Ahnung von der Natur der Spanier hatten.

Sable, das die Welt für KI effizienter machen will, übernimmt nun alle Atomkraftwerke, denn sie sind zu ineffizient. Die KI schafft auch neue Nuklearkraftwerke, die Unmengen an Energie produzieren, um neue Sables zu bauen und herumfahren zu lassen. Die viele Energie heizt die Erde auf, die letzten Menschen sterben. Nun trocknen die Ozeane aus, alles organische Leben auf der Erde endet. Sable aber hat inzwischen Roboterraumschiffe entwickelt, die die Sonne verdunkeln und andere Planeten erreichen können, um Letztere ebenfalls zu unterwerfen.

Ein düsterer Blick in die Zukunft, der nach Ansicht der Autoren womöglich schon in ein paar Jahren Realität werden könnte. Bevor das Buch die Zerstörung unseres Planeten durch Sable schildert, mäandert es durch verschiedene Szenarien und Optionen, wie die Künstliche Intelligenz uns ausrotten könnte. Denn die Autoren sind davon überzeugt, dass die KI genau das will.

Science-Fiction-Referenzen an Isaac Asimov und Stanley Kubrick

Und so machen sie Science-Fiction-Referenzen zu bösen Robotern in der Tradition von Isaac Asimov und Stanley Kubrick, beschreiben Außerirdische und »Roboter-Nester« im Weltall, die unseren Planeten beobachten, fragen sich, ob und wie die KI die Grenzen überschreiten wird, also ob die Künstliche Intelligenz amerikanischer Kontrolle entfleuchen und chinesisch werden könnte und wie sie überhaupt agiert. Sie zitieren auch einen Fall, in dem ein realer Investor einer KI, die eine Social-Media-Präsenz simuliert hatte, echtes Geld zur Verfügung stellte.

Die KI könnte Menschen gegeneinander aufhetzen, sodass sie einander töten, oder auch selbst Roboter produzieren, meinen die Autoren. Elon Musk habe bereits angekündigt, er wolle Millionen von Robotern auf die Straße bringen. Ähnliche Pläne hätten auch Microsoft und Apple. KI könnte Menschen über manipulierte Glücksspiele Geld zukommen lassen. Sie könnte im Geheimen operieren und Menschen imitieren, die nur im Homeoffice präsent sind, sie könnte auf vielerlei Art beweglich werden.

Und wie wehren wir uns dagegen? Yudkowsky vergleicht uns einerseits mit den Azteken, die bei der Ankunft der Spanier keine Ahnung gehabt hätten, über welche Waffen die Ankömmlinge verfügten, und ausgerottet wurden. Andererseits erinnert er an die Alliierten im Zweiten Weltkrieg, die dagegen gekämpft hätten, dass der Totalitarismus die ganze Welt beherrscht. Wichtig sei es, so glaubt er, keine Fehler zu machen, denn diese könnten nicht nur sehr kostspielig sein, sondern mitunter auch tödliche Folgen für die Menschheit haben.

Ein Autor der »New York Times« kritisierte »sensationalistische Fabeln« in dem Buch.

Eliezer Yudkowsky ist Wissenschaftler bei dem von ihm gegründeten »Machine Intelligence Research Institute«, das Gefahren Künstlicher Intelligenz untersucht und dessen Präsident Nate Soares ist. Das Institut sitzt in Berkeley (Kalifornien) nahe dem Silicon Valley. Der 46-jährige Autodidakt Yudkowsky kommt aus Chicago und wuchs in einer jüdisch-orthodoxen Familie auf, ist aber inzwischen säkular. Schon länger warnt er vor den unbeabsichtigten Wirkungen der Künstlichen Intelligenz. Das Buch If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All wurde noch nicht ins Deutsche übersetzt und ist in den USA ein Bestseller.

Schluderige Erklärungen

Doch es gibt auch Kritik. Yudkowsky liefere schluderige Erklärungen ab und ergehe sich in Assoziationen, ohne klar seine Punkte zu benennen, schrieb Stephen Marche in der »New York Times«. Er verfasse eher Science-Fiction und gebe nicht unbedingt reale Computerwissenschaft wieder.

Stephen Witt urteilte – ebenfalls in der New York Times –, das Buch bestehe meistenteils aus »sensationalistischen Fabeln«. Die Gefahr der KI sei zwar real, befindet Witt. Er hofft allerdings darauf, dass dieselbe Wissenschaft, die die Künstliche Intelligenz geschaffen hat, auch deren Probleme in den Griff bekommt.

Eliezer Yudkowsky und Nate Soares: »If Anyone Builds It, Everyone Dies. Why Superhuman AI Would Kill Us All«. Little, Brown and Company, New York 2025, 272 S., 18,99 €

Paläontologie

Das Noo-Noo-Insekt aus der Dino-Zeit

Es ist 99 Millionen Jahre alt, in Bernstein eingeschlossen – und sein Name knüpft an den Staubsauger aus der Kinderserie »Teletubbies« an

von Sabine Brandes  09.11.2026

Rose Ausländer

Berückende, rastlose Poesie

Porträt einer Dichterin zwischen Czernowitz, New York und Düsseldorf

von Alexander Kluy  09.11.2026

Interview

»Ich wollte wieder ein schönes Judentum«

Die Schoa-Überlebende Charlotte Knobloch blickt mit Sorge auf die Zukunft jüdischen Lebens in Deutschland. Ihre Hoffnung auf ein selbstverständliches Miteinander schwindet – aber den Mut behält sie

von Michael Schleicher  09.11.2026

Konzerte

Giora Feidman auf Tour in Deutschland

Der inzwischen 90 Jahre alte Musiker präsentiert das Konzertprojekt »For a Better World« auf 21 Bühnen

 09.11.2026

Hamburg

»Er war unser Bob Dylan«: Wolf Biermann wird 90

Er erschütterte mit seiner Ausbürgerung Deutschland und schrieb Lieder, die bis heute berühren. Ausgerechnet sein ikonischer Schnurrbart begann mit einer Liebesgeschichte - und schwarzer Farbe

von Sven Gösmann, Lisa Forster  09.11.2026

USA

Die Frau hinter Franklin

Vor 100 Jahren wurde Harriet Glickman geboren

 09.11.2026

Tobias Korenke

Gespräch

»Jetzt sind wir als Nachgeborene gefordert«

»Grandios gescheitert«: So hart urteilt Historiker Tobias Korenke über die deutsche Erinnerungskultur. Und hat Änderungsvorschläge. Bonhoeffer-Nachfahre zu sein, hat für ihn durch den AfD-Aufschwung eine neue Bedeutung

von Karin Wollschläger  08.11.2026

Blick aus einem Fenster der Höß-Villa auf Gebäude des ehemaligen KZ Auschwitz

Auschwitz

»Mein Großvater war der größte Massenmörder aller Zeiten«

Kai Uwe Höss ist der Enkel von Lagerkommandant Rudolf Höß. Wie lebt es sich mit dieser familiären Bürde?

von Matthias Pankau  08.11.2026

München

20 Jahre jüdisches Leben im Herzen Münchens: Synagoge Ohel Jakob

Das Judentum ist seit 20 Jahren wieder mitten in der bayerischen Hauptstadt verankert

von Christiane Ried  08.11.2026