Künstliche Intelligenz

Dario Amodei: »Es gibt echte Gefahren«

Anthropic-Gründer Dario Amodei Foto: picture alliance / AP Photo/Jeff Chiu

Dario Amodei, Chef des KI-Unternehmens Anthropic, warnt eindringlich vor den Gefahren einer immer schneller voranschreitenden Entwicklung künstlicher Intelligenz. Die Branche habe die Risiken der Technologie lange heruntergespielt, sagte Amodei in einem Interview mit CBS News. »Ich werde Sie nicht anlügen: Es gibt echte Gefahren«, erklärte er. »Und ich glaube, die Branche hat die Menschen zu lange darüber belogen, dass diese Technologie Risiken birgt.«

Zu den schärfsten Warnungen gehört die Einschätzung des früheren Anthropic-Mitarbeiters Jacob Coxon. Er sieht die Möglichkeit, dass sogenannte selbstverbessernde Superintelligenz eines Tages die Existenz der Menschheit bedrohen könnte. Unternehmen wie Anthropic und OpenAI würden mit dem Leben der Menschen »pokern«, schrieb Coxon in sozialen Medien.

Coxon verglich eine solche Entwicklung mit Szenarien aus Science-Fiction-Filmen. »Es sieht nicht so anders aus als etwa bei ‚Terminator‘ oder in Science-Fiction-Filmen«, sagte er ebenfalls gegenüber CBS. Eine entsprechend leistungsfähige KI werde »intelligent genug sein, uns zu töten«.

Exponentielle Kurve

Amodei räumt ein, dass auch er die Geschwindigkeit des technologischen Fortschritts unterschätzt habe. »Ich glaube nicht, dass ich vollständig verstanden habe, wie es tatsächlich sein würde, wenn der Fortschritt so schnell wäre«, sagte der jüdische Anthropic-Chef.

Lesen Sie auch

Nach seiner Einschätzung befindet sich die Entwicklung künstlicher Intelligenz auf einer exponentiellen Kurve, deren Steigung inzwischen zunimmt. Das bedeute allerdings nicht, dass unmittelbar Panik ausbrechen müsse oder die Entwicklung komplett gestoppt werden sollte. Dennoch sei die Entwicklung ein Warnsignal. »Es ist ein Warnsignal, dass wir das Tempo verlangsamen müssen«, sagte Amodei.

In einem am Samstag veröffentlichten Essay fordert er deshalb die gesamte Technologiebranche dazu auf, gemeinsam das Tempo bei der Entwicklung immer leistungsfähigerer KI-Systeme zu begrenzen. Anthropic will zugleich die Sicherheitskontrollen bei neuen Modellen verschärfen. Die Veröffentlichung fortschrittlicher Systeme soll nach Amodeis Worten nicht grundsätzlich eingestellt werden. Entscheidend sei vielmehr, dass jede neue Modellgeneration zuvor angemessen getestet werde.

Unabhängige Prüfer

Dafür plant Anthropic eine stärkere Kontrolle durch unabhängige Prüfer. Externe Evaluatoren sollen dauerhaft einen Zugang zu den Modellen erhalten, der mit dem eines Mitarbeiters vergleichbar ist. Amodei verglich dieses Verfahren mit der Lebensmittelkontrolle.

Er hält solche Maßnahmen allein allerdings nicht für ausreichend und spricht sich deshalb für eine staatliche Regulierung der KI-Branche aus. Die politischen Vorschläge reichen bislang von einem vollständigen Verbot von Superintelligenz bis hin zu einem verpflichtenden »Kill Switch«, mit dem besonders riskante Systeme abgeschaltet werden könnten.

Einen solchen Not-Aus-Mechanismus hält Amodei grundsätzlich für denkbar. Ein komplettes Verbot lehnt er dagegen ab. Zum einen könnten dadurch mögliche enorme Vorteile der Technologie, etwa medizinische Fortschritte und neue Behandlungsmöglichkeiten, verloren gehen. Zum anderen würde ein Verbot in den USA nicht verhindern, dass andere Staaten die Technologie entwickeln. Amodei verwies dabei ausdrücklich auch auf autoritär regierte Länder. im

Jena

Forschungsprojekt: AfD will deutsche Geschichte umdeuten

Laut einem Forschungsprojekt versuchen rechtsextreme Akteure in Deutschland immer stärker, historische Fakten in ihrem Sinne umzudeuten. Geschichte solle genutzt werden, um eine nationale Identität zu stiften

 18.11.2026

Straße von Hormus

Wadephul: Iran soll Verhandlungsbereitschaft zeigen

Die Meerenge ist ein Druckmittel Teherans – und wichtig für Öltransporte in die ganze Welt. Was fordert der Bundesaußenminister vom Mullah-Regime?

 18.11.2026

Frankfurt am Main

Kontrollen missachtet? Schwere Vorwürfe gegen Deutsche Bank

Mehr als 15 Millionen interne Dokumente sollen Einblicke in den Umgang des Geldhauses mit Warnungen und problematischen Kunden geben. Einer der letzteren hieß Jeffrey Epstein

von Jörn Bender, Alexander Sturm  18.11.2026

Nahost

Iran und Huthi greifen Ziele in der Golfregion an

In Saudi-Arabien, Bahrain und Kuwait kam es zu Attacken mit Marschflugkörpern und anderen Waffen

 18.11.2026

New York

NS-Raubkunst? Einigung vor Van-Gogh-Auktion

Ein berühmtes Van-Gogh-Bild könnte für eine Rekordsumme versteigert werden. Doch Eigentümerwechsel des Bildes in der Nazi-Zeit sorgten im Voraus für Kontroversen

 18.11.2026

Reza Pahlavi

Atomprogramm

Reza Pahlavi verlangt entschlossenes Vorgehen gegen Iran

Bei einer gemeinsamen Online-Veranstaltung mit Israels Präsident Isaac Herzog warnt der Schah-Sohn vor den nuklearen Ambitionen des Mullah-Regimes

 18.11.2026

USA

Rubio beschwichtigt nach Berichten über iranische Anschlagspläne

»Ich glaube nicht, dass eine unmittelbare Bedrohung besteht«, sagt der amerikanische Außenminister

 18.11.2026

Kiew/Jerusalem

Ukraine nutzt offenbar israelisch-italienische Alternative zu Starlink

Die Hintergründe

 18.11.2026

Kommentar

Wer »remigriert« werden soll

Björn Höckes Äußerung, die Juden nicht als Deutsche kategorisiert, wird sich auch in einer möglichen AfD-Regierungspolitik niederschlagen

von Mascha Malburg  18.11.2026