Dario Amodei, Chef des KI-Unternehmens Anthropic, warnt eindringlich vor den Gefahren einer immer schneller voranschreitenden Entwicklung künstlicher Intelligenz. Die Branche habe die Risiken der Technologie lange heruntergespielt, sagte Amodei in einem Interview mit CBS News. »Ich werde Sie nicht anlügen: Es gibt echte Gefahren«, erklärte er. »Und ich glaube, die Branche hat die Menschen zu lange darüber belogen, dass diese Technologie Risiken birgt.«

Zu den schärfsten Warnungen gehört die Einschätzung des früheren Anthropic-Mitarbeiters Jacob Coxon. Er sieht die Möglichkeit, dass sogenannte selbstverbessernde Superintelligenz eines Tages die Existenz der Menschheit bedrohen könnte. Unternehmen wie Anthropic und OpenAI würden mit dem Leben der Menschen »pokern«, schrieb Coxon in sozialen Medien.

Coxon verglich eine solche Entwicklung mit Szenarien aus Science-Fiction-Filmen. »Es sieht nicht so anders aus als etwa bei ‚Terminator‘ oder in Science-Fiction-Filmen«, sagte er ebenfalls gegenüber CBS. Eine entsprechend leistungsfähige KI werde »intelligent genug sein, uns zu töten«.

Exponentielle Kurve

Amodei räumt ein, dass auch er die Geschwindigkeit des technologischen Fortschritts unterschätzt habe. »Ich glaube nicht, dass ich vollständig verstanden habe, wie es tatsächlich sein würde, wenn der Fortschritt so schnell wäre«, sagte der jüdische Anthropic-Chef.

Lesen Sie auch

Die Fingerabdrücke von Qumran

Wie Wissenschaftler mithilfe von Künstlicher Intelligenz den Schriftrollen vom Toten Meer ihre letzten Geheimnisse entlocken wollen

KI: Wie die Welt einmal untergehen könnte

Der Kontrollverlust der Softwarefirma OpenAI über ihr neuestes Modell macht erneut die Notwendigkeit deutlich, KI-Technologie stärker zu regulieren. Dabei geht es um nicht weniger als die Zukunft der Menschheit

Wie Sam Altmans KI ausbrach und eine Firma hackte

Ein außergewöhnlicher Vorfall bei einem Testlauf des ChatGPT-Entwicklers demonstriert drastisch das Risiko von KI-Cyberattacken. Dabei wollte die Software nur in einem Test schummeln

Nach seiner Einschätzung befindet sich die Entwicklung künstlicher Intelligenz auf einer exponentiellen Kurve, deren Steigung inzwischen zunimmt. Das bedeute allerdings nicht, dass unmittelbar Panik ausbrechen müsse oder die Entwicklung komplett gestoppt werden sollte. Dennoch sei die Entwicklung ein Warnsignal. »Es ist ein Warnsignal, dass wir das Tempo verlangsamen müssen«, sagte Amodei.

In einem am Samstag veröffentlichten Essay fordert er deshalb die gesamte Technologiebranche dazu auf, gemeinsam das Tempo bei der Entwicklung immer leistungsfähigerer KI-Systeme zu begrenzen. Anthropic will zugleich die Sicherheitskontrollen bei neuen Modellen verschärfen. Die Veröffentlichung fortschrittlicher Systeme soll nach Amodeis Worten nicht grundsätzlich eingestellt werden. Entscheidend sei vielmehr, dass jede neue Modellgeneration zuvor angemessen getestet werde.

Unabhängige Prüfer

Dafür plant Anthropic eine stärkere Kontrolle durch unabhängige Prüfer. Externe Evaluatoren sollen dauerhaft einen Zugang zu den Modellen erhalten, der mit dem eines Mitarbeiters vergleichbar ist. Amodei verglich dieses Verfahren mit der Lebensmittelkontrolle.

Er hält solche Maßnahmen allein allerdings nicht für ausreichend und spricht sich deshalb für eine staatliche Regulierung der KI-Branche aus. Die politischen Vorschläge reichen bislang von einem vollständigen Verbot von Superintelligenz bis hin zu einem verpflichtenden »Kill Switch«, mit dem besonders riskante Systeme abgeschaltet werden könnten.

Einen solchen Not-Aus-Mechanismus hält Amodei grundsätzlich für denkbar. Ein komplettes Verbot lehnt er dagegen ab. Zum einen könnten dadurch mögliche enorme Vorteile der Technologie, etwa medizinische Fortschritte und neue Behandlungsmöglichkeiten, verloren gehen. Zum anderen würde ein Verbot in den USA nicht verhindern, dass andere Staaten die Technologie entwickeln. Amodei verwies dabei ausdrücklich auch auf autoritär regierte Länder. im