Wenn drei konkurrierende KI-Unternehmer gemeinsam vor zu schneller Entwicklung warnen, ist das ernst zu nehmen. Schlagzeilen über Systeme, die beim Lösen gestellter Aufgaben außer Kontrolle gerieten, passen zudem zu den Bedenken von Sicherheitsexperten.

Trotzdem sollte man die von Sam Altman, Dario Amodei und Elon Musk geforderte Verlangsamung der Entwicklung hinterfragen. Gerade Musk macht zwar seit Jahren auf KI-Gefahren aufmerksam, fiel jedoch bei Themen wie Klimawandel oder russischer Aggression eher durch problematische Äußerungen als durch Faktentreue oder gar Vorsicht auf.

Sind die Warnungen also ehrlich oder doch nur eigennützig? Beides: Sie können aufrichtig und zugleich ein Mittel sein, Aufmerksamkeit, politischen Einfluss und wirtschaftliche Vorteile zu erlangen. Nüchterner geht das israelische Unternehmen AI21 mit dem Thema um, dessen Mitgründer Yoav Shoham den Begriff der »Allgemeinen Künstlichen Intelligenz« (AGI) – die Vorstellung von einer KI mit menschenähnlichen Fähigkeiten – ablehnt.

Man sollte die von Sam Altman, Dario Amodei und Elon Musk geforderte Verlangsamung der Entwicklung hinterfragen.

Er hält den Hype darum für Ablenkung von den konkreten Fähigkeiten und Schwächen heutiger Systeme. Darüber solle man reden statt auf den mythischen Moment zu warten, in dem sich »die AGI« materialisiere. Für Großkonzerne sind die Kosten von Sicherheitsregeln verkraftbar, für kleinere Anbieter eine größere Belastung. Solche Regeln können sinnvoll sein – aber en passant Konkurrenz vom Markt fernhalten.

Lesen Sie auch

KI: Wie die Welt einmal untergehen könnte

Der Kontrollverlust der Softwarefirma OpenAI über ihr neuestes Modell macht erneut die Notwendigkeit deutlich, KI-Technologie stärker zu regulieren. Dabei geht es um nicht weniger als die Zukunft der Menschheit

Börsenexperten warnen zudem vor einer KI-Blase. Verbesserte Modelle brauchen mehr Rechenleistung, Strom, Wasser und Kapital. Diese Investitionen müssen sich durch neue Anwendungen und Kunden amortisieren. Eine Pause im Wettlauf könnte den Unternehmen also auch wirtschaftlich sehr gelegen kommen. Die Zeit könnten sie dann – wie viele IT-Firmen vor ihnen – damit verbringen, Design-Schnickschnack für ihre Programme zu entwerfen. Motto: Keine Weltherrschaft, bevor es ChatGPT nicht auch in Zartlila gibt.

Ernsthaft: Wenn KI wirklich so gefährlich zu werden droht, wäre ohnehin nicht freiwillige Zurückhaltung, sondern internationale Kontrolle die richtige Antwort. Denn wenn China und andere Akteure ungebremst weitermachen und dadurch aufholen, bleibt die Gefahr trotzdem bestehen.

Die Autorin ist freie Journalistin und lebt in Berlin.