•••

Die Social-Media-Plattform X reagiert auf die Flut manipulierten Bildmaterials aus aktuellen Kriegsgebieten und verschärft ihre Richtlinien. Künftig müssen Nutzer, die mit künstlicher Intelligenz erzeugte Videos von bewaffneten Konflikten veröffentlichen, dies klar kennzeichnen. Andernfalls drohen Sanktionen.

Angekündigt wurden die Änderungen von Produktchef Nikita Bier. »In Zeiten des Krieges ist es entscheidend, dass Menschen Zugang zu authentischen Informationen vor Ort haben. Mit den heutigen KI-Technologien ist es trivial, Inhalte zu erstellen, die Menschen in die Irre führen können«, schrieb er. Amerikanische Medien wie »Fox Business« berichteten.

Konkret betrifft die Neuregelung das sogenannte Creator-Revenue-Sharing-Programm, über das reichweitenstarke Accounts Werbeeinnahmen erzielen können. Wer ein KI-generiertes Kriegsvideo ohne entsprechenden Hinweis verbreitet, wird für 90 Tage von der Monetarisierung ausgeschlossen. Bei einem weiteren Verstoß folgt der dauerhafte Ausschluss aus dem Programm.

Keine Konsequenzen für Mehrheit

Nach Angaben Biers soll X entsprechende Inhalte entweder über Community Notes identifizieren – ein Nutzerhinweissystem zur Kennzeichnung irreführender Beiträge – oder über Metadaten und andere technische Signale, die auf den Einsatz generativer KI-Tools hinweisen.

Die Maßnahme trifft allerdings nur Konten, die am Einnahmeprogramm teilnehmen. Für die große Mehrheit der Nutzer hat das Posten manipulierten Materials somit zunächst keine direkten Konsequenzen. Auch KI-generierte Fotos fallen nicht unter die neue Regelung.

Seit Ausbruch des Krieges mit dem Iran kursieren auf X zahllose täuschend echt wirkende Fälschungen. Ein Video, das einen angeblich massiven Raketenbeschuss auf Tel Aviv zeigen soll, wurde millionenfach angesehen, obwohl es sich um eine KI-Produktion handelt.

Lesen Sie auch

Übermenschlich allzumenschlich

Künstliche Intelligenz kann Großartiges leisten. Doch nicht zuletzt die antisemitischen Ausfälle von Elon Musks Modell »Grok« zeigen: Sie ist nicht per se besser als ihre Schöpfer. Ein alter jüdischer Mythos wirft Licht auf dieses Dilemma

Gefälschte Abbildung illustriert erfundene KZ-Geschichte

Mit emotional aufgeladenen KI-Bildern wollen Seiten im Internet ihre Click-Zahlen erhöhen. Doch dafür greifen sie zu zynischen Methoden - indem sie beispielsweise Abbildungen aus Auschwitz fälschen

Warnung vor KI-generierten antisemitischen Bildern

Der digitale Raum ist für die Verbreitung antisemitischer Vorstellungen immer bedeutsamer geworden

Albanese teilt Fälschung

Ebenso verbreiteten sich manipulierte Bilder getöteter iranischer Mädchen. Selbst offizielle Stellen und bekannte Persönlichkeiten teilten entsprechende Inhalte weiter – darunter die UN-Sonderberichterstatterin für die Palästinenser, Francesca Albanese.

Mit der neuen Regelung versucht X, zumindest im monetarisierten Bereich einen Anreiz zur Transparenz zu schaffen. Bier kündigte an: »Wir werden unsere Richtlinien und Produkte weiter verfeinern, um sicherzustellen, dass X in diesen entscheidenden Momenten vertrauenswürdig bleibt.« im