Kulturstaatsminister Wolfram Weimer fordert ein entschlosseneres Eingreifen der Europäischen Union gegen die Verbreitung KI-generierter Bilder und Videos zum Holocaust in sozialen Netzwerken. Nach einem Bericht der »Süddeutschen Zeitung« sieht Weimer die EU-Kommission in der Verantwortung, Plattformbetreiber stärker in die Pflicht zu nehmen, um massenhafte Geschichtsverzerrung zu unterbinden.

»Das große Leid der Opfer des Holocaust darf nicht verfälscht und verzerrt werden«, sagte Weimer dem Bericht zufolge. Auf Grundlage des seit 2024 geltenden Digital Services Act (DSA) müssten Plattformen dafür sorgen, dass mit Künstlicher Intelligenz erzeugte Inhalte eindeutig gekennzeichnet und »wenn nötig« entfernt würden. Der DSA verpflichtet große Online-Anbieter, konsequent gegen illegale und schädliche Inhalte vorzugehen und die digitalen Grundrechte der Nutzer zu schützen.

Weimer unterstützt damit eine Initiative von Gedenkstätten, Archiven, Museen und Erinnerungsprojekten aus ganz Deutschland. Rund 30 Einrichtungen hatten in der vergangenen Woche in einem offenen Brief vor den Folgen einer zunehmenden Verbreitung gefälschter Holocaust-Darstellungen gewarnt.

Verbreitung von revisionistischen Narrativen

»Mit jedem dieser Postings wird die Arbeit von Gedenkstätten, Archiven, Museen und Forschungseinrichtungen entwertet und ihre Glaubwürdigkeit untergraben«, heißt es darin. Die Unterzeichner werfen den Urhebern vor, historische Fakten gezielt zu verwässern, Opfer- und Täterrollen zu verschieben oder revisionistische Narrative zu verbreiten.

Seit Monaten tauchen auf Plattformen wie Facebook, Tiktok oder X immer häufiger KI-erzeugte Bilder und Videos auf, die angeblich Szenen aus Konzentrations- und Vernichtungslagern zeigen, wie die »Süddeutsche Zeitung« zutreffenderweise feststellt. In vielen Fällen fehlt ein Hinweis darauf, dass es sich um frei erfundene Inhalte handelt. Fachleute sprechen von einer »neuen Dimension der Fake History«, die nicht nur historische Wahrheit untergrabe, sondern auch die Wahrnehmung der Nutzer verändere. Authentische Dokumente würden zunehmend infrage gestellt.

Lesen Sie auch

Warnung vor KI-generierten antisemitischen Bildern

Der digitale Raum ist für die Verbreitung antisemitischer Vorstellungen immer bedeutsamer geworden

Gefälschte Abbildung illustriert erfundene KZ-Geschichte

Mit emotional aufgeladenen KI-Bildern wollen Seiten im Internet ihre Click-Zahlen erhöhen. Doch dafür greifen sie zu zynischen Methoden - indem sie beispielsweise Abbildungen aus Auschwitz fälschen

UNESCO und WJC warnen vor KI-generierter Holocaust-Leugnung

Die schrecklichen Fakten des Holocaust könnten verfälscht werden, sagt Generaldirektorin Audrey Azoulay

Hinzu kommt ein wirtschaftlicher Aspekt. Die Verbreitung der manipulierten Inhalte dient häufig der Reichweitensteigerung und Monetarisierung. Eine Recherche der BBC konnte zahlreiche der auf Facebook kursierenden KI-Bilder einem Netzwerk pakistanischer Content-Ersteller zuordnen. Diese sollen die gefälschten Darstellungen gezielt für ein Vergütungsprogramm des Meta-Konzerns genutzt haben, bei dem hohe Zugriffszahlen finanziell belohnt werden.

Relativierte Geschichte

»Wir müssen verhindern, dass mit solchen KI-generierten Bildern oder Videos in sozialen Medien Geld verdient wird«, sagte Weimer. Dies gebiete der Respekt vor den Millionen Menschen, die unter der nationalsozialistischen Terrorherrschaft verfolgt und ermordet wurden. »Die Verbreitung manipulierter Bilder führt dazu, dass Geschichte umgeschrieben und letztlich relativiert wird. Der DSA nimmt die Plattformanbieter in die Pflicht.«

Meta, der Mutterkonzern von Facebook und Instagram, verwies auf Anfrage der »Süddeutschen« bislang lediglich auf seine allgemeinen Gemeinschaftsstandards. Man räumte ein, dass es technisch derzeit nicht möglich sei, alle KI-generierten Inhalte zuverlässig zu identifizieren. Gemeinsam mit anderen Unternehmen arbeite man an branchenweiten Standards zur Erkennung entsprechender Inhalte. ja