In Israel ist erstmals eine Sammelklage gegen Elon Musks Unternehmen X und xAI in Zusammenhang mit dem KI-Chatbot Grok eingereicht worden. Vor dem Bezirksgericht in Tel Aviv beantragte eine israelische Nutzerin laut »Ynet« die Zulassung einer Klassenklage. Der Vorwurf: Grok ermögliche es, Fotos von Frauen und Minderjährigen ohne deren Wissen oder Einwilligung in sexualisierte Darstellungen zu verwandeln.

Die Antragstellerin, eine aktive Nutzerin der Plattform X, wirft den Unternehmen vor, bestehende Bilder mit wenigen Handgriffen in explizite Inhalte umwandeln zu lassen. Dazu zählten unter anderem sogenannte digitale Entkleidungen sowie das Ersetzen von Kleidung durch Unterwäsche oder Badebekleidung. Vertreten wird sie von den Anwälten Lior Lahav und Noa Elbaz.

Nach Darstellung der Klägerseite erlaubt die von xAI entwickelte Technologie die Erstellung realistischer sexueller Simulationen auf Basis frei zugänglicher Fotos. Betroffen seien nicht nur erwachsene Frauen, sondern auch Minderjährige. Die Klage soll alle Frauen und Minderjährigen umfassen, deren Bilder online verfügbar sind und die durch die Möglichkeit solcher Manipulationen Angst, Kontrollverlust oder seelische Belastungen erfahren hätten.

Emotionales Leid

Das Gericht soll den Unternehmen untersagen, mithilfe von Grok sexualisierte Darstellungen von Frauen und Kindern zu erzeugen. Zudem fordert die Klägerin eine Entschädigung von jeweils 500 Schekel pro betroffener Person wegen emotionalen Leids und der Verletzung der persönlichen Autonomie. Darüber hinaus wird verlangt, mögliche Gewinne abzuschöpfen, die durch den Einsatz des Tools erzielt worden sein sollen.

Lesen Sie auch

Musks KI-Bot wollte über »Genozid an Weißen« reden

Nutzer stellen dem Chatbot Grok verschiedene Fragen. Am Mittwoch wollte sich die Software aber auf seine Weise mit Südafrika auseinandersetzen - egal, worum es ging

Antisemitische Äußerungen: Elon Musks KI-Chatbot in der Kritik

Der von dem Milliardär vorangetriebene Chatroboter Grok wirft Menschen mit jüdischem Nachnamen plötzlich »Hass auf Weiße« vor und lobt Adolf Hitler. Die Entwicklerfirma xAI muss eingreifen. Musk schweigt

In dem Antrag heißt es laut »Ynet«, Umfang und Existenz der beanstandeten Praxis seien durch zahlreiche Medienberichte in Israel und im Ausland belegt. Diese dokumentierten, dass Grok genutzt worden sei, um sexualisierte und entwürdigende Bilder zu erzeugen – teils auf Grundlage gewöhnlicher Fotos aus dem Internet.

Kritik richtet sich auch gegen Elon Musks anfängliche Reaktion auf den Skandal. Laut Klageschrift habe Musk das Thema zunächst heruntergespielt und sogar ins Lächerliche gezogen, indem er ein von Grok erzeugtes Bild von sich selbst in einem Bikini verbreitete. Erst später habe er erklärt, derartige Inhalte seien illegal – die Verantwortung liege jedoch bei den Nutzern, nicht bei den Plattformbetreibern.

Unzureichende Schutzmechanismen

Die Klage in Israel reiht sich in eine wachsende internationale Kontroverse ein. In den vergangenen Tagen sperrten Malaysia und Indonesien Grok vollständig. Beide Regierungen begründeten dies mit unzureichenden Schutzmechanismen gegen die Erstellung gefälschter sexueller Inhalte, insbesondere von Frauen und Kindern. Indonesiens Digitalministerin Meutya Hafid erklärte, nicht einvernehmliche sexuelle Deepfakes stellten eine schwere Verletzung von Menschenwürde, Sicherheit und Grundrechten dar.

Auch in Europa und Indien wächst der Druck. In Großbritannien leitete die Medienaufsicht Ofcom ein Verfahren gegen X ein, um zu prüfen, ob das Unternehmen seiner Pflicht zum Schutz vor illegalen Inhalten nachgekommen ist. In Frankreich kündigte die Staatsanwaltschaft in Paris Ermittlungen zur Verbreitung expliziter KI-generierter Inhalte an. Die französische Cybercrime-Einheit untersucht X bereits wegen weiterer Vorwürfe, darunter die Verbreitung antisemitischer Inhalte und Holocaust-Leugnung über Grok. im