Gemeldet wird bei Facebook viel. Doch nicht alles, was aufmerksame User unter »antisemitischer Hate Speech« verstehen, bewertet der Social-Media-Konzern auch so. Beispiele aus jüngster Zeit: eine Fotomontage, die den jüdischen Unternehmer George Soros in einer SS-Uniform zeigt; eine Facebook-Gruppe mit dem Motto »Death to Israel«; ein Kommentar, in dem es heißt: »NS-Deutschland wurde auch vernichtet, warum wird dann nicht endlich ›Israel‹ vernichtet?«

Die genannten Beispiele sind weiterhin online, denn die Facebook-Mitarbeiter halten sie für regelkonform. So wurde es den Usern, die die Beiträge gemeldet hatten, mitgeteilt. Dabei sollte ab dem 1. Oktober mit dem Netzwerkdurchsetzungsgesetz Hasskriminalität effektiver bekämpft werden.

»Plattformbetreiber dürfen nicht länger zulassen, dass ihre Infrastruktur zur Begehung von Straftaten missbraucht wird. Sie sind schon heute verpflichtet, strafbare Inhalte zu löschen, wenn sie davon Kenntnis erlangen«, sagt Philip Scholz, Sprecher des Justizministers. Aber er fügt hinzu: »Die Löschpraxis ist aber nach wie vor unzureichend.«

stichprobe Dabei weiß Facebook schon jetzt sehr genau, welche User zum Beispiel Judenfeinde sind. Im September kam heraus, dass die Plattform mit diesem Wissen sogar Kasse machte: Die Investigativjournalisten des amerikanischen Onlinedienstes »ProPublica« deckten auf, dass das automatische Werbeanzeigensystem es ermöglichte, explizit Annoncen für die Zielgruppe von Menschen, die Juden hassen, zu schalten. Oder auch, wie die gerade mit dem Pulitzer-Preis ausgezeichneten Rechercheure schreiben: »Nazi-Andenken vermarkten oder nach Teilnehmern für eine rechtsextreme Demo suchen? Facebooks automatische Werbungsplattform kennt die richtige Zielgruppe.«

»Promoted posts« heißt Werbung, die ausgewählten Usern präsentiert wird. Auftraggeber können dabei aussuchen, an wen sich ihre Reklame richten soll.

ProPublica wählte in einer Stichprobe drei verschiedene Themen aus, für die sich die User interessieren sollten, assistiert vom System. Das machte aus der Eingabe »jew h« selbstständig unter anderem die bereits existierenden Rubriken »Jew Hater« und »How to burn Jews« (wie man Juden verbrennt).

algorithmus Weil die Zielgruppe aber zu klein war, fügten die ProPublica-Mitarbeiter noch die Kategorien »German Schutzstaffel«, »Nazi Party« und »NPD« hinzu. Und wurden vom Facebook-System dafür gelobt: Auf einem Screenshot ist zu sehen, dass die Auswahl der möglichen Werbekunden von Facebook als »great!« beurteilt wird. Potenziell kämen rund 200.000 User als Zielgruppe für die 30 Euro teuren Annoncen infrage.

Innerhalb von 15 Minuten wurden die Anzeigen automatisch bewilligt, eine interne Warnung gab es nicht. Nicht nur das: Der Algorithmus von Facebook arbeitete auch aktiv daran mit, antisemitische Werbung an die richtige Zielgruppe zu bringen. Als ProPublica ins System das Wort »Hitler« eingab, schlug er als mögliche Kategorie »Hitler did nothing wrong« (Hitler hat nichts falsch gemacht) vor.

Nachdem der Bericht von ProPublica erschienen war, wurden die Kategorien umgehend überarbeitet und entfernt. »Das war ein Fehler unsererseits«, teilte Facebook-Chefin Sheryl Sandberg zur Entschuldigung mit. Aber welche seiner User bekennende Antisemiten sind, wird das Unternehmen auch weiter sehr genau wissen.