In den Niederlanden müssen Eltern die Betreuung ihrer Kinder selbst finanzieren. Damit sich dies alle leisten können, gibt es ein Unterstützungssystem, bei dem der Staat einen beträchtlichen Zuschuss zahlt, je nach der persönlichen Situation der Familien.
Um Missbrauch zu unterbinden, führten die niederländischen Finanzbehörden ab 2013 ein algorithmisches Entscheidungssystem ein, das Betrugsfälle aufdecken sollte.
Das System ruinierte ganze Familien. Menschen, die ihre Anträge wahrheitsgemäß ausgefüllt hatten, wurden von der Software als verdächtig markiert und letztendlich dazu aufgefordert, mehrere Tausend Euro zurückzuzahlen. Der Staat fror in einigen Fällen finanzielle Zuwendungen wie Krankenversicherung, Kindergeld und Wohngeld vollständig ein. Menschen wurden obdachlos. Es kam zu Suiziden.
Den Betroffenen halfen Widersprüche nicht
Den Betroffenen halfen Widersprüche nicht. Sie waren gefangen in der Logik des Systems. Diese »Toeslagenaffaire« hatte im Nachgang politische Konsequenzen. 2021 trat das gesamte Kabinett zurück. Die Affäre ist kein Einzelfall. Sie ist ein Symptom. Überall dort, wo algorithmische Systeme über Menschen urteilen, stellen sich dieselben Fragen.
Der Himmel urteilt nicht sofort, sondern gewährt zehn Tage zur Umkehr.
Nach welchem Maßstab wird gemessen, und wer hat das Recht zu urteilen? In dieser Zeit, zwischen Rosch Haschana und Jom Kippur, beschäftigt sich das Judentum ausführlich mit genau dieser Frage.
Im Talmud (Rosch Haschana 16b) wird ein Bild entworfen, das die Grundstimmung der Hohen Feiertage prägt: An Rosch Haschana werden drei Bücher geöffnet. Eines für die vollständig Gerechten, eines für die vollständig Schuldigen und eines für die »Bejnonim«. Lazarus Goldschmidt hat das in seiner Talmudübersetzung mit »Mittelmäßige« übertragen. Und Rabbiner Levi Sternglanz übersetzt den Begriff mit »Durchschnittsmensch«.
Weder besonders vorbildlich noch absolut frevelhaft
Das Schicksal dieser Durchschnittlichen, die sich im vergangenen Jahr weder besonders vorbildlich noch absolut frevelhaft verhalten haben, ist nicht besiegelt. Die Bücher bleiben zunächst offen. Die Mischna (Rosch Haschana 1,2) beschreibt, wie an Rosch Haschana »alle Bewohner der Welt vor ihm vorüberziehen wie Schafe« (kiwnej maron). Entscheidend für uns ist an dieser Stelle, dass dieses Bild meint, dass jedes Lebewesen einzeln, also eines nach dem anderen, vorüberzieht und beurteilt wird. Nicht als Gruppe, nicht als Kollektiv mit gemeinsamen Merkmalen, sondern als Individuen.
Das niederländische Scoring-System tat das Gegenteil: Es beurteilte Menschen nicht einzeln, sondern anhand von Gruppenmerkmalen wie doppelter Staatsangehörigkeit. Die Menschen wurden nicht als Personen geprüft, sondern als Vertreter einer Kategorie verdächtigt.
Die zehn Tage der Umkehr zwischen Rosch Haschana und Jom Kippur sind ein Zeitraum, den wir oft als gegeben hinnehmen. Aber allein, dass es überhaupt einen Zeitraum gibt, ist schon eine Aussage über das »Wesen« des Urteils. Ein Mensch ist zu keinem Zeitpunkt ein »abgeschlossener Datensatz«. Das menschliche Leben ist ein fortschreitender Prozess.
Der Algorithmus kannte nur verdächtig oder unverdächtig, schuldig oder unschuldig
Der niederländische Algorithmus jedoch kannte nur verdächtig oder unverdächtig, schuldig oder unschuldig. Die Bejnonim-Kategorie, der Mensch in der Schwebe, der noch die Möglichkeit der Umkehr vor sich hat, war in der Architektur des Systems schlicht nicht vorgesehen, und das trifft auch auf die meisten »Scoring«-Systeme zur Bewertung von Menschen anhand von gesammelten Daten zu.
Maimonides, der Rambam (1135–1204), legt in den Hilchot Teschuwa (Gesetze der Umkehr, Kapitel 3) dar, wie das göttliche Gericht funktioniert: Es urteilt nicht nach Einzelmerkmalen, sondern nach der Mehrheit der Handlungen. Was sich zunächst mathematisch anhört, ist so gar nicht gemeint. Es ist im charakterlichen Sinne zu verstehen. Wer und was ein Mensch ist, ergibt sich daraus, wie er sein Leben lebt, nicht aus seinem auffälligsten »Datenpunkt« oder einer einfachen Aufsummierung von guten und schlechten Taten.
Dabei betont der Rambam zuvor (Kapitel 2), dass Umkehr bis zum letzten Augenblick möglich ist: »Selbst wenn jemand sein ganzes Leben gesündigt hat und am Tag seines Todes Teschuwa gemacht hat, dann werden ihm alle seine Sünden vergeben.« Der Mensch ist bis zuletzt in der Lage, sich zu verändern.
Ein Algorithmus isoliert Merkmale, reißt sie aus dem Kontext und fällt ein Urteil
Ein Algorithmus, der doppelte Staatsangehörigkeit oder wechselnde Adressen als Betrugssignal wertet, tut strukturell das Gegenteil. Er isoliert Merkmale, reißt sie aus dem Kontext und fällt ein Urteil. Nun könnte man einwenden: Algorithmen urteilen nicht wirklich. Sie rechnen. Sie sind doch neutral. Doch dieser Einwand verkennt, was ein Urteil ist. Das göttliche Gericht ist, wie der Rambam beschreibt, kein Zustand, es ist vielmehr ein Dialog. Und dieser Dialog endet nicht an Rosch Haschana. Er endet erst an Jom Kippur.
Selbst wer an Rosch Haschana in das Buch der »Schuldigen« geschrieben wurde, kann durch aufrichtige Umkehr sein Urteil noch ändern. Das Buch ist nie endgültig geschlossen. In den Niederlanden war es das. Die Software hatte kein Verfahren für Umkehr oder Korrektur. Widersprüche halfen nicht. Das Urteil war gefällt.
Was unterscheidet das Buch des Lebens der Hohen Feiertage vom digitalen? Es ist die Kategorie des Urteils selbst.
Was unterscheidet das Buch des Lebens der Hohen Feiertage also vom digitalen? Es ist nicht die Datenmenge. Es ist die Kategorie des Urteils selbst. Das göttliche Gericht, so wie es der Talmud in Rosch Haschana und der Rambam in den Hilchot Teschuwa beschreiben, operiert mit einem Begriff, den kein Algorithmus kennt: dem offenen Ausgang.
Das göttliche Gericht kennt die Bejnonim, die Mittleren, die Durchschnittsmenschen
Das göttliche Gericht kennt die Bejnonim, die Mittleren, die Durchschnittsmenschen. Es kennt das Individuum, nicht nur die Gruppe, der es angehört. Es kennt die zehn Tage der Umkehr. Es kennt den Menschen in der Gesamtheit seiner Taten, nicht als Summe von Daten. Und es kennt, und das ist vielleicht eine radikale Botschaft, gerade in Zeiten der sozialen Medien, die Möglichkeit, dass das Urteil sich ändert. Nicht weil die Daten falsch waren, sondern weil der Mensch sich verändert hat.
Im Gebet »Unetane Tokef« für Rosch Haschana heißt es: »Doch Rückkehr (Teschuwa), Gebet (Tefilla) und Zedaka wenden das böse Verhängnis ab.« Eine Anspielung auf einen Midrasch (Bereschit Rabba 44,12). Was hier Ermahnung sein könnte, ist zugleich auch eine Beschreibung, wie das göttliche Gericht arbeitet: Es bezieht die Veränderung mit ein, weil der Mensch veränderbar ist. Nicht nur introspektiv, sondern auch durch konkretes soziales Tun (Zedaka).
Wer über Menschen urteilt, muss die Möglichkeit ihrer Veränderung einkalkulieren. Wer das nicht tut, urteilt nicht, er kategorisiert. Und das ist etwas fundamental anderes.
Der Autor ist Herausgeber von »talmud.de« und lebt in Gelsenkirchen.
