Berlin. Sie müssen als digitale Müllabfuhr üblen Dreck wegräumen: Mitarbeiter von Facebooks deutschem Löschteam gaben erschreckende Einblicke.

Facebook macht ein großes Geheimnis um die Arbeit seiner Löschteams – ein Bericht der „Süddeutschen Zeitung“ gibt nun detaillierte Einblicke: Mitarbeiter des Facebook-Dienstleisters Arvato am Standort Berlin berichten davon, völlig unvorbereitet fließbandmäßig verstörende Inhalte zu sichten. Außerdem haben sie Einblicke in die Richtlinien gegeben, nach denen Facebook löschen lässt. Bislang war über diese Regeln wenig bekannt, 2012 war eine frühere Fassung durchgesickert.

In den Regeln sind dem Bericht zufolge Hunderte Beispiele und Details aufgeführt, die zum Teil absurd anmuten. Migranten dürfen demnach allgemein als „dreckige Diebe“ bezeichnet werden. Zu löschen ist ein Beitrag erst, wenn Migranten als Terroristen, Mörder oder Sexualstraftäter bezeichnet werden. Gelöscht werden müssen laut „SZ“ auch Sätze, die Migranten mit Dreck oder Ungeziefer vergleichen. Aber auch das gilt nur, wenn dieser Vergleich als Substantiv erfolgt („Migranten sind Dreck“). Im November hatte bereits die Seite „Mobile Geeks“ in einem ausführlichen Text über den Meldeprozess aus den 48 Seiten langen Regeln zitiert.

„Hängt diesen Hurensohn“ erlaubt

Die „SZ“ liefert konkrete Beispiele: Wer das Bild eines Erhängten mit dem Kommentar „Hängt diesen Hurensohn“ teilt, hat nichts zu befürchten – es gilt als erlaubte Meinungsäußerung zur Todesstrafe. „Hängt diesen Schwulen auf“ dagegen muss gelöscht werden – weil es sich gegen eine geschützte Minderheit richtet. Flüchtlinge genießen als Gruppe nicht den identischen Status.

Das Bild eines Sterbenden darf verbreitet werden – wenn nicht darunter gejubelt wird. Mitarbeiter beklagten sich bei Vorgesetzten über nicht nachvollziehbare Regeln – und bekamen als Antwort, sie sollten wie Maschinen denken.

Die Mitarbeiter, die in der untersten Hierarchiestufe – FNRP genannt – arbeiten und nicht einmal ihren Familien ihren Auftraggeber nennen sollen, haben 2000 zu bearbeitende Beiträge als Vorgabe. Sie verdienen mit 1500 Euro Bruttolohn nur etwas mehr als den Mindestlohn. Nach den Informationen der Zeitung sind darunter auch Flüchtlinge, die reihenweise die Gewaltszenen vorgesetzt bekommen, vor denen sie geflohen sind.

Acht Sekunden pro Film

Wer sich im FNRP-Team bewährt habe, steige zum „Content-Moderator“ auf und müsse dann auch Videos sichten – und solle sich dazu acht Sekunden Zeit nehmen. Mitarbeitern klickten aber oft schneller weg, weil die Bilder unerträglich seien. Diese Eindrücke seien extrem verstörend, hätten Folgen auch für das Privatleben. Facebook erklärte der „SZ“, es gebe das Angebot psychologischer Betreuung, Mitarbeiter verneinten das. Zugleich gebe es wenig Kündigungen – es sei „cool“, für Facebook zu arbeiten.

Die Berichte über die psychische Wirkung deckt sich mit Forschungen von Sarah T. Roberts, Assistant Professor an der renommierten University of California, die über Commercial Content Moderation promoviert hat, also über das bezahlte Sichten von Nutzerbeiträgen im Netz. Roberts hat mit Mitarbeitern im Silicon Valley gesprochen, sie nennt die Firma „Megatech“, wenn sie davon spricht, weil sie als Wissenschaftlerin das Unternehmen nicht nennen könne.

Was macht die Arbeit mit den Menschen?

Nach einem Jahresvertrag und einer aufgezwungenen Auszeit werde bei „Megatech“ noch ein zweites und letztes Mal ein Jahresvertrag angeboten. „Was ist danach?“, fragt Roberts, „sind manche ausgebrannt, andere völlig abgestumpft?“ Erkenntnisse dazu gibt es nicht. „Wir wissen nicht, was diese Arbeit mit den Menschen macht“, sagt sie. Angesichts Zigtausender mit diesen Jobs sei das ein verstörender Gedanke.

Hemnashu Nigam, früherer Sicherheitschef von MySpace, hat nach seinem Abgang bei dem Unternehmen einmal geschätzt, dass etwa 100.000 Menschen quasi als digitale Müllwerker arbeiten. Das wären mehr Menschen, als Google, Facebook und Twitter zusammen an regulären Mitarbeitern haben.

Maas unzufrieden mit Facebooks Löscharbeit

Bei Arvato in Berlin sollen mehr als 600 Mitarbeiter beschäftigt sein, um das auszusortieren, was die Menschen nicht sehen wollen oder sollen. Justizminister Heiko Maas (SPD) hatte am Donnerstag eingestanden, dass die von ihm initiierte „Task Force“ zum Löschen von Hass-Inhalten wenig erreicht hat. „Das ist nicht das, was wir uns vorgestellt haben“, sagte Maas. Laut einem im September veröffentlichten Bericht, den die Task Force in Auftrag gegeben hatte, löschte Facebook nur 46 Prozent der gemeldeten strafbaren Inhalte. (law)