Stand: 11.05.2016 11:58 Uhr

Digitale Müllabfuhr: Der Kampf gegen Hass und Perversion

von Daniel Bouhs

Es sollte der Befreiungsschlag werden, doch daraus ist bislang nichts geworden: Im Herbst 2015 hatte das Bundesjustizministerium eine Task-Force zur Kampf gegen den Hass im Netz gegründet, Konzerne wie Facebook und Google machten mit.

"The Cleaners" im Kino

Hinter den Kulissen der Social-Media-Konzerne

"The Cleaners" gewährt einen intimen Einblick dorthin, wo das Internet von kontroversen Inhalten "gesäubert" wird. Ein Dokumentarfilm, der die Augen öffnet über Facebook & Co. mehr

Kurz vor Weihnachten dann präsentierten die Partner stolz ihre Erklärung, Motto: Alles wird gut. Doch der Leiter der Task-Force, der einstige Leiter des Verbraucherzentralen Bundesverbandes und jetzige Staatssekretär Gerd Billen, sagt nun im ZAPP-Interview: "Wir kriegen zahlreiche Rückmeldungen von Usern, die etwas an Facebook gemeldet haben, was auf den ersten Blick klar rechtswidrig ist und was nicht entfernt wurde."

Eine Bildmontage zweier bewaffneter Männer vor einem Hintergrund der ein vermülltes Hafenbecken zeigt.

Ekelinhalte nonstop: Der belastende Job der Online-Müllmänner

ZAPP -

Hetze, abstoßende Gewalt- und Sexinhalte - damit das Netz sauber bleibt, engagieren Facebook & Co. Mitarbeiter, die gemeldete Inhalte prüfen und ggfs. löschen.

4 bei 5 Bewertungen

Mit von 5 Sternen

bewerten

Vielen Dank.

schließen

Sie haben bereits abgestimmt.

schließen

Arbeit des Facebook-Prüfteams eine Blackbox

Dabei hatte sich der Konzern in der Zwischenzeit für seine Verhältnisse tatsächlich deutlich bewegt: Facebook hat in Deutschland ein eigenes Prüf-Team engagiert, beim Dienstleister Arvato. Diese Einheit ist allerdings trotz des enormen öffentlichen Interesses eine Blackbox: ZAPP durfte nicht nachsehen, wie dort tatsächlich gearbeitet wird. Und auch der Leiter Task-Force fordert von Facebook mehr Transparenz. "Wir wissen, dass in Deutschland Mitarbeiter für Facebook arbeiten. Was die im Einzelnen tun, das wissen wir nicht", sagt Billen. "Es muss bei Facebook noch mehr passieren." Ein Facebook-Sprecher wiederum beteuert, der Service werde kontinuierlich verbessert: "Wir wollen das beste Prüf-Team haben, das mit deutschen Sprachkenntnissen schnell und gewissenhaft reagiert - täglich, 24 Stunden am Tag."

Online-Müllmänner entfernen den digitalen Dreck

Für Sarah T. Roberts ist die Sache klar: 24 Stunden am Tag, sieben Tage in der Woche muss jemand da sein, der das Internet sauber hält - weil Menschen Plattformen wie Facebook und Twitter oder Dating-Angebote wie Tinder eben auch nutzen, um Hass und Ekel zu verbreiten. "Die Unternehmen schützen damit ihre Marke", sagt Roberts, die für eine kanadische Universität die Arbeitsbedingungen dieser "Online-Müllmänner" erforscht. Roberts sagt aber auch: "Die Unternehmen wollen das verstecken." Online-Müllmänner, die den digitalen Dreck aussortieren, damit Nutzer ein sauberes Internet vorfinden und sich auf Plattformen wohlfühlen - die Wissenschaftlerin spricht im Interview mit ZAPP von einer "Schattenindustrie", die auf dem ganzen Globus verteilt sei.

Zum Schweigen verpflichtet

Roberts hat in verschiedenen Ländern mit Online-Müllmännern gesprochen, die in der Branche "Content Moderators" (Moderatoren für Inhalte) genannt werden. "Sie müssen Verträge unterschreiben, in denen sie versichern, über ihre Arbeit zu schweigen", sagt die Wissenschaftlerin. Außerdem würden die meisten der Moderatoren nicht direkt bei den Online-Unternehmen angestellt, sondern über Dienstleister. "Deshalb ist es auch so schwierig, Auskunft von den Unternehmen über diese Mitarbeiter zu bekommen - es sind ja nicht ihre Mitarbeiter." Besonders viele Online-Müllmänner hat Roberts auf den Philippinen ausgemacht.

Zwischen 100.000 und 500.000 Philippinos reinigen das Netz

Bild vergrößern
"Content Moderators" reinigen das Netz von abartigen Gewalt- und Sexinhalten. Forscherin Roberts spricht von einer "Schattenindustrie".

Auf den Philippinen hat im Frühjahr 2016 auch Moritz Riesewieck recherchiert, der sich als Teil der Gruppe "Laokoon" als investigativer Theaterregisseur versteht. Für interaktive Vorträge hat auch er mit Online-Müllmännern gesprochen und eines der Unternehmen besucht. "Es gehört zum Geschäft dieser Firmen, ihre Kunden zu schützen", berichtet Riesewieck im Interview mit ZAPP, der sich von Mitarbeitern hat Ausweise zeigen lassen und einige Gespräche auch aufnehmen konnte, bei seinen Erzählungen aber die Identität der Online-Müllmänner schützt. "Die Zahlen schwanken zwischen 100.000 und einer halben Million Leute, die in dem Bereich arbeiten", sagt Riesewieck zu den Prüf-Teams auf den Philippinen.

Drecksarbeit mit Ekelvideos hat psychische Folgen

Die Arbeit dort sei vergleichsweise billig, außerdem seien nach der Kolonialisierung viele Philippinos katholische Christen und lebten die Werte der westlichen Welt. Dass sie sich Tag für Tag tausende ekelhafte Bilder - von Sex mit Kindern und Tieren bis zu Enthauptungsvideos - ansehen müssten, hinterlasse allerdings Spuren. "Für die Leute ist der Job, das Internet zu reinigen, eine Mission", sagt Riesewieck. "Wenn man aber länger mit ihnen spricht, erfährt man von Leuten, die einfach kein Bock mehr auf Sex haben, nachdem sie sich den ganzen Tag irgendwelche Pornobilder reingezogen haben. Und von Leuten, die nachts nicht pennen können, weil sie bis in den Schlaf von Bildern verfolgt werden."

Facebook erklärt, mit dem Unternehmen, in dem Riesewieck gedreht hat, nicht zusammen zu arbeiten - "weder auf den Philippinen noch sonst wo auf der Welt".

Stellungnahme
16:08

Billen: "Es muss bei FB noch mehr passieren"

Staatssekretär Billen, Leiter Task-Force "Umgang mit rechtswidrigen Hassbotschaften im Internet", verlangt von Facebook mehr Anstrengung bei der Löschung rechtswidriger Inhalte. Video (16:08 min)

Panorama - die Reporter

Die Trolle

Panorama - die Reporter

"Pferd verspeist", "Mädchen belästigt", "Schweinefleischverbot": Die Gerüchteküche im Netz brodelt. Panorama - Die Reporter ist auf der Spur der Trolle, die sie streuen. mehr

Panorama - die Reporter

Die Hass-Welt: Social Media am rechten Rand

03.05.2016 21:15 Uhr
Panorama - die Reporter

Was passiert, wenn man sich ein nationalkonservatives Alter Ego auf Facebook zulegt? Videos voller Hass werden in die Timeline gespült. Und Angst schleicht sich wie ein Gift in den Kopf ein. mehr

Facebook: Freundlich aber verschlossen

Ein Kommunikationskonzern, der sich bei seiner eigenen Kommunikation schwertut - das ist die Erfahrung, die viele Journalisten mit Facebook machen. mehr

Dieses Thema im Programm:

ZAPP | 11.05.2016 | 23:20 Uhr