Stand: 11.05.2016 11:58 Uhr

Digitale Müllabfuhr: Der Kampf gegen Hass und Perversion

von Daniel Bouhs

Es sollte der Befreiungsschlag werden, doch daraus ist bislang nichts geworden: Im Herbst 2015 hatte das Bundesjustizministerium eine Task-Force zur Kampf gegen den Hass im Netz gegründet, Konzerne wie Facebook und Google machten mit.

Kurz vor Weihnachten dann präsentierten die Partner stolz ihre Erklärung, Motto: Alles wird gut. Doch der Leiter der Task-Force, der einstige Leiter des Verbraucherzentralen Bundesverbandes und jetzige Staatssekretär Gerd Billen, sagt nun im ZAPP-Interview: "Wir kriegen zahlreiche Rückmeldungen von Usern, die etwas an Facebook gemeldet haben, was auf den ersten Blick klar rechtswidrig ist und was nicht entfernt wurde."

VIDEO: Ekelinhalte nonstop: Der belastende Job der Online-Müllmänner (4 Min)

Arbeit des Facebook-Prüfteams eine Blackbox

Dabei hatte sich der Konzern in der Zwischenzeit für seine Verhältnisse tatsächlich deutlich bewegt: Facebook hat in Deutschland ein eigenes Prüf-Team engagiert, beim Dienstleister Arvato. Diese Einheit ist allerdings trotz des enormen öffentlichen Interesses eine Blackbox: ZAPP durfte nicht nachsehen, wie dort tatsächlich gearbeitet wird. Und auch der Leiter Task-Force fordert von Facebook mehr Transparenz. "Wir wissen, dass in Deutschland Mitarbeiter für Facebook arbeiten. Was die im Einzelnen tun, das wissen wir nicht", sagt Billen. "Es muss bei Facebook noch mehr passieren." Ein Facebook-Sprecher wiederum beteuert, der Service werde kontinuierlich verbessert: "Wir wollen das beste Prüf-Team haben, das mit deutschen Sprachkenntnissen schnell und gewissenhaft reagiert - täglich, 24 Stunden am Tag."

Online-Müllmänner entfernen den digitalen Dreck

Für Sarah T. Roberts ist die Sache klar: 24 Stunden am Tag, sieben Tage in der Woche muss jemand da sein, der das Internet sauber hält - weil Menschen Plattformen wie Facebook und Twitter oder Dating-Angebote wie Tinder eben auch nutzen, um Hass und Ekel zu verbreiten. "Die Unternehmen schützen damit ihre Marke", sagt Roberts, die für eine kanadische Universität die Arbeitsbedingungen dieser "Online-Müllmänner" erforscht. Roberts sagt aber auch: "Die Unternehmen wollen das verstecken." Online-Müllmänner, die den digitalen Dreck aussortieren, damit Nutzer ein sauberes Internet vorfinden und sich auf Plattformen wohlfühlen - die Wissenschaftlerin spricht im Interview mit ZAPP von einer "Schattenindustrie", die auf dem ganzen Globus verteilt sei.

Zum Schweigen verpflichtet

Roberts hat in verschiedenen Ländern mit Online-Müllmännern gesprochen, die in der Branche "Content Moderators" (Moderatoren für Inhalte) genannt werden. "Sie müssen Verträge unterschreiben, in denen sie versichern, über ihre Arbeit zu schweigen", sagt die Wissenschaftlerin. Außerdem würden die meisten der Moderatoren nicht direkt bei den Online-Unternehmen angestellt, sondern über Dienstleister. "Deshalb ist es auch so schwierig, Auskunft von den Unternehmen über diese Mitarbeiter zu bekommen - es sind ja nicht ihre Mitarbeiter." Besonders viele Online-Müllmänner hat Roberts auf den Philippinen ausgemacht.

Zwischen 100.000 und 500.000 Philippinos reinigen das Netz

Computer Kriminalität © picture alliance Foto: Peter Kneffel
"Content Moderators" reinigen das Netz von abartigen Gewalt- und Sexinhalten. Forscherin Roberts spricht von einer "Schattenindustrie".

Auf den Philippinen hat im Frühjahr 2016 auch Moritz Riesewieck recherchiert, der sich als Teil der Gruppe "Laokoon" als investigativer Theaterregisseur versteht. Für interaktive Vorträge hat auch er mit Online-Müllmännern gesprochen und eines der Unternehmen besucht. "Es gehört zum Geschäft dieser Firmen, ihre Kunden zu schützen", berichtet Riesewieck im Interview mit ZAPP, der sich von Mitarbeitern hat Ausweise zeigen lassen und einige Gespräche auch aufnehmen konnte, bei seinen Erzählungen aber die Identität der Online-Müllmänner schützt. "Die Zahlen schwanken zwischen 100.000 und einer halben Million Leute, die in dem Bereich arbeiten", sagt Riesewieck zu den Prüf-Teams auf den Philippinen.

Drecksarbeit mit Ekelvideos hat psychische Folgen

Die Arbeit dort sei vergleichsweise billig, außerdem seien nach der Kolonialisierung viele Philippinos katholische Christen und lebten die Werte der westlichen Welt. Dass sie sich Tag für Tag tausende ekelhafte Bilder - von Sex mit Kindern und Tieren bis zu Enthauptungsvideos - ansehen müssten, hinterlasse allerdings Spuren. "Für die Leute ist der Job, das Internet zu reinigen, eine Mission", sagt Riesewieck. "Wenn man aber länger mit ihnen spricht, erfährt man von Leuten, die einfach kein Bock mehr auf Sex haben, nachdem sie sich den ganzen Tag irgendwelche Pornobilder reingezogen haben. Und von Leuten, die nachts nicht pennen können, weil sie bis in den Schlaf von Bildern verfolgt werden."

Facebook erklärt, mit dem Unternehmen, in dem Riesewieck gedreht hat, nicht zusammen zu arbeiten - "weder auf den Philippinen noch sonst wo auf der Welt".

Stellungnahme
Staatssekretär Gerd Billen, Leiter der Task-Force "Umgang mit rechtswidrigen Hassbotschaften im Internet", im Interview mit ZAPP. © NDR Foto: Daniel Bouhs
16 Min

Billen: "Es muss bei FB noch mehr passieren"

Staatssekretär Billen, Leiter Task-Force "Umgang mit rechtswidrigen Hassbotschaften im Internet", verlangt von Facebook mehr Anstrengung bei der Löschung rechtswidriger Inhalte. 16 Min

Trollmaske © NDR

Die Trolle

"Pferd verspeist", "Mädchen belästigt", "Schweinefleischverbot": Die Gerüchteküche im Netz brodelt. Panorama - Die Reporter ist auf der Spur der Trolle, die sie streuen. mehr

Timeline-Foto Facebook - "Auch Angela Merkel bereitet Bürger jetzt auf Krieg und Unruhen vor" © NDR

Die Hass-Welt: Social Media am rechten Rand

Was passiert, wenn man sich ein nationalkonservatives Alter Ego auf Facebook zulegt? Videos voller Hass werden in die Timeline gespült. Und Angst schleicht sich wie ein Gift in den Kopf ein. mehr

Facebook - Logo vor einem, weltumspannenden, abstrahiertem Netzwerk (Montage) © fotolia.com Foto: Kobes

Facebook: Freundlich aber verschlossen

Ein Kommunikationskonzern, der sich bei seiner eigenen Kommunikation schwertut - das ist die Erfahrung, die viele Journalisten mit Facebook machen. mehr

Dieses Thema im Programm:

ZAPP | 11.05.2016 | 23:20 Uhr

JETZT IM NDR FERNSEHEN

Visite 06:30 bis 07:30 Uhr