Stand: 23.06.2020 06:00 Uhr

Endloser Hass: Facebooks private Gruppen

von Nils Altland, Robert Schöffel, Katja Riedel u.a.

"Schwangere echte Mamas", "Abenteuer auf Bikes" oder "Hamburger Hundehalter" - für jeden gibt es eine Facebook-Gruppe. Mit dieser Botschaft bewarb Facebook im vergangenen Herbst hierzulande seine Gruppen-Funktion. Laut Konzernangaben sind mehr als 400 Millionen Menschen in einer Facebook-Gruppe, die ihnen persönlich "etwas bedeutet" und einen Sinn für Gemeinschaft stiftet. Aber die Welt der rechten Facebook-Gruppen ist oftmals nicht so harmonisch, friedlich und divers, wie es die Werbekampagne suggeriert.

Endloser Hass: Facebooks private Gruppen

ZAPP -

Seit Jahren steht Facebook in der Kritik, weil es zu wenig gegen rechte Hetze unternimmt. Eine neue Datenrecherche zeigt, dass in geschlossenen Gruppen weiter Hassrede verbreitet wird.

4,8 bei 5 Bewertungen

Mit von 5 Sternen

bewerten

Vielen Dank.

schließen

Sie haben bereits abgestimmt.

schließen

Hetze, Hassrede, Holocaust-Leugnung

Reporterinnen und Reporter des BR, NDR und WDR haben nun 138 überwiegend geschlossene rechte Facebook-Gruppen ausgewertet. Darin: 2,6 Millionen Posts und Kommentare aus den Jahren 2010 bis Ende 2019. Im Datensatz finden sich rechtsextreme Hetze und Hassrede. Beiträge, die den Holocaust leugnen, stehen neben Hakenkreuzen und anderen Nazi-Symbolen:

"Hitler hat leider die Moslems und die Zigeuner vergessen! !", schreibt ein Nutzer in der Gruppe "Deutschland sagt Nein zu Islamisierung und Massenzuwanderung".

"Wird noch Zyklon B benötigt?", fragt ein Nutzer in einer anderen Gruppe.

"Sieg Heil Kameradinnen & Kameraden", postet ein Nutzer in der Gruppe "Nationales Bündnis für Deutschland".

Von solchen mutmaßlich strafbaren Äußerungen haben die Reporter mehr als 1.000 in dem Datensatz gefunden - und das ist nur die Spitze des Eisberges. Insgesamt haben sich in den untersuchten Gruppen 186.000 Nutzerinnen und Nutzer an den Diskussionen beteiligt. Immer wieder  finden sich auch populäre Begriffe wie: "Lügenpresse", "Messermigration" oder "Merkel-Diktatur" in den Postings.

Hinweis über Informanten

Links
Link

BR Data: #Hassmaschine

Wie Facebook beim Hass im Netz versagt - Interaktive Website zum Projekt. extern

Der Datensatz erhebt keinen Anspruch auf Vollständigkeit, ist allerdings in seinem Umfang einzigartig. Den Hinweis auf die extremen Inhalte haben die Reporter von einem Informanten erhalten, der seit Jahren als Beobachter anonym in den Gruppen unterwegs ist. Im Interview schildert er, wie er die Gruppen gefunden hat: "Die Entscheidung, welche Gruppen oder in welche Gruppen ich reingehe, hat Facebook mir im Prinzip schon abgenommen. Wenn ich in meine Timeline geguckt habe, gab es zwischendurch immer Vorschläge, vorgeschlagene Gruppen und dann konnte man nach rechts oder links wischen und irgendwann waren auf einmal zwanzig Gruppen aufgeführt", so der Informant.

Algorithmus für Wachstum rechtsextremer Facebook-Gruppen mitverantwortlich

Bild vergrößern
Man habe im Kampf gegen Hassrede große Fortschritte gemacht, so Facebook-Sprecher Klaus Gorny im Skype-Interview.

Dass dieser Algorithmus für das Wachstum von rechtsextremen Facebook-Gruppen mitverantwortlich ist, ist Facebook seit Jahren bekannt: Wie das "Wall Street Journal" Ende Mai berichtete, warnte eine Facebook-Mitarbeiterin in einer internen Präsentation bereits 2016 davor, dass mehr als ein Drittel aller größeren deutschsprachigen, geschlossenen Politik-Gruppen extremistische Postings beinhalteten. Der Algorithmus spiele dabei eine entscheidende Rolle: "64 Prozent aller Beitritte in extremistischen Gruppen gehen auf unsere Empfehlungswerkzeuge zurück."

Das Problem der rechten Hassrede auf Facebook ist alles andere als neu, seit Jahren steht das Unternehmen deswegen in der Kritik. Im Interview mit BR, NDR und WDR beteuert Facebooks Sprecher Klaus Gorny: "Wir haben im Kampf gegen Hassrede in den letzten Jahren auch sehr große Fortschritte gemacht. Wir haben im ersten Quartal dieses Jahres rund zehn Millionen Hassrede-Inhalte entfernt."

Maßnahmen unzureichend

Doch Facebooks Maßnahmen reichen offenbar nicht aus. Auch die Gesetzesverschärfungen der vergangenen Jahre lassen noch immer Spielräume. Denn laut Netzwerkdurchsetzungsgesetz muss das Unternehmen Inhalte nur löschen, wenn es Kenntnis davon erlangt, also wenn sie gemeldet werden. Selbst danach zu suchen, ist das Unternehmen nicht verpflichtet. In Gruppen voller Gleichgesinnter ist das offenbar selten der Fall.

Links
Link

Hass im Netz: Wie Facebook versagt

Facebook geht nach einer Recherche von BR, NDR und WDR immer noch nicht konsequent gegen rechte Hassrede vor. Das Projekt #Hassmaschine offenbart Einblick in die rechte Hasswelt und das Versagen der Plattform. extern

Link

Rechte Facebook-Gruppen: "Der Hass ist intelligenter geworden"

"Goldstücke", "linksgrün versifft", "Fachkräfte": Die Sprache des rechten Hasses schafft immer neue Schmähwörter. Das macht es für Netzwerke wie Facebook schwer, dagegen vorzugehen. Trotzdem: Facebook tut zu wenig. extern

Facebook setzt in den Gruppen auf die Rolle der Admins. Also Nutzerinnen und Nutzer, die selbst Mitglied der Gruppen sind. Und dort für eine konstruktive Diskussionskultur sorgen sollen, problematische Kommentare löschen können. Laut Facebook-Sprecher Gorny müssen sich die Administratoren wie alle anderen Nutzer an die Gemeinschaftsstandards halten. Doch die Auswertung zeigt: Einige dieser Gruppenadministratoren beteiligen sich sogar an der Hetze. 

Im Kampf gegen Hassrede setzt Facebook neben eigenen Moderationsteams auch auf künstliche Intelligenz. Doch an dieser Stelle hakt es oft, wie Gorny erklärt: "Das ist ein extrem komplexes Feld. Sprache ist auch für künstliche Intelligenz nicht immer einfach, weil es sehr viele Nuancen gibt. Es kommt unglaublich auf den Kontext an. Das heißt, unsere Technologie muss ständig dazulernen."

Rechtsextreme Inhalte leicht zu finden

Doch die Reporterinnen und Reporter von BR, NDR und WDR haben die rechtsextremen Inhalte mit vergleichsweise einfachen Techniken aufgefunden - Mittel, die dem größten sozialen Netzwerk der Welt allemal zur Verfügung stehen sollten.

Die Methode

Nachdem die Reporter einen Hinweis von einem Informanten bekamen, zusammen mit einer Liste der aus seiner Sicht problematischen Gruppen, machten sie sich ein eigenes Bild. Dafür erstellten sie mehrere erfundene Identitäten, mit denen sie den Gruppen beitraten. 24 Gruppen waren öffentlich zugänglich, bei 114 geschlossenen Gruppen mussten die Reporter eine Zutrittsanfrage stellen, die ohne Prüfung der Identität erteilt wurde. Mit einem automatisierten Verfahren ("Scraping") haben sie dann sämtliche Posts und Kommentare inklusive dazugehöriger Metadaten (Verfasser, Datum) gespeichert und Screenshots davon angefertigt. Dabei sind sie jeweils bis zum Gründungsdatum der Gruppen zurückgegangen.

ZAPP hat in der Vergangenheit mehrfach über Hassrede auf Facebook berichtet. Diese gemeinsame Datenrecherche von BR, NDR und WDR zeigt systematisch, wie groß dieses Problem noch immer ist.

Weitere Informationen

Medienkompetenz: Journalismus in der Pflicht

Für den Medienwissenschaftler Bernhard Pörksen muss Journalismus es als Teil seiner Aufgabe sehen, Medienkompetenz zu vermitteln und die eigenen Prinzipien zu erklären. mehr

NetzDG-Beschwerden: Facebook fällt im Test durch

ZAPP stellte Facebooks NetzDG-Beschwerdeformular in einem Selbstversuch auf den Prüfstand. Entscheidungen lassen sich nicht nachvollziehen, eine Linie ist nicht zu erkennen. mehr

Facebook: Wo bleibt die Verantwortung?

Facebook bemüht sich nach eigener Darstellung darum, dass Nutzer sich im größten sozialen Netzwerk wohlfühlen. Doch das Unbehagen und die Kritik am Unternehmen wachsen. mehr

Digitale Müllabfuhr: Der Kampf gegen Hass und Perversion

Hetze, abstoßende Gewalt- und Sexinhalte - damit das Netz sauber bleibt, engagieren Facebook & Co. Mitarbeiter, die gemeldete Inhalte prüfen und gegebenenfalls löschen. mehr

Dieses Thema im Programm:

ZAPP | 24.06.2020 | 23:20 Uhr