Stand: 24.04.2018 20:00 Uhr

Lügen und Videos: Deepfakes fluten das Netz

von Gudrun Kirfel

Das Kunstwort Deepfake setzt sich zusammen aus den Begriffen Deep Learning und Fake - tiefgehendes Lernen und gezielte Fälschung. Gemeint sind Bewegtbild-Manipulationen von Video-Material, wie man sie im Netz immer öfter findet. Es fing alles mit gefälschten Pornovideos u.a. von Scarlett Johansson und Emma Watson an.

Schauspieler Nicolas Cage mit seinem Deepfake-Double

Lügen und Videos: Deepfakes fluten das Netz

ZAPP -

Immer häufiger findet man Bewegtbild-Manipulationen von Videos im Netz. Sie sind ein besonders perfides Mittel der Manipulation: sogenannte Deepfakes.

4 bei 10 Bewertungen

Mit von 5 Sternen

bewerten

Vielen Dank.

schließen

Sie haben bereits abgestimmt.

schließen

Nie hatten die Schauspielerinnen tatsächlich in solchen Pornos mitgespielt, aber Ende vergangenen Jahres tauchten plötzlich Videos auf, in denen ihre Gesichter in solche Hardcore-Sequenzen montiert wurden. Deepfakes wurden diese Clips genannt - in Anlehnung an den gleichnamigen Nutzer der US-Plattform Reddit.

Manipulationen leicht gemacht

Schnell hatte das Reddit-Forum zehntausende Abonnenten, die täglich auf neue Videos warteten. Bis dahin schienen nur Profis mit entspechender Software in der Lage, solche Videos herzustellen, aber das änderte sich schnell. In einem Interview mit dem Onlinemagazin "Motherboard" erklärte der Nutzer "Deepfake" Ende des Jahres, wie einfach es sei, einen ansehnlichen "Face Swap" (die Montage eines Gesichts auf das Gesicht einer anderen Person) hinzubekommen.

Mittlerweile ist die Software "Fake App 2.2" auf dem Markt. Sie ist kostenlos und wurde bereits mehr als einhunderttausend Mal heruntergeladen. Wo früher riesige Rechenmaschinen nötig waren, reichen heute ein besserer Büro-PC und sehr viele Aufnahmen der Person, die man in ein Video hinein montieren möchte.

Deepfakes zur Diskreditierung

Bild vergrößern
Sieht auch Chancen für den Journalismus: Christian Stöcker.

Wer überzeugende Fake-Pornos herstellen kann, kann auch andere Manipulationen fabrizieren. Für Professor Christian Stöcker von der Hochschule für Angewandte Wissenschaften in Hamburg ist klar, dass solche Videos irgendwann Journalisten zugespielt werden. "Videos, die einen Politiker dabei zeigen, wie er sich schmieren lässt, wie er mit einer Prostituierten ein Haus betritt oder was auch immer. Propaganda wird sich auch auf dieses Feld erweitern", befürchtet Stöcker. Bislang galten Videos als Abbild von Realität - mit solchen Technologien ist das vorbei. Jedes Video könnte bald eine Lüge sein.

Realität und Wahrheit werden immer komplizierter

"Im Moment erleben wir eine Form der Erschütterung der Realitätsgewissheit", sagt  Dr. Wiebke Loosen vom Hans-Bredow-Institut für Medienforschung. "Also dass wir glauben zu wissen, was der Fall ist und dass es relativ einfach ist, das herauszufinden. Wir lernen jetzt, dass das eben nicht so ist."

Bild vergrößern
Wiebke Loosen spricht von einer "Erschütterung der Realitätsgewissheit."

Das ist wissenschaftlich neutral formuliert, birgt aber eine enorme Sprengkraft. Denn über die sozialen Medien gehen die Deepfakes blitzschnell um die Welt und entfalten ihre manipulative Wirkung. Eine aktuelle Studie des Massachusetts Institute for Technology (MIT) besagt, dass Fake News in den sozialen Netzwerken schneller und breiter geteilt werden als echte Nachrichten. Jeder Nutzer, aber besonders auch Journalisten müssen künftig noch genauer hinschauen, Quellen prüfen, Videos verifizieren.

Chance für den Journalismus?

Eine Software, um die neuen Bewegt-Bild-Manipulationen automatisch zu erkennen, gibt es noch nicht. Noch müssen die Videos, wie es Wolfgang Wichmann von den ARD-faktenfindern beschreibt, in einzelne Screenshots zerlegt werden. "Bewegtbild kann ich nicht en bloc suchen. Ich muss einzelne Screenshots in die Suchmaschinen schieben und gucke dann, wo diese Bilder noch auftauchen." Für die Rückwärts-Bildersuche gibt es im Netz zahlreiche Tools. Die Suche nach Bewegt-Bildern ist dagegen oft noch eine große Puzzle-Arbeit.

Bild vergrößern
Noch keine automatisierte Deepfake-Suche: Faktenchecker Wolfgang Wichmann.

Doch in der Mühe liegt auch eine Chance, glaubt Christian Stöcker: "Wenn ich herausfinden will, ob dieses Video, was ich bei Twitter oder Facebook oder sonstwo gefunden habe, eine Fälschung ist oder nicht, dann kann ich zur 'New York Times' oder 'Spiegel Online' und zur 'Süddeutschen' gehen. Und da wird es mir dann gesagt, weil sich jemand die Mühe gemacht hat, das zu verifizieren." Medienmacher müssen künftig noch sorgfältiger prüfen und erklären, warum man jetzt ausgerechnet ihnen trauen soll. Zu glauben, was man sieht, sollte man sich auf jeden Fall schleunigst abgewöhnen.

Weitere Informationen
Link

Deepfakes: Auf dem Weg in eine alternative Realität?

Im Netz kursiert ein manipulierter Film: Eine Frau zeigt ihre Wohnung; im Wohnzimmer prangt ein Hakenkreuz an der Wand. Solche Fakes kann inzwischen jeder produzieren. extern

"Fake News"-Checker in Deutschland

08.03.2017 23:15 Uhr

In vielen Medien werden Fact-Checker-Einheiten aufgebaut, um "Fake News" oder Gerüchte zu widerlegen. Für seine Social-Media-Manager baut der Bayerische Rundfunk ein nützliches Tool. mehr

Dark Ads - Der geheime Wahlkampf im Netz

13.09.2017 23:20 Uhr

Mit auf die Zielgruppe maßgeschneiderte Werbung werben Parteien im Netz um Stimmen. Soweit, so normal. Doch was, wenn Aussagen sich widersprechen? Oder der Gegner diffamiert wird? mehr

Dieses Thema im Programm:

ZAPP | 25.04.2018 | 23:20 Uhr