Stand: 26.03.2019 14:19 Uhr

Im Zeitalter der High-Speed-Fakes

von Florian Müller
Bild vergrößern
Eine Frau lächelt in die Kamera - die Frau ist allerdings nicht real, sondern am Computer erstellt.

Spätestens seit Donald Trump 2016 die Präsidentschaftswahl in den USA gewonnen hat, ist der Begriff "Fake News" zum geflügelten Wort geworden. Nicht nur, weil der nun amtierende Präsident Pressemeldungen, die nicht seinem Wunschbild entsprechen, regelmäßig als "Fake News" tituliert, sondern auch, weil er seinen Sieg zum Teil auch Desinformationskampagnen in den sozialen Medien verdankt, in denen seine Konkurrentin Hillary Clinton verunglimpft wurde.

Inzwischen beschreibt der Begriff "Fake News" die unterschiedlichsten Formen der gezielten oder unabsichtlichen Manipulation. Während sich die sozialen Netzwerke weiterhin schwertun, diese Meldungen auszufiltern beziehungsweise durch ihre Algorithmen abzustrafen, lassen sich mit künstlicher Intelligenz (KI) immer bessere, kaum als Fake erkennbare Bild- und Videomanipulationen produzieren.

Bot or not? Software als Helfer im Journalismus

Auf der diesjährigen South-by-Southwest-Technikmesse (SXSW) in Austin war "AI" (für artificial intelligence, zu deutsch: künstliche Intelligenz, also KI) der dominierende Begriff. Zahlreiche Reden und Diskussionsrunden beschäftigten sich auch mit den Auswirkungen für den Journalismus.

Viele Redaktionen nutzen inzwischen KI, um Routineaufgaben wie Sportmeldungen vom Computer automatisiert erstellen zu lassen. Für den Leser ist nicht mehr erkennbar, ob die jeweilige Meldung von einem Bot (von englisch "Robot") oder einem echten Menschen geschrieben wurde. Andere Redaktionen nutzen die Technik, um für investigative Recherchen Datenberge nach Anomalien, verdächtigen Strukturen und sonstigen Auffälligkeiten zu untersuchen.

Nutzerdaten können Journalismus individualisieren

Der Wunsch, den Leser dort abzuholen, wo er ist, bedeutet in der Zukunft, dass mittels künstlicher Intelligenz Artikel maßgeschneidert werden. Je nach Bildung, Vorkenntnissen und Meinungsbild passt sich der Artikel dem User an, Artikel werden zu etwas Organischem. Das Ganze geht natürlich nur, wenn man zuvor reichlich Daten der User gesammelt hat. "Wir müssen uns in diesem Bereich wachsam und ethisch-sauber verhalten", erklärt Emily Withrow, die mit ihrer Firma "Quartz Bot Studio" KI-Anwendungen entwickelt.

Zwei Seiten der Medaille: Software als Propaganda-Tool

Wie jede Technik lässt sich KI zu Großartigem und Schrecklichem nutzen. Auf der SXSW-Konferenz ist häufig die Rede von GPT2. Die Organisation Open AI hat dieses Sprachprogramm entwickelt. Auf Grundlage eines nur wenige Sätze kurzen menschlichen Inputs schreibt das Modell Texte und ganze Geschichten fertig, die dann nur schwer als künstlich enttarnt werden können. Das Modell wurde entgegen der ursprünglichen Absicht doch nicht zur freien Benutzung ins Netz gestellt: Zu groß die Sorge des Teams, dass mittels GPT2 das Erstellen von "Fake News" und gefälschten Online-Rezensionen sowie das Manipulieren sozialer Medien in gigantischem Ausmaß möglich wären.

Nicht nur Texte lassen sich mit KI erstellen, auch Bilder können so generiert werden. Auf der Seite ThisPersonDoesNotExist.com kann man sich davon einen Eindruck verschaffen. Mit jedem Neuladen der Seite erscheint auf dem Bildschirm ein anderes Portrait eines Menschen. So unterschiedlich all die Abgebildeten sind, eint sie eines: Diese Menschen existieren nicht. Die Bilder wurden allesamt durch KI erstellt, sie sind Fakes, aber nicht als solche erkennbar.

"Deepfakes" - KI sorgt für perfekt manipulierte Videos

Und auch bewegten Bildern werden wir immer weniger trauen können. Bekannt sind Versuche, bei denen Videosequenzen aus dem Kontext gerissen und im Zuge eines Fakes neu verortet werden. Videos beispielsweise, die angeblich aus der Ukraine stammen, tatsächlich aber Kampfhandlungen in Syrien zeigen. Nachrichtenagenturen stoßen nun aber vermehrt auf Filme, die "Deepfakes" sind. Dabei handelt es sich um Videomaterial, das mit künstlicher Intelligenz generiert wurde. Im vergangenen Jahr veröffentlichte "BuzzFeed" ein "Deep Fake"-Video, in dem Barack Obama seinen Nachfolger Donald Trump beschimpfte. Die Rede wirkt ziemlich überzeugend - allein: Es hat sie nie gegeben.

Interviews
00:32

"Bildmanipulation dauert nur noch Sekunden"

Für Bild- und Videomanipulationen braucht es bald keine Experten mehr, ausgeklügelte Software erstellt Fakes innerhalb von Sekunden. Matt Groh vom MIT warnt deshalb und rät zur Vorsicht. Video (00:32 min)

01:07

"'Deepfakes' are a growing threat for us"

Für Hazel Baker von Reuters sind Deepfakes, also manipulierte Videos eine wachsende Bedrohung, da die Technik zur Herstellung sich rasant weiterentwickelt. Video (01:07 min)

Hazel Baker ist Chefin der Abteilung News Gathering bei Reuters. "Es beunruhigt uns, weil wir sehen, wie schnell diese Technik sich weiterentwickelt." Um ihr Team zu testen, legte sie ihm ein "Deepfake"-Video vor. Zu sehen ist eine Frau, die auf Französisch in die Kamera spricht. Die Frau, die da zu uns redet, spricht im echten Leben allerdings kein Wort Französisch. Eine andere Frau hat den Text gelesen, mittels KI wurde das Videomaterial danach so manipuliert, dass sich der Mund der Frau fast perfekt zur Tonspur bewegt.

Matt Groh arbeitet im Media Lab des MIT in Boston. Er zeigt auf der Messe, wie schnell die neue Technik arbeitet. "Foto-Manipulationen mit Photoshop brauchen Zeit und einen Experten, der das umsetzt. Mit dieser Technik geht das innerhalb von Sekunden." In Austin fordert er: Die neue KI-Video-Technik muss zu einer neuen Kultur in den Newsrooms führen. Besser noch ein zweites und drittes Mal die Plausibilität der Videos checken - und nicht dem ersten Blick trauen.

Weitere Informationen

Lügen und Videos: Deepfakes fluten das Netz

Immer häufiger findet man Bewegtbild-Manipulationen von Videos im Netz. Sie sind ein besonders perfides Mittel der Manipulation: sogenannte Deepfakes. mehr

Faktenprüfer in den USA setzen auf Computerhilfe

Fake-News können Wahlen beeinflussen. Auf einer Internet-Konferenz in den USA diskutieren Experten, wie zuverlässig Computerprogramme Fake-News verhindern können. mehr

Die Zukunft des Storytelling

Geschichten können im Netz dank multimedialer Möglichkeiten ganz anders erzählt und sogar erlebbar werden. Ein Ein- und Ausblick in die Entwicklung des Storytelling. mehr

 

Dieses Thema im Programm:

ZAPP | 27.03.2019 | 23:20 Uhr