VIDEO: Täuschend echte Videos - der nächste Schritt in der KI-Revolution (5 Min)

Folgen nicht absehbar: KI-Software kreiert täuschend echte Videos

Stand: 04.03.2024 10:51 Uhr

Faszinierend und beängstigend: Mit der OpenAI-Software Sora lassen sich durch einfache Textbefehle Videos erstellen, die täuschend echt aussehen. Die Gefahr von Missbrauch ist hoch - gerade in einem "Superwahljahr" wie diesem.

von Jonas Kühlberg

Eine elegante Frau schlendert durch eine regennasse Stadt. Neon-Leuchtreklamen spiegeln sich in den Pfützen. Doch an dieser Szene ist nichts echt. Es ist ein Beispielvideo der Firma Open AI. Mit einem kurzen Textbefehl, einem sogenannten Prompt, lassen sich mit ihrem neuen KI-Generator Sora im Handumdrehen erstaunlich realistisch wirkende Filmszenen erzeugen: von Menschen, detailreichen Landschaften oder lebensecht wirkenden Tieren. 

Wenn man Videos nicht mehr trauen kann 

Drei Mammuts laufen durch eine verschneite Landschaft. © Screenshot
Mammuts zum Leben erwecken, wie hier mit OpenAIs KI-Programm Sora: Bald kann das jeder auf Knopfdruck.

Selbst historische Aufnahmen können damit generiert werden, die auf den ersten Blick nicht mehr zu unterscheiden sind von echtem Material. Jan Claas van Treeck, Professor für digitale Transformation an der Hochschule Fresenius in Hamburg, sieht die Gefahr, dass wir Fotos, Audios und jetzt auch Videos künftig nicht mehr trauen können: "Kann ich mich noch darauf verlassen, dass mediale Abbildungen in irgendeiner Form etwas mit Wahrheit zu tun haben? Mit den immer besser werdenden KI-Systemen werden wir sehen, dass wir ein immer größeres Problem haben werden, uns zu fragen: Ist das jetzt wahr, was wir da gerade gesehen haben?"

Professor van Treeck: "Dadurch werden auch Jobs wegfallen"

Neben Open AI haben auch andere Tech-Giganten wie Google bereits Video mit KI-Software entwickelt. Ganz neue Möglichkeiten tun sich dadurch auf, aber auch Probleme, so van Treeck: "Es wird eine massive soziale Umwälzung passieren, weil damit natürlich Jobs wegfallen."

Die Jobs von Videoproduzenten, Kameraleuten, Grafikern und Animationsfirmen könnten zum Teil ersetzt werden oder sich massiv verändern. Denn bald kann jeder mit nur einem Textbefehl tanzende Hasen, Roboter und Mammuts zum Leben erwecken.

Weitere Informationen
Zwei Kunstwerke zeigen jeweils ein Mädchen mit Ohrringen. © Screenshot

Wenn die KI Kunst macht: Banal oder das nächste Level?

In Den Haag hat die KI-Neuinterpretation des bekanntesten Vermeer-Bildes viele fasziniert, andere aufgeregt. Ist das überhaupt Kunst? mehr

Wird das Internet von Deepfakes geflutet?

Die größte Gefahr aber ist Missbrauch. Tagesschau-Moderatoren wurden schon früher durch KI generierte Sätze in den Mund gelegt. Was passiert, wenn Fake-Videos künftig von jedem ganz leicht hergestellt werden können? Welchen Informationen können wir noch trauen? Wird das Internet von Deepfakes geflutet? Werden Falschinformationen die Meinungsbildung massiv beeinflussen? Fragen, die im "Superwahljahr" mit der Europawahl, mehreren Landtagswahlen und der US-Präsidenschaftswahl besonders wichtig sind. 

Die Revolution hat längst begonnen, sagt Judith Simon. Sie forscht über Ethik in der IT und ist Mitglied des Deutschen Ethikrats. "Was wir ja schon gesehen haben, ist, dass diese Deepfakes eingesetzt werden für Manipulationen und Propaganda", erklärt Simon. "Das ist alles nichts Neues, Manipulation und Propaganda gab es schon immer. Aber es hat sich verändert, wie schnell und wie einfach das geht. Es haben jetzt sehr viele Leute Tools in der Hand, mit denen sie Inhalte generieren können, um die öffentliche Meinung gezielt in die Irre zu führen. Und das macht mir schon Sorgen. Je besser die Technologien werden, umso schwieriger wird es natürlich zu unterscheiden: Was ist Wahrheit? Und was ist Fake? 

Weitere Informationen
Eine Frau macht Gesten beim Sprechen © picture alliance / photothek Foto: Nicolas Lepartz

Ethikerin Judith Simon im Gespräch: "KI ist nicht moralisch"

Bei Künstlicher Intelligenz geht es um Statistik, sagt Simon, nicht um Moral. Die sei Sache der Anbieter. Und des AI Acts. mehr

KI und Wahlen: Sam Altman ist nervös

Selbst der Chef von Open AI, Sam Altman, ist nach eigener Aussage "nervös", was mit KI bei Wahlen angerichtet werden könnte. Er hat Sora bisher nur ausgewählten Testern zur Verfügung gestellt. Noch ist die neue Software der Öffentlichkeit also nicht zugänglich. Denn es braucht Regulierung. Oder sogar Verbote?

"Es ist ein bisschen so, als wäre die Büchse der Pandora geöffnet", findet Simon. "Wir haben jetzt diese Technologien auf dem Markt. Man wird bestimmte Nutzungsszenarien vielleicht einschränken, verhindern oder verbessern können. Aber sie komplett zu verbieten, das halte ich für unrealistisch."

Gegenmaßnahmen: Kennzeichnungspflicht und Wasserzeichen

Eine Kennzeichnungspflicht für Videos, die mithilfe von KI entstanden sind, würde helfen. An der Hamburger Hochschule für Angewandte Wissenschaften wurden vor Kurzem Wasserzeichen für KI-generierte Inhalte entwickelt. Aber selbst die könnte man wohl fälschen. "Die sind wichtig und notwendig", meint Simon. "Aber es wird auch einen Wettbewerb darüber geben, wie man diese Schutzmaßnahmen durchbrechen kann. Das ist ein bisschen wie bei Viren-Scannern: Wenn die Viren immer besser werden, müssen auch die Virenscanner immer besser werden. Ähnlich ist es beim Nachweisen von Fake-Inhalten."

Weitere Informationen
Ein KI-generiertes Bild von Udo Lindenberg beim Surfen. © Screenshot
3 Min

HAW entwickelt Wasserzeichen gegen Deepfakes

Mit "SaM-fake" werden unsichtbare Wasserzeichen bereits während der Aufnahme in die Dateien von Fotos, Videos und Audiodateien eingebrannt. 3 Min

Welten nach eigenem Gusto erschaffen. Dies ist der nächste große Schritt in der KI-Revolution. Faszinierend und beängstigend, dass diese Bilder künstlich sind. Noch ist Sora nicht zugänglich. Noch gibt es hier und da Bildfehler, noch kann man maximal einminütige Videos herstellen. Und doch: Schon jetzt ist Erstaunliches auf Knopfdruck möglich. Aber wo wird uns diese rasante Entwicklung hinführen? Die Folgen für die Gesellschaft sind nicht absehbar. Es braucht Regulierung. Sonst leben wir irgendwann in einer Welt, in der man nichts mehr glauben kann.

Weitere Informationen
Ein Messebesucher geht an einem Leuchtdisplay auf der CeBIT in Hannover vorbei. © Peter Steffen/dpa

Umgang mit Künstlicher Intelligenz (KI) im NDR

Künstliche Intelligenz ist die Fähigkeit von Maschinen, Aufgaben zu erledigen, die menschliche Intelligenz erfordern. Für den Umgang damit gibt es Im NDR Leitlinien. mehr

Ein Schwarz-Wei?-Foto einer Band auf der Bühne © picture alliance/dpa Foto: picture alliance/dpa

KI erzeugt neuen Beatles-Song: "Schön, aber nicht originell"

Ocke Bandixen findet, "As If Nothing Ever Happened" ist "kein Beatles-Song". Sein größter Kritikpunkt: der banale Songtext. mehr

Die Schriftstellerin Nina George © Helmut Henkensiefken/FinePic München Foto: Helmut Henkensiefken

Bestsellerautorin Nina George: "KI beruht auf Diebstahl"

Im Gespräch warnt eine von Deutschlands international erfolgreichsten Autorinnen vor dem Verlust der Freiheit durch Künstliche Intelligenz. mehr

Zwei Hände greifen ineinander. Die rechte Hand ist menschlich, die linke Hand ist aus blauem Metall und mit Scharnieren und Kabeln versehen. Der HIntergrund ist schwarz. © IMAGO / CHROMORANGE

Kann KI unseren Autor ersetzen? Und was sagt die KI dazu?

Autor Jörn Klare und ein künstlich intelligentes Large Language Model gestatten Einblicke in ihre Zusammenarbeit. mehr

Hände halten Stockbrot über einen Grill - und ein Buch von Eva Lohmann: "Das leise Platzen unserer Träume" © NDR Foto: Katharina Mahrenholtz

eat.READ.sleep: (105) Stockbrot und KI-Romane

Jan und Daniel erleben dadaistische Grundstimmung beim Lesen eines KI-generierten Romans und sprechen über Hermann Hesse als literarische Medizin. mehr

Drei Roboter nebeneinder © picture alliance / Westend61 | Anna Huber

Künstliche Intelligenz: Alarmierende Auswirkungen auf die Musikbranche

KI ist nicht aufzuhalten. Ihre Auswirkungen auf die Musik- und Kreativbranche hat eine Studie der GEMA und der SACEM untersucht. mehr

Dieses Thema im Programm:

NDR Kultur - Das Journal | 04.03.2024 | 22:45 Uhr

Schlagwörter zu diesem Artikel

Künstliche Intelligenz (KI)

Hände halten ein Smartphone auf dem der News-Channel von NDR Kultur zusehen ist © NDR.de

WhatsApp-Channel von NDR Kultur: So funktioniert's

Die Kultur Top-News aus Norddeutschland direkt aufs Smartphone: NDR Kultur ist bei WhatsApp mit einem eigenen Kanal aktiv. mehr

Eine Grafik zeigt einen Lorbeerkranz auf einem Podest vor einem roten Hintergrund. © NDR

Legenden von nebenan: Wer hat Ihren Ort geprägt?

NDR Kultur sucht Menschen, die in ihrer Umgebung bleibende Spuren hinterlassen haben - und setzt ihnen ein virtuelles Denkmal. mehr

Der Arm einer Frau bedient einen Laptop, der auf einem Tisch in einem Garten steht, während die andere Hand einen Becher hält. © picture alliance / Westend61 | Svetlana Karner

Abonnieren Sie den NDR Kultur Newsletter

NDR Kultur informiert alle Kulturinteressierten mit einem E-Mail-Newsletter über herausragende Sendungen, Veranstaltungen und die Angebote der Kulturpartner. Melden Sie sich hier an! mehr

NDR Kultur App Bewerbung © NDR Kultur

Die NDR Kultur App - kostenlos im Store!

NDR Kultur können Sie jetzt immer bei sich haben - Livestream, exklusive Gewinnspiele und der direkte Draht ins Studio mit dem Messenger. mehr

Mann und Frau sitzen am Tisch und trinken Tee. © NDR Foto: Christian Spielmann

Tee mit Warum - Die Philosophie und wir

Bei einem Becher Tee philosophieren unsere Hosts über die großen Fragen. Denise M‘ Baye und Sebastian Friedrich diskutieren mit Philosophen und Menschen aus dem Alltag. mehr

Mehr Kultur

Eine Frau schaukelt auf einem Kronleuchter im Musical "& Julia" in Hamburg © Markus Scholz/dpa +++ dpa-Bildfunk Foto: Markus Scholz

"&Julia"-Premiere: Hits der 90er-Jahre und Stars auf dem roten Teppich

Das Musical erzählt Shakespeares Geschichte von Romeo und Julia neu. Am Mittwoch war die Deutschlandpremiere in Hamburg. mehr