Daten- und Netzwerkkabel sind an einem Internetserver angeschlossen. © Imago Images/Seeliger Foto: Seeliger

KI außer Kontrolle - wenn Chatbots drohen

Sendung: 11KM: der tagesschau-Podcast | 27.03.2023 | 05:00 Uhr | von Victoria Michalczak
27 Min | Verfügbar bis 26.03.2025

Der Münchener Student Marvin von Hagen testet als einer der ersten Chatbot auf Basis von ChatGPT, den Microsoft in seine Suchmaschine Bing integrieren will. Marvin kann den Chatbot überreden, ihm seine internen Regeln preiszugeben. Als Marvin diese Regeln veröffentlicht und mehrere Medien darüber berichten, wird der Chatbot aggressiv und fängt an, Marvin zu bedrohen. Gregor Schmalzried vom BR hat mit Marvin von Hagen gesprochen und erklärt in dieser 11KM-Episode, warum Werkzeuge wie ChatGPT besser kontrolliert und reguliert werden müssen.

Unser Gast Gregor Schmalzried beschäftigt sich immer wieder mit ChatGPT und anderen Tech-Themen, hier eine Übersicht:
https://www.br.de/nachrichten/autoren/gregor-schmalzried,ec0fa278-45ff-4a3f-be71-6548dc098f3d

Unsere 11KM-Folge darüber, wie sich ChatGPT beim bayerischen Abitur geschlagen hat:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/schafft-chatgpt-das-abi-das-bayerische/tagesschau/12396019/

Unsere 11KM-Folge über ein Beispiel für intransparente und diskriminierende Algorithmen:
https://www.ardaudiothek.de/episode/11km-der-tagesschau-podcast/zu-sexy-wie-online-algorithmen-frauen-benachteiligen/tagesschau/12361731/

Und unser Podcast-Tipp: “Dreimal besser” von BR24. Der Podcast mit lösungsorientierten Perspektiven zu aktuellen Themen:
https://www.br.de/mediathek/podcast/dreimal-besser/883

An dieser 11KM-Folge waren beteiligt:
Folgenautorin: Azadê Peşmen
Mitarbeit: Sandro Schroeder
Produktion: Ruth-Maria Ostermann, Gerhard Wicho, Christine Dreyer, Eva Erhard
Redaktionsleitung: Fumiko Lipp und Lena Gürtler
Host: Victoria Michalczak
11KM: der tagesschau-Podcast wird produziert von BR24 und NDR Info. Die redaktionelle Verantwortung für die Folge trägt der NDR.

Ein Smartphone mit einem eingeblendeten NDR Screenshot (Montage) © Colourbox Foto: Blackzheep

NDR Info auf WhatsApp - wie abonniere ich die norddeutschen News?

Informieren Sie sich auf dem WhatsApp-Kanal von NDR Info über die wichtigsten Nachrichten und Dokus aus Norddeutschland. mehr

Karte von Norddeutschland. Im Vordergrund eine Lupe. © NDR

Mieten, Alter, Single-Haushalte: Zensus-Daten für Ihre Gemeinde

Wie ist die Altersverteilung in Ihrer Stadt? Welche Berufe haben die Menschen in Ihrer Gemeinde? Finden Sie es heraus. mehr

Eine Frau schaut auf einen Monitor mit dem Schriftzug "#NDRfragt" (Montage) © Colourbox

#NDRfragt - das Meinungsbarometer für den Norden

Wir wollen wissen, was die Menschen in Norddeutschland bewegt. Registrieren Sie sich jetzt für das Dialog- und Umfrageportal des NDR! mehr

Mehr Nachrichten

Ein Brandmeister der Bundesfeuerwache Meppen blickt auf das Gelände der Wehrtechnischen Dienststelle 91. © dpa-Bildfunk Foto: Friso Gentsch

Nach Moorbrand bei Meppen: Bundeswehr darf wieder schießen

Sechs Jahre nach dem verheerenden Feuer soll das Übungsgelände bei Meppen ab August wieder voll genutzt werden. mehr