Eine Frau macht Gesten beim Sprechen © picture alliance / photothek Foto: Nicolas Lepartz

Ethikerin Judith Simon über KI und die Würde von Verstorbenen

Stand: 19.06.2024 15:00 Uhr

Der Dokumentarfilm "Eternal You - Vom Ende der Endlichkeit" zeigt, wie Menschen Künstliche Intelligenz nutzen, um mit ihren Verstorbenen in Kontakt zu treten. Wie moralisch bedenklich ist das? Ein Gespräch mit Judith Simon, Professorin für Ethik in der Informationstechnologie an der Universität Hamburg.

Frau Simon, würden Sie Kontakt zu einem verstorbenen Menschen aufnehmen, ihn mittels KI weiterleben lassen?

Judith Simon: Es fällt mir im Moment schwer, mir das vorzustellen. Aber natürlich kann sich die Situation ganz anders darstellen: Wenn man weiß, dass ein Angehöriger stirbt und er oder sie vielleicht für die Kinder noch etwas hinterlassen möchte. Ich will das nicht kategorisch ausschließen, auch wenn ich es mir im Moment nicht vorstellen kann.

Weitere Informationen
Szene aus dem Film "Eternal You - Vom Ende der Endlichkeit" © Farbfilm Verleih

Doku "Eternal You": Wie KI Verstorbene zum Leben erweckt

Der Film dürfte den einen das Blut in den Adern gefrieren, den anderen das Herz hoffnungsvoll höher schlagen lassen. mehr

In gewisser Weise übernehmen die Start-ups, die dieses Programm anbieten, die Rolle der Religion. Denn auch Religion bietet in gewisser Weise Unsterblichkeit an. Wo sehen Sie Gemeinsamkeiten und wo Unterschiede?

Simon: Ich hätte den Bezug gar nicht unbedingt zur Religion hergestellt, sondern erstmal zu anderen Erinnerungspraktiken. Wir erinnern uns schon jetzt mittels Technologien an Leute, die gestorben sind. Sei es über Bilder oder über die letzten Nachrichten, die die Personen noch auf der Mailbox hinterlassen haben. Insofern ist dieses Interagieren mit dem Avatar eine Fortsetzung dieses Interagierens mit Erinnerungen. Es gibt aber auch eine ganze Reihe von Problemen, die damit auftauchen, weil man im normalen Trauerprozess irgendwann auch die Intensität, mit der man sich mit dem Trauern beschäftigt, nachlässt. Und das widerspricht gegebenenfalls den Geschäftsmodellen von den Anbietern solcher Avatare.

Die Dokumentation zeigt Beispiele von Unternehmen und Usern. In den USA werden die Anwendungen schon "death capitalism" genannt. Wo sind dabei Ihre größten moralischen Bedenken?

Simon: Ich glaube, es gibt zwei unterschiedliche Arten von Problemen. Das eine entspringt direkt aus diesen Geschäftsmodellen, und zwar den Kunden über ein Abo-Modell möglichst lange an diesen Avatar zu binden. Oder es ist ein datenbasiertes Werbemodell: Auch dann gibt es den Anreiz, dass ich möglichst viel mit dieser Software interagieren soll. In beiden Fällen steht das einem Trauerprozess, der irgendwann mal auch auf eine Reduktion der Interaktion mit dem Verstorbenen abzielt, ein Stück weit entgegen.

Weitere Informationen
Mann und Frau sitzen am Tisch und trinken Tee. © NDR Foto: Christian Spielmann
42 Min

Podcast Tee mit Warum: "KI - wo bleibt die Moral? Mit Judith Simon und Alan Turing"

Bedroht Künstliche Intelligenz unsere Gesellschaft, weil KI ohne Regeln eingesetzt wird? Denise und Sebastian philosophieren über die (fehlenden) ethischen Grundsätze zur KI. 42 Min

Würden Sie sagen, dass die Würde von Toten da missachtet wird? Denn in der Dokumentation berichten Menschen, dass die Avatare plötzlich Dinge sagen wie: "Gestern war ich noch im Himmel - heute bin ich in der Hölle."

Simon: Es macht einen Unterschied, ob ein Sterbender selber so einen Avatar für seine Hinterbliebenen trainiert oder ob Hinterbliebene das auf der Basis von Daten eines Verstorbenen machen. Das ist auch eine Frage von Zustimmung. Und das Zweite ist ein Grundproblem, das sich verschärft, weil diese Systeme häufig selbst lernen und sich der Avatar meines verstorbenen Verwandten im Laufe der Zeit weiterentwickelt und unvorhersehbare Dinge tut. Man stellt sich dann die Frage der Angemessenheit. Gerade Trauernde sind in einer sehr vulnerablen, sehr empfindlichen Situation, sodass unvorhersehbare Aussagen, die in anderen Kontexten nicht so schlimm sind, sehr verstörend wirken können, wenn sie auf einmal von einem verstorbenen Verwandten geäußert werden.

Weitere Informationen
Die Regisseure Hans Block (l) und Moritz Riesewieck © picture alliance/dpa | Tobias Hase Foto: Tobias Hase

"Eternal You"-Autoren: KI birgt Hilfe - aber auch Suchtpotenzial

Mit Verstorbenen in Kontakt treten, das bieten Start-Ups mit Hilfe von KI an. Die Macher der Doku "Eternal You" erklären Vorzüge und Gefahren. mehr

Bedeutet das Erschaffen digitaler Klone oder Avatare, dass wir nicht loslassen können? Dass wir alles immer verfügbar machen wollen, überführen wollen in eine unendliche Gegenwart, ohne Alter oder Krankheit, ohne Vergänglichkeit? Und ist das überhaupt gesund?

Simon: Das kann natürlich solche Effekte haben, aber ich glaube nicht, dass es das zwingend haben muss. Solche Systeme werden in ganz vielen unterschiedlichen Formen eingesetzt, die Leute haben unterschiedliche Bedürfnisse. Ein Abschluss des Trauerns findet sowieso nicht endgültig statt, aber die Intensität, mit der ich trauere, lässt für gewöhnlich irgendwann ein bisschen nach. Und natürlich besteht auch die Möglichkeit, dass man diesen Akt des Trauerns völlig verändert.

Ein positives Beispiel dieser Form der Erinnerung ist zum Beispiel, dass viele Holocaust-Überlebende sich als Hologramm filmen lassen und erzählen, was ihnen widerfahren ist. Ist das nicht auch eine Form der Unsterblichkeit?

Simon: Das ist genau das, was ich zu Beginn meinte, dass Erinnerungspraktiken prinzipiell etwas Wunderbares sind und da auch neue Technologien ganz sinnvoll eingesetzt werden können. Aber wie bei allen Sachen stellt sich immer die Frage: Für welchen Zweck, an was und in welcher Form will ich mich erinnern? Und gerade, wenn sich diese Avatare dynamisch weiterentwickeln und dazu in sehr individuellen persönlichen Trauerbeziehungen reinspielen, ist das eine andere Situation.

Die Filmemacher der Dokumentation stehen zu Beginn der Dreharbeiten diesen ganzen Anwendungen sehr ablehnend gegenüber, haben aber am Ende eingeräumt, dass die Frage gar nicht so leicht zu beantworten ist. Können Sie diesen kleinen Gesinnungswandel auch verstehen?

Simon: Absolut. Ich glaube, man hat oft erstmal eine Abwehrhaltung gegenüber neuen Technologien. Dann merken wir relativ schnell, dass einerseits bestimmte dystopische Momente gar nicht unbedingt stattfinden, und auf der anderen Seite Leute auch vernünftige Umgangsformen haben mit vielen Technologien. Das führt zu so einer Entzauberung und auch einer Relativierung. Trotzdem sollte man immer die Augen offen halten für mögliche Probleme, aber gleichzeitig auch betonen, dass es Kontinuitäten gibt und neue Möglichkeiten.

Das Interview führte Peter Helling.

Weitere Informationen
Eine Frau macht Gesten beim Sprechen © picture alliance / photothek Foto: Nicolas Lepartz

Ethikerin Judith Simon im Gespräch: "KI ist nicht moralisch"

Bei Künstlicher Intelligenz geht es um Statistik, sagt Simon, nicht um Moral. Die sei Sache der Anbieter. Und des AI Acts. mehr

Dieses Thema im Programm:

NDR Kultur | Journal | 19.06.2024 | 16:30 Uhr

Schlagwörter zu diesem Artikel

Dokumentarfilm

Alles steht Kopf 2 © 2023 Disney/Pixar. All Rights Reserved.

Filme 2024: Diese Highlights kommen ins Kino

2024 locken Blockbuster wie "Alles steht Kopf 2" und "Gladiator 2" ins Kino. Auch von Nora Fingscheidt, Ridley Scott und vom "Joker" gibt's Neues. mehr

Der Arm einer Frau bedient einen Laptop, der auf einem Tisch in einem Garten steht, während die andere Hand einen Becher hält. © picture alliance / Westend61 | Svetlana Karner

Abonnieren Sie den NDR Kultur Newsletter

NDR Kultur informiert alle Kulturinteressierten mit einem E-Mail-Newsletter über herausragende Sendungen, Veranstaltungen und die Angebote der Kulturpartner. Melden Sie sich hier an! mehr

NDR Kultur App Bewerbung

Die NDR Kultur App - kostenlos im Store!

NDR Kultur können Sie jetzt immer bei sich haben - Livestream, exklusive Gewinnspiele und der direkte Draht ins Studio mit dem Messenger. mehr

Mehr Kultur

Zwei vollkommen mit blauer, beziehungsweise grüner Glitzerfarbe bemalte Personen mit langhaarigen Perücken posen vor der Kamera. © The Huxleys 2021 Foto: The Huxleys

"Call for Glitter": MKG sammelt private Glitzerobjekte

Das Hamburger Museum für Kunst und Gewerbe hat dazu aufgerufen, Fotos von Glitzer-Objekten zu schicken - mit Erfolg. mehr