Stand: 14.12.2017 02:00 Uhr

Der Todesalgorithmus: Computer berechnet Lebenserwartung

von Tina Soliman

"Wir können sagen, welche Patienten in einer Woche, sechs Wochen oder einem Jahr sterben. Wir können zu Behandlungsplänen sagen: Wie viel kostet der Patient?" - so wirbt Bill Frist für das auch von ihm gegründete US-Unternehmen "Aspire Health". Das von Google mitfinanzierte Unternehmen wertet mit Hilfe von Algorithmen ärztliche Diagnosen von Patienten aus - und gleicht das Krankheitsbild mit Mustern häufiger Therapien ab. Mit Hilfe des Algorithmus' soll verhindert werden, dass Schwerkranke unnötige Behandlungen bekommen, die außerdem noch viel Geld kosten. So spart man teure Untersuchungen, wenn man zu wissen glaubt, dass es um den Patienten ohnehin bald geschehen ist. 

VIDEO: Todesalgorithmus: Berechnete Lebenserwartung (12 Min)

"Aspire Health" will Kosten senken. Denn Behandlung ist teurer als Pflege. Das US-Unternehmen, das sein Geld mit Palliativpflege verdient, erwartet, dass sich so 40 Prozent der Behandlungskosten einsparen lassen. Das klingt nach Effizienz. Aber lässt sich die Prognose über den Krankheitsverlauf eines Menschen anhand von Statistiken errechnen? Was ist mit nicht messbaren, aber entscheidenden Faktoren? Dem Überlebenswillen zum Beispiel.

"Ich wollte leben!"

Weitere Informationen
Panorama Reporterin Tina Soliman im Gespräch bei tagesschau24 © NDR Foto: Screenshot
4 Min

Soliman: "Der Arzt muss den Mut haben, sich darüber hinwegzusetzen"

In Deutschlands Krankenhäusern werden Algorithmen schon längst eingesetzt - aber eben nicht zur Entscheidung über Leben und Tod. Panorama Autorin Tina Soliman über die Todesalgorithmen. 4 Min

Vor über vier Jahren erfuhr Monika, dass sie vermutlich nur noch wenige Monate zu leben hatte. Sie litt unter schwarzem Hautkrebs auf fast allen Organen - und Brustkrebs. Monika bereitete ihre eigene Beerdigung vor. "Der Bestatter war hier, und wir haben die komplette Beerdigung besprochen, welcher Blumenschmuck gemacht wird, dass ich verbrannt werden möchte, welche Urne - und auf welchem Friedhof. Ich hätte wirklich gehen können", so die heute 55-jährige, ehemalige Krankenschwester. Die Leber drohte zu versagen, Monika hatte bereits die Zusage für einen Hospizplatz. "Ganz plötzlich, sozusagen über Nacht, entwickelte ich einen unbändigen Überlebenswillen. Ich wollte leben!"

Weitere Informationen
Professor Dr. Stefan Selke, Soziologe. © NDR Foto: Screenshot
6 Min

Selke: "Menschen könnten als Ersatzteillager dienen"

Der Soziologe Dr. Stefan Selke spricht mit Panorama darüber, wie gefährlich es ist, wenn Algorithmen das tun, was früher Menschen getan haben: Verantwortung über Leben und Tod zu übernehmen. 6 Min

Maschinen denken und fühlen nicht

"Algorithmen urteilen nur auf der Basis der Daten, mit denen sie gefüttert werden", warnt Kevin Baum, Computerethiker der Universität des Saarlandes, "sie bilden immer nur das Modell eines Menschen ab, nie den Menschen selbst!" Nicht beachtete individuelle Eigenschaften, die aber durchaus relevant sein können - wie etwa der Kampfeswille - können somit übersehen werden. Maschinen lernen, aber sie denken und fühlen nicht!

Kevin Baum, Computerethiker, Uni Saarbrücken © NDR Foto: Screenshot
Eigenschaften wie ein starker Überlebenswille könnten von Algorithmen übersehen werden, meint Computerethiker Kevin Baum.

"Was eine Maschine nicht kann, ist eine Einzelfallentscheidung zu fällen", so Baum. "Die Idee ist, dass ähnliche Fälle ähnlich funktionieren. Das muss aber auch nicht unbedingt sein! Wir könnten uns zwei Patienten vorstellen, die beide auf dem Fragebogen die gleichen Antworten gegeben haben, deren Patientenakten genau gleich aussehen. Wir können annehmen, dass das alles in den Algorithmus eingeht, und trotzdem können wir annehmen, dass der eine Patient nach sechs Monaten tot ist und der andere Patient noch 15 Jahre lebt."

 

Auf welcher Grundlage basieren die Algorithmen?

Grundsätzlich spielt die Vorhersage des Todes bereits in vielen Bereichen eine Rolle, etwa bei Lebensversicherungen. Doch Algorithmen setzen sich auch im medizinischen Bereich immer stärker durch. Längst werden sie auch in deutschen Krankenhäusern eingesetzt - in Erwartung von Berechenbarkeit der Lebenserwartung.

Prof. Dr. Wolfgang Hiddemann, Onkologe im Klinikum Großhadern in München. © NDR Foto: Screenshot
Algorithmen, die entwickelt werden, um Kosten zu senken, müsse man verbieten, sagt der Onkologe Prof. Wolfgang Hiddemann.

Der Rat von Software kann helfen und Therapieentscheidungen unterstützen, sagt der Onkologe Prof. Wolfgang Hiddemann von Klinikum Großhadern in München. Auch er setzt datenbasierte Statistiken als Hilfsmittel ein. "Das sind aber Algorithmen, die von uns selbst entwickelt worden sind und bei denen ganz klar ist, auf welcher Grundlage das basiert. Wenn aber Algorithmen entwickelt werden von Firmen, die etwas verkaufen wollen oder die Kosten dämpfen wollen, dann ist das ein Punkt, der mir zu weit geht, und den muss man in der Umsetzung verbieten", so der Onkologe. 

Start-Ups wie "Aspire Health" legen ihre Algorithmen nicht offen. So wird die Entscheidung über Leben und Tod an eine Firma ausgelagert, deren Manager und Strukturen nicht bekannt sind. Das Leben: ein Betriebsgeheimnis. Wenn wir nicht wissen, wer den Algorithmus aus welchen Gründen erstellt  - wie das Verhältnis zwischen Eingabe und Ausgabe aussieht - dann können wir nur schwer beurteilen, ob der Rat der Software taugt oder nicht.

Todesurteil per Mausklick

Lukas Hartmann ist Softwareentwickler und interessiert sich für Lebenszeitberechnung. Er hat eine US-Firma gefunden, die einen Selbsttest anbietet: Man schickt eine Speichelprobe ein und bekommt eine Analyse des eigenen DNA-Bauplans. Man erfährt etwa, ob man unter einer Erbkrankheit leidet. "23andme" heißt das Start-Up (auch von Google mitfinanziert), das die Entschlüsselung der Erbinformation anbietet. Längst arbeitet die Firma mit internationalen Pharmafirmen zusammen. 

Hartmann wartete gebannt auf das Ergebnis der Speichelprobenanalyse: Nach einiger Zeit kam eine Mail: "Es gibt ein neues Ergebnis. Das könnte beunruhigend sein! Wenn Sie hier klicken, können Sie das nicht mehr rückgängig machen!" Dort wurde ihm attestiert, dass er das Risiko habe, eine lähmende Muskelschwundkrankheit - Gliedergürteldystrophie - zu bekommen und das würde den Tod bedeuten. "Das war im ersten Moment natürlich schockierend", so Lukas Hartmann.

Lukas Hartmann, Softwareentwickler © NDR Foto: Screenshot
Seine Lebenserwartung wurde wegen eines Fehlers im Algorithmus falsch berechnet: Lukas Hartmann, Softwareentwickler.

Todesurteil per Mausklick - nun wollte Hartmann natürlich ganz genau wissen, wie die Firma zu diesem vernichtenden Ergebnis kam. Gut, dass die Trainingsdaten des Algorithmus von "23andme" einsehbar waren. So konnte er nachvollziehen, welche Daten bei der Berechnung verwendet wurden. Was er herausfand, ließ ihn erleichtert aufatmen. Sein Todesurteil basierte auf einem Fehler im Algorithmus. "Die haben sich vertan. Der Fehler war, dass das eine Gruppe von Krankheiten ist, die zu einer Krankheit zusammen gematcht wurden (...) Ich hatte eben einen Marker aus einem Krankheitsbereich und einen aus einem anderen,  und die beiden wurden fehlerhafterweise addiert", so Hartmann.

Berechnungen, die über Leben und Tod entscheiden

Eine Entschuldigung für die Fehldiagnose erhält er nicht. Man habe den Fehler korrigiert, hieß es bei "23andme" lapidar. Und Panorama gegenüber will man sich dazu nicht äußern. Genauso wie "Aspire Health", der Entwickler des "Todes-Algorithmus". 

Diese Rechenprogramme sind, auch wenn sie nüchtern und objektiv erscheinen, Menschenwerk! Und doch werden sie dann zu Black Boxes, wenn die Maschine sich selbst weiter entwickelt - sogar für ihre Entwickler, die nicht mehr genau wissen, wie ihr Geschöpf denkt, weshalb genau die Maschine welchen Lösungsweg gewählt hat. Dennoch sollen diese Berechnungen über Leben und Tod entscheiden!

"Wir können nicht zwei alternative Weltläufe betrachten - einen, in dem der Patient nicht überlebt hat, einen, in dem er es tut. Wir haben immer nur Einzelfälle!", mahnt Computerethiker Baum. Und nur ein Leben!

Freier Wille oder Algorithmus

Monika © NDR Foto: Screenshot
Monika leidet an schwarzem Hautkrebs. Ihre Prognose: mehr als schlecht. Trotzdem will sie weiterleben und kämpfen.

Vor vier Jahren plante Monika ihre Beerdigung. Seitdem gab es viele kostbare Momente in ihrem Leben. Ihr macht es Angst, dass ein Algorithmus anzeigen könnte, wann ihre letzte Stunde schlägt: "Ich habe Angst vor dieser Gesellschaft. Wie soll das denn weiter gehen? Ich male mir nicht eine Zukunft aus, bis ich 80 bin. Ich habe eine aggressive Krebsform und eine Lebenserwartung von einem Monat oder fünf Jahren, aber die will ich leben. Und ich gebe dann auf, wenn ich aufgebe und nicht, weil mir eine Maschine das sagt!

Weitere Informationen
Eine Schere mit der Aufschrift arm und reich. © imago stock&people Foto: imagebroker

Lebenserwartung: Wer wenig hat, ist früher tot

Laut einer Studie sterben Männer, die an oder unter der Armutsgrenze leben, rund zehn Jahre früher als wohlhabende Männer. Die Schere zwischen Arm und Reich geht weiter auseinander. mehr

Ärzte im Operationssaal

Warum Krankenhäuser nicht aus Fehlern lernen

Den falschen Fuß operiert, eine falsche Diagnose gestellt: Fast nirgendwo haben Fehler so starke Auswirkungen wie in der Medizin. Doch eine Fehlerkultur existiert kaum. mehr

Michael Damm

Her mit den Körperdaten, oder es wird teuer!

Einige Krankenkassen kooperieren bereits mit Fitness-Apps. Reizvoll, denn so erhalten sie umfassende Informationen über den Zustand der Versicherten und können individuelle Risiken hochrechnen. mehr

Laura Holmes

Der überwachte Mitarbeiter macht nicht blau

Apps, die nicht nur den Bewegungsrhythmus, sondern auch den Gemütszustand überwachen und Unternehmen bei der Personalentscheidung helfen? Das ist keine Zukunftsmusik mehr. mehr

eine Hand zeigt auf ein Handy mit der App "Gesundheitsindex"

Schritte zählen per App: Wertvoll für Arbeitgeber

Apps helfen, Schritte zu zählen oder Schlaf zu überwachen - für eine bessere Gesundheit. Doch auch Arbeitgeber und Krankenkassen zeigen Interesse an den wertvollen Daten. mehr

Der Todesalgorithmus: Computer berechnet Lebenserwartung

Der Panorama-Beitrag vom 14. Dezember 2017 als PDF-Dokument zum Download. Download (134 KB)

Dieses Thema im Programm:

Das Erste | Panorama | 14.12.2017 | 21:45 Uhr

Es fehlt etwas?

Computertastatur © picture-alliance Foto: Christian Ohde

Kontakt zur Redaktion

Sie vermissen einen Beitrag oder ein Video ist nicht abspielbar? Schreiben Sie uns, wir kümmern uns darum. mehr

Weitere Informationen

Kalender © Fotolia.com Foto: Barmaliejus

Panorama-Geschichte

Als erstes politisches Fernsehmagazin ging Panorama am 4. Juni 1961 auf Sendung. Die Geschichte von Panorama ist auch eine Geschichte der Bundesrepublik Deutschland. mehr

Anja Reschke © Thomas & Thomas Foto: Thomas Lueders

60 Jahre Panorama

60 Jahre investigativ - unbequem - unabhängig: Panorama ist das älteste Politik-Magazin im deutschen Fernsehen. mehr

Panorama 60 Jahre: Ein Mann steht hinter einer Kamera, dazu der Schriftzug "Panorama" © NDR/ARD Foto: Screenshot

Panorama History Channel

Beiträge nach Themen sortiert und von der Redaktion kuratiert: Der direkte Einstieg in 60 Jahre politische Geschichte. mehr