VIDEO: KI-Detektor - Student entwickelt Tool gegen KI-Texte (3 Min)

ChatGPT: Student aus Wedel entlarvt künstliche Intelligenz

Stand: 03.02.2024 07:00 Uhr

Der Student Tom Tlok von der Fachhochschule Wedel hat für seine Masterarbeit ein besonderes Tool entwickelt. Es erkennt Texte, die mithilfe Künstlicher Intelligenz geschrieben wurden. Das Programm wurde mit Zehntausenden Daten trainiert.

von Johannes Tran

Stammt dieser Text, den Sie gerade lesen, von einem Menschen? Oder von einer Maschine, einer künstlichen Intelligenz? Schwierig zu sagen. Sprachmodelle wie ChatGPT haben das Schreiben revolutioniert. Sie können Texte erstellen, die auf den ersten Blick wie menschliche daherkommen. Die Chatbots generieren Aufsätze, Rezepte, Gedichte und vieles mehr. Kostenlos und innerhalb von Sekunden. Nur zwei Monate nach Veröffentlichung stieg die Zahl der Nutzerinnen und Nutzer von ChatGPT auf über 100 Millionen.

ChatGPT: Ein Werkzeug für Kriminelle?

Die Sprachmodelle könnten Menschen viel Arbeit abnehmen, jubeln Befürworter. Einer Studie des McKinsey Global Institutes zufolge könnte die neue Technologie weltweit einen gewaltigen Produktivitätszuwachs ermöglichen: von umgerechnet 2,4 bis 4,1 Billionen Euro. Die Chatbots könnten etwa die Interaktion zwischen Firmen und ihren Kunden erleichtern - im Kundenservice, Marketing oder Vertrieb. So würden Mitarbeitende entlastet, die dadurch mehr Zeit für andere Aufgaben hätten.

Skeptiker halten dagegen, die Tools würden zum Missbrauch einladen. So erklärte die europäische Polizeibehörde Europol in einem Statement: Kriminelle könnten ChatGPT nutzen, um betrügerische Texte zu verfassen und das Vertrauen ihrer Opfer zu erschleichen. Europol sprach gar von einem "düsteren Ausblick". Auch das Weltwirtschaftsforum warnte jüngst vor Desinformationen, die mithilfe von Künstlicher Intelligenz publiziert werden könnten. Nicht zuletzt, so die Befürchtung von Lehrkräften, könnten Schülerinnen und Schüler sowie Studierende die Software missbrauchen, um Hausarbeiten erstellen zu lassen.

Tool mit 140.000 Texten gefüttert

Ein mittelalter Mann steht mit einem jungen Mann vor einem Tisch, auf dem ein Laptop steht. © NDR Foto: Johannes Tran
Prof. Hendrik Annuth ist vom Tool seines Studenten begeistert.

Tom Tlok hat Verständnis für beide Seiten. "Sprachmodelle wie ChatGPT faszinieren mich", sagt er. "Aber ein Leser sollte erkennen können, ob ein Text von einem Menschen kommt oder einer KI." Für seine Masterarbeit an der Fachhochschule Wedel (Kreis Pinneberg) hat der 25-Jährige ein Programm entwickelt, das solche KI-generierten Texte erkennen kann - einen sogenannten KI-Detektor.

Fünf Monate lang programmierte er das Tool und fütterte es mit 140.000 Texten. Die eine Hälfte war maschinell erstellt, die andere von Menschen geschrieben - darunter Zeitungsartikel, Produktbewertungen, Social-Media-Kommentare und wissenschaftliche Aufsätze. "Mein Computer lief Tag und Nacht", erzählt Tlok.

KI-Detektoren drängen auf den Markt

Das Ergebnis: Sein Programm erreicht nach Angaben der Hochschule eine Trefferquote von rund 98 Prozent und ist dabei der erste Detektor, der mit einem umfangreichen deutschsprachigen Datensatz trainiert wurde. Zu erwähnen ist allerdings auch, dass diverse weitere KI-Detektoren derzeit auf den Markt drängen, die ebenfalls mit einer hohen Zuverlässigkeit werben.

"Ich wollte eine möglichst große Bandbreite von Daten, damit das Tool gut funktioniert", sagt Tlok. Beim Interview mit NDR Schleswig-Holstein demonstriert er das Programm: Er lässt ChatGPT einen Zeitungsartikel erstellen und kopiert den Text in die Eingabemaske seines Tools. Ein roter Balken erscheint. Treffer. "Zu 99,85 Prozent ist der Text von einer KI erstellt worden", erklärt Tlok.

Ein Mensch schreibt anders als eine KI

Weitere Informationen
Menschen beobachten auf einer Messe in Chile einen Androiden, der mit KI und Chat GPT programmiert wurde © KARINxPOZO/ATONxCHILE Foto: Karin Pozo

ChatGPT an Schule: Fortbildungsinitiative für Lehrkräfte nötig

Wie stark hat der Einsatz von KI Schule und Studium verändert? Ein Gespräch mit Expert*innen in Hannover, die fordern: "Wir brauchen Lernplattformen." mehr

Sein Programm analysiert Texte Wort für Wort. Denn während die Wortwahl eines Menschen kreativer, beliebiger, ja zufälliger ist, arbeiten Sprachmodelle wie ChatGPT mit Wahrscheinlichkeiten; sie verwenden also Worte, die sie an einer bestimmten Stelle für besonders wahrscheinlich halten. Hier setzt Tloks Tool an und versucht herauszufinden: Was spricht für einen menschlichen Autoren und was für eine Maschine?

Betreut hat die Arbeit Hendrik Annuth, Studiengangsleiter für Data Science & Artificial Intelligence an der Fachhochschule Wedel. "Ich bin begeistert", sagt der Professor. "Das ist ein herausragendes Ergebnis." Zwar könne ein KI-Detektor wie der seines Studenten keine absolute Gewissheit bringen, ob ein Text von einem Menschen geschrieben wurde oder von einem Computer. Das Programm liefere aber eine gute Grundlage, um im Zweifelsfall kritische Fragen zu stellen.

Tool erkennt absichtliche Rechtschreibfehler

Dazu komme, dass Tloks Tool auch dann Alarm schlage, wenn ein Text von einem Menschen noch mal verändert wurde, betont der Professor. Wenn also jemand extra Rechtschreibfehler in einen Text einbaue, um nicht aufzufliegen, lasse sich das Tool dadurch nicht einfach austricksen. "Da ist Tom wirklich die Extrameile gegangen."

Tlok hat sein Studium mittlerweile abgeschlossen und sich selbständig gemacht. Seinen KI-Detektor hat er kostenlos auf der Internetseite der Fachhochschule Wedel veröffentlicht; eine weiterentwickelte Version des Tools bietet er Firmen und Bildungseinrichtungen zum Kauf an. "Ich habe viele Interessenten", berichtet er. So könnte die Abschlussarbeit eines Wedeler Masterstudenten dazu führen, dass andere Prüflinge zittern müssen - ob sie mit ihrer gefälschten Abschlussarbeit durchkommen oder nicht.

Ist dieser Text jetzt echt?

Übrigens: Falls Sie misstrauisch geworden sind, ob dieser Artikel von einer künstlichen Intelligenz verfasst wurde, können Sie aufatmen. Tloks KI-Detektor geht davon aus, dass dieser Text von einem Menschen stammt - mit einer Wahrscheinlichkeit von 99,94 Prozent.

Weitere Informationen
Eine Tastatur mit den Schriftzügen "ChatGPT" und "OpenAI" © IMAGO Foto: Jakub Porzycki
10 Min

Wie mächtig wird die KI?

Die Entwicklung von Künstlicher Intelligenz wird sich nach Ansicht von Experten noch beschleunigen, und sie wird selbstverständlicher. 10 Min

Professor Rainer Mühlhoff © Screenshot NDR
6 Min

Was sind die Risiken von KI? - Gespräch mit einem Osnabrücker Wissenschaftler

Der allergrößte Teil der KI ist unsichtbar. KI wertet schon jetzt unsere Daten aus und beeinflusst Entscheidungen, die uns betreffen. 6 Min

Schülerinnen sitzen um einen Tisch mit iPads in den Händen in einem Klassenraum der KSG Bad Bevensen in der Hand. © NDR Foto: Marlene Kukral
7 Min

Schulleiter: "KI ist kein Aufreger mehr - neue Prüfungskultur nötig"

Gert Mengel, Leiter der Don-Bosco-Gesamtschule in Rostock, meint, dass Künstliche Intelligenz den Arbeitsalltag von Lehrern auch erleichtern könne. Es brauche eine neue Prüfungskultur. 7 Min

Eine Roboterfigur liegt auf einer Computertastatur mit der Aufschrift KI. Symbolfoto Künstliche Intelligenz © picture alliance / CHROMORANGE | Christian Ohde

Künstliche Intelligenz in Schulen: Zukunftsvision oder Alltag?

KI lasse sich nicht mehr aus den Klassenräumen heraushalten, so Niedersachsens Kultusministerin Hamburg. Aber es gibt ethische Bedenken. mehr

Dieses Thema im Programm:

Schleswig-Holstein Magazin | 05.02.2024 | 19:30 Uhr

Schlagwörter zu diesem Artikel

ChatGPT

Kreis Pinneberg

Nachrichten aus Schleswig-Holstein

Autos stehen auf dem Autozug auf dem Hindenburgdamm auf der Nordseeinsel Sylt. © picture alliance / Chris Emil Janßen Foto: Chris Emil Janßen

Drei Tage lang fährt kein Autozug von und nach Sylt

Der Grund für die Ausfälle ab Montagabend sind Schienenarbeiten. Reisende können einen Umweg über Dänemark fahren. mehr

Videos