ChatGPT wurde anfangs von Studenten als göttlicher Helfer beim Schreiben von Aufsätzen angesehen, könnte aber jetzt zu ihrem Albtraum werden. Laut internen Quellen hat OpenAI heimlich ein "Anti-Plagiat-Wundermittel" entwickelt, das präzise erkennen kann, ob ChatGPT in Aufsätzen oder Berichten verwendet wurde. Diese Technologie wurde bei OpenAI zwei Jahre lang intern diskutiert und war tatsächlich schon vor einem Jahr einsatzbereit.
Das Prinzip dieses Anti-Betrugs-Tools besteht darin, bei der Texterstellung durch ChatGPT heimlich die Wahrscheinlichkeit der Wortwahl anzupassen und spezifische Wahrscheinlichkeitsmuster als Wasserzeichen einzubetten. Obwohl Menschen dies nicht wahrnehmen können, kann das Erkennungssystem von OpenAI es identifizieren. Es heißt, dass die Erkennungsgenauigkeit bei ausreichend langem Text 99,9% erreichen kann.
Die konkrete Umsetzung könnte durch die Veränderung der Häufigkeit des Auftretens von Tokens in Sätzen erfolgen. Zum Beispiel könnte in dem Satz "Meine Lieblingsfrucht ist __" bestimmten Früchten eine höhere Auftrittswahrscheinlichkeit zugeordnet werden, um eine Art Code zu bilden. Diese subtilen Wahrscheinlichkeitsänderungen beeinflussen das Lesen nicht, können aber von OpenAI entschlüsselt werden.
Derzeit hat OpenAI diese Technologie noch nicht öffentlich gemacht und nur in einem Blog-Beitrag auf ihrer offiziellen Website bestätigt, dass sie daran forschen. Es gibt bereits verschiedene KI-Texterkennungstools auf dem Markt, wie Googles SynthID und GPT Zero. Diese Tools haben jedoch auch Einschränkungen, wie eine geringe Erkennungsgenauigkeit bei komplexen Texten.
Die Gründe, warum OpenAI die Wasserzeichenfunktion noch nicht veröffentlicht hat, könnten sein:
-
Die technische Schwierigkeit, Texte mit Wasserzeichen zu versehen. Textausdrücke sind vielfältig, was die statistische Analyse erschwert.
-
Wasserzeichen könnten geknackt werden. Es wurde entdeckt, dass die Erkennung durch mehrsprachige Übersetzungen umgangen werden kann.
-
Es gibt Kontroversen darüber, ob Wasserzeichen überhaupt notwendig sind. Es könnte die Entwicklung und Anwendung von KI-Technologie beeinflussen.
-
Bedenken hinsichtlich Missbrauchs. Wie zum Beispiel für Zensur oder Überwachung.
-
Geschäftliche Überlegungen. Es könnte die Benutzererfahrung und die Wettbewerbsfähigkeit des Produkts beeinflussen.
Insgesamt befindet sich die KI-Texterkennungstechnologie noch in der Entwicklung. Es bleibt abzuwarten, wie in Zukunft ein Gleichgewicht zwischen technologischer Entwicklung, Benutzererfahrung und ethischen Fragen gefunden werden kann.