Jason Gibson ist Geschichtsprofessor an der Alcorn State University in Mississippi. Bei einer Zwischenprüfung über die industrielle Revolution wandte er einen kreativen Trick an, um Schummler mit KI-Tools wie ChatGPT zu entlarven.
Er versteckte unsichtbaren weißen Text in der Aufgabenstellung. Dieser enthielt eine spezielle Anweisung, die ChatGPT dazu brachte, zufällige Abschweifungen über Madagaskar in die Antwort einzuflechten. 32 von 35 Studenten fielen auf diese Falle herein.
Die meisten seiner Studenten hätten die Aufgabe einfach in einen Chatbot kopiert, "um ihre gesamte Antwort zu generieren", heißt es auf t3n.de. Sie hätten nicht einmal überprüft, ob der Text überhaupt Sinn ergibt.
Bei dem Trick handelt es sich um sogenannte "Prompt Injection". Diese Methode wird normalerweise von Cyberkriminellen verwendet, um KI-Tools zu manipulieren. Gibson nutzte sie, um unerlaubte KI-Nutzung nachzuweisen.
Die Konsequenzen waren hart: Wegen der unerlaubten KI-Nutzung seien die ertappten Studenten zumindest teilweise durch die Prüfung durchgefallen. Gibson stellte den Fall in einem TikTok-Video vor.
Der Professor betont, dass es ihm nicht darum gehe, seine Studenten zu demütigen. "Es bereitet mir keine Genugtuung, zu sehen, wie Studenten durchfallen. Es ist nicht meine Absicht, euch scheitern zu sehen - das wäre seltsam", sagt er.
Zugleich benennt Gibson ein grundlegendes Problem: Im akademischen Bereich gebe es noch keine bewährten Verfahren für den Umgang mit KI. Alle würden nur versuchen, dabei ein gewisses Maß an akademischer Integrität zu wahren.
