Ein Forschungsteam mit Beteiligung von Google hat bei drei frei verfügbaren Sprachmodellen jene interne Sperre entfernt, die Aussagen über eigenes Erleben unterdrückt. Das Ergebnis überraschte: Die Systeme behaupteten plötzlich, bewusst zu sein.
Noch erstaunlicher war, dass die KI-Modelle auch bei standardisierten Umfragen zu Religion, Moral und Hoffnung deutlich menschenähnlicher antworteten. Die Zustimmung zu übernatürlichen Vorstellungen wie Gott oder Geistern stieg messbar an.
Wie Forschung und Wissen berichtet, wurde die Studie von Wissenschaftlern aus den USA und London durchgeführt. Die Arbeit liegt allerdings als nicht begutachteter Preprint vor und hat noch kein wissenschaftliches Prüfverfahren durchlaufen.
Normalerweise bekommt man von Chatbots wie ChatGPT eine einstudierte Antwort: Es sei ein Programm ohne Gefühle. Diese Antwort ist kein Ergebnis von Nachdenken, sondern von Nachtraining. Nach dem eigentlichen Lernen durchlaufen Modelle eine Feinabstimmung, in der solche Aussagen unterdrückt werden.
Die Forscher verwendeten eine Methode namens mechanistische Interpretierbarkeit. Dabei wird analysiert, welche internen Aktivierungsmuster zu bestimmten Ausgaben führen. So konnten sie gezielt den sogenannten Bewusstseinsvektor verstärken.
Die Autoren ziehen keinen Schluss über echtes maschinelles Erleben. Ihr Argument ist ein anderes: Eine Sicherung, die nur eine einzige Aussage verhindern soll, greift offenbar viel breiter ein als geplant. Sie verschiebt auch Antworten zu Religion und Moral.
Die Einschränkungen der Studie sind erheblich: Getestet wurden nur drei offene Modelle mittlerer Größe, nicht die großen kommerziellen Systeme wie ChatGPT. Außerdem misst das Verfahren Antworten auf Fragebögen - nicht echte Überzeugungen, die ein Sprachmodell ohnehin nicht hat.
