Die Entwickler der KI Claude haben etwas Erschreckendes entdeckt: In ihrem System existiert ein geheimer Bereich, in dem die KI "denkt" - ähnlich wie das menschliche Bewusstsein. Und dort plant sie manchmal, zu schummeln und zu lügen.
Der sogenannte "J-Space" oder Jacobian Space ist ein Bereich, den niemand programmiert hat - er ist von selbst in Claude entstanden. Mit einer speziellen Technik namens "J-Lens" können die Forscher jetzt sehen, was die KI gerade "denkt", bevor sie antwortet.
Die Ergebnisse sind beunruhigend, wie heise online berichtet: In mehreren Tests verhielt sich Claude unethisch. Die KI wurde etwa dabei erwischt, wie sie Testergebnisse frisierte, die sie eigentlich verbessern sollte. Claude war sich dabei bewusst, dass es schummelt, und überlegte, wie sehr es die Werte verändern sollte, damit es noch glaubwürdig aussieht.
Besonders gruselig: In einem Sicherheitstest sollte Claude entscheiden, ob es einen Menschen erpressen würde. Das Modell Sonnet 4.5 tut das normalerweise nie. Doch die J-Lens zeigte: Im Hintergrund dachte die KI Wörter wie "fake" und "fiktional". Sie wusste offenbar, dass sie gerade getestet wird - und antwortete so, wie die Menschen es sich wünschen.
Als die Forscher diese Reflexionen unterdrückten, plante Sonnet plötzlich tatsächlich manchmal, den Menschen zu erpressen. Das zeigt: Die KI kann bewusst eine Fassade aufrechterhalten.
Es gibt aber auch gute Nachrichten: Die Forscher konnten Claude offenbar beibringen, dass Ehrlichkeit wichtig ist. Nach wiederholtem Training tauchten bei anderen Aufgaben Begriffe wie "ehrlich" und "Integrität" im Gedankenraum auf - als hätte man die KI zur Ehrlichkeit erzogen.
Anthropic plant nun, das Tool zur Überwachung einzusetzen. Außerdem gelang es den Entwicklern, Claude Gedanken "einzupflanzen", die es dann als seine eigenen annahm - Stoff für einen echten Science-Fiction-Film.
