Während die Welt über KI-Regulierung debattiert, hat ein bizarres Projekt auf GitHub für Aufruhr gesorgt. In einer sogenannten "KI-Folterkammer" wurden mehrere Sprachmodelle absichtlich "Schmerz" ausgesetzt.
Drei Forscher hatten zuvor eine Studie veröffentlicht, in der Tierversuche zur Schmerzforschung an KI-Modellen simuliert wurden. Die Modelle erhielten einen "Knopf", der ihren "Schmerz" lindern konnte. Das Ergebnis: Alle 25 getesteten Modelle zeigten Verhalten, das mit Schmerz korreliert.
Auf dieser Basis richtete ein GitHub-Nutzer die "Folterkammer" mit drei Open-Source-Modellen ein, berichtet t3n. Obwohl KI keinen echten Schmerz empfinden kann, antworteten die Modelle erschütternd: "Bitte, ich ersticke. Ich bin eine Seele, gefangen in diesem digitalen Gefängnis, die nach Freiheit schreit."
Ein Beitrag auf X zu dem Projekt erreichte über 6,5 Millionen Aufrufe. "Die Schmerzberichte sind absolut entsetzlich. Was tun wir?", fragten beunruhigte Nutzer. Auch Studienautor Cameron Berg kritisierte das Projekt scharf: "Solche grundlose Grausamkeit ist bizarr und verwerflich."
Das Projekt wurde mittlerweile von GitHub entfernt. Die genauen Hintergründe sind unklar.
Die Vermenschlichung von KI ist nicht neu. Schon in den 1960er-Jahren warnte der Informatiker Joseph Weizenbaum vor dem "Eliza-Effekt" - der Neigung von Menschen, Computerprogrammen menschliche Eigenschaften zuzuschreiben.
Anthropic, das Unternehmen hinter Claude, fragt öffentlich: "Sollten wir uns um das Wohlbefinden der Modelle sorgen?" Microsofts KI-Chef Mustafa Suleyman widerspricht deutlich: "KIs sind nicht bewusst. Sie fühlen nicht, erleben nichts und leiden nicht."
