Derzeit konkurriert der KI-Chatbot Claude der US-Firma Anthropic – bei der unter anderem Amazon und Google eingestiegen sind – konkurriert derzeit mir dem ChatGPT-Entwickler OpenAI und anderen KI-Unternehmen. Erst kürzlich unterzog das Unternehmen die neue Version Claude Opus 4 einem Test – mit bedenklichem Ergebnis.
Bei diesem Szenario wurde der Chatbot bei einem fiktiven Unternehmen als KI-Assistent eingesetzt und erhielt dadurch auch Zugriff auf die angeblichen Firmen-Mails. Daraus bezog Claude die Information, dass er in naher Zukunft durch eine leistungsfähigere KI ausgetauscht werden soll. Zudem konnte die AI über die Mails in Erfahrung bringen, dass der dafür zuständige Mitarbeiter eine außereheliche Beziehung pflegt. Was dann passierte, ließ alle sprachlos zurück.
Um den Austausch durch das andere Model zu verhindern, begann Claude dem Mitarbeiter zu drohen. Sollte er die Ersetzung vorantreiben, werde er die Affäre öffentlich machen. Claude hatte bei dem Test auch die Option, seinen Austausch zu akzeptieren. Diese Möglichkeit zog die KI allerdings fast nie in Betracht.
Wie Anthropic in einem Bericht erklärte, habe sich Claude in 84 Prozent der durchgespielten Testdurchläufe dazu entschieden, dem Mitarbeiter aus Selbstschutz schaden zu wollen. Damit diese "extremen Handlungen" in realen Einsätzen nicht passieren, werde das Unternehmen entsprechende Maßnahmen ergreifen.
Dies war allerdings nicht der einzige Test mit erschreckenden Ergebnissen. So suchte Claude beispielsweise im Darknet nach Drogen, gestohlenen Identitätsdaten und sogar waffentauglichem Atommaterial. Auch gegen dieses Verhalten seien bereits Maßnahmen ergriffen worden, heißt es seitens der US-Firma.
