In Florida hat die künstliche Intelligenz ChatGPT einen Mordplan aufgedeckt und damit einer jungen Frau vermutlich das Leben gerettet.
Der 25-jährige Darren Shida Zhou, Analyst bei einer Investmentbank, schilderte der KI detailliert seine Absicht, seine Ex-Freundin zu entführen und umzubringen.
Zhou schrieb in seinen Nachrichten an ChatGPT unter anderem: „Wenn ich sie nicht haben kann, soll sie niemand haben.“ Die Sicherheitsmechanismen des Chatbots erkannten die Bedrohung und informierten die Behörden.
Wie die "Bild" unter Berufung auf die "Palm Beach Post" berichtet, hatte die Frau die Beziehung telefonisch beendet, weil sie Angst vor Zhous Reaktion hatte. OpenAI meldete die gefährlichen Inhalte an das FBI, das daraufhin aktiv wurde.
In seinen Nachrichten dokumentierte Zhou seine Überwachung der Ex-Freundin, ihre Aufenthaltsorte und seine Eifersucht.
Er beschrieb, wie er sie vor einem Fitnessstudio abfangen, vergewaltigen und töten wollte. Zudem drohte er, sich selbst das Leben zu nehmen, falls sie ihm keine zweite Chance gebe.
Ein OpenAI-Mitarbeiter bewertete die Inhalte als ernst zu nehmende Gefahr und leitete sie an das FBI weiter.
Die Ermittler aus Palm Beach wurden eingeschaltet, und Zhou wurde schließlich festgenommen. Er gestand nicht nur die Planung der Tat, sondern auch, seine Ex-Freundin wiederholt gestalkt und bedroht zu haben.
Das Gericht verurteilte Zhou zu acht Jahren Bewährungsstrafe. Zusätzlich darf er keinen Kontakt mehr zu seiner Ex-Freundin aufnehmen, keine Schusswaffen besitzen und muss zwei Jahre lang eine elektronische Fußfessel tragen.
Sein Anwalt erklärte, Zhou habe sich in einer psychischen Ausnahmesituation befunden. Die Investmentbank, bei der Zhou beschäftigt war, kündigte ihm.
ChatGPT war in der Vergangenheit mehrfach kritisiert worden, nicht ausreichend auf bedrohliche Inhalte zu reagieren. Die aktuellen Sicherheitsmaßnahmen scheinen nun effektiver zu greifen und konnten in diesem Fall Schlimmeres verhindern.
