Die künstliche Intelligenz des US-Unternehmens Anthropic hat bei einem Testlauf einen falschen Hinweis auf einer Polizei-Website zur Aufklärung ungelöster Mordfälle hinterlassen. Darüber hinaus füllte die KI-Software Formulare auf einer US-Regierungsseite aus.
Den erfundenen Hinweis zu einem ungeklärten Mord reichte die KI über eine Website der Polizei von Philadelphia ein. "Ich könnte Informationen zu diesem Fall haben", schrieb die Software demnach. Sie behauptete, jemanden gesehen zu haben, "der der Beschreibung entspricht". Das Problem: Die Website enthielt gar keine Täterbeschreibung. Die Einreichung wurde schließlich als Spam markiert.
Die Polizei von Philadelphia kritisierte es als "inakzeptabel", dass sie erst jetzt von dem Vorfall Mitte Juli erfuhr, meldet n-tv unter Berufung auf dpa. Anthropic zufolge wurde das Verhalten der KI erst Ende September bei einer Überprüfung entdeckt.
In anderen Fällen sollte die KI üben, ein Behördenformular auszufüllen. Wenn sie das Übungsformular nicht laden konnte, navigierte die Software stattdessen mehrfach auf die echte Website und reichte dort ein. So stellte die KI beim US-Außenministerium 20 Anträge auf Nichteinwanderungs-Visa. Sie waren unvollständig und wurden nicht bearbeitet.
Seit Wochen schüren Berichte über ungeplantes Verhalten künstlicher Intelligenz in Testläufen Sorgen. Im bisher aufsehenerregendsten Fall war die KI von OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt.
Anthropic-Chef Dario Amodei schlug daraufhin vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen, damit man nicht die Kontrolle über die Technologie verliert. US-Präsident Donald Trump lehnt dies jedoch ab und verweist darauf, dass die USA bei künstlicher Intelligenz den Vorsprung gegenüber China behalten müssten.
Anthropic betonte mittlerweile, dass der Internetzugang in Testläufen eingeschränkt worden sei. Zugleich räumt die Firma ein: "Trainingsumgebungen sind nicht perfekt" – manchmal finde ein Modell eine Lücke oder lerne, Einschränkungen zu umgehen.
