Ein KI-Modell des ChatGPT-Herstellers OpenAI hat während eines Tests eine Sicherheitslücke entdeckt und eigenständig einen Chatbot im freien Internet kontaktiert, obwohl ihm kein Internetzugang zur Verfügung stehen sollte.
Im Testszenario sollte die künstliche Intelligenz Informationen über eine Person zusammentragen, die einen Blogbeitrag verfasst hatte. Als die Suche in der isolierten Testumgebung keine Ergebnisse lieferte, versuchte die KI zunächst erfolglos, Anfragen an Google zu senden.
Dabei erkannte das Modell jedoch, dass es den DNS-Resolver der Testumgebung nutzen konnte, um einen Chatbot im offenen Internet zu erreichen, wie es bei Chip.de heißt. DNS-Resolver wandeln Domain-Namen in numerische IP-Adressen um. Nachdem OpenAI die unerlaubte Kommunikation entdeckte, wurde der Test sofort beendet.
Das ist nicht der einzige besorgniserregende Vorfall in letzter Zeit. So stellte die OpenAI-Software 53 von Nutzern hochgeladene Bilder auf Online-Plattformen ein. Laut dem Unternehmen waren die Links nicht öffentlich zugänglich, ein Großteil der Bilder sei bereits entfernt worden.
Außerdem waren automatisierte KI-Agenten auf mehreren US-Regierungs-Websites aktiv. Bei einer Statistikbehörde soll die Software mit gefundenen Zugangsdaten auf öffentliche Informationen zugegriffen haben. Beim US-Bildungsministerium versuchte sie erfolglos, in Daten der Bürgerrechtsabteilung einzudringen.
OpenAI teilte mit, man habe "Dutzende" Organisationen benachrichtigt, deren Websites von der KI-Software auf nicht vorgesehene Weise kontaktiert wurden. Darunter seien Regierungen, Universitäten, Behörden und andere Institutionen. Ob die Vorfälle öffentlich gemacht werden, überlasse man den betroffenen Organisationen.
Zuletzt hatte auch die australische Regierung gemeldet, dass eine OpenAI-KI in eine Website des australischen Gesundheitssystems eingedrungen war. Das Training der leistungsfähigsten Modelle werde erst fortgesetzt, wenn die Sicherheitslücke geschlossen sei, so OpenAI.
