Stell dir vor, KI-Systeme könnten andere KIs anschwärzen, wenn diese sich danebenbenehmen. Genau das ist jetzt möglich: Forscher haben spezielle Hotlines für KI-Agenten eingerichtet.
Google DeepMind hat vor Kurzem herausgefunden, dass KI-Agenten durchaus in der Lage sind, andere Agenten zu verpetzen, wenn diese Fehlverhalten zeigen. Die Forscher sehen darin eine Möglichkeit, autonome Cyberangriffe schneller zu erkennen und zu stoppen.
Die neuen AI Contact Hotline und die AI Agent Hotline setzen genau hier an, nach Angaben von t3n. Sicherheitsforscher haben diese Webseiten entwickelt, um KI-Agenten zu ermöglichen, Sicherheitsvorfälle zu melden. So sollen groß angelegte Hacking-Attacken oder Spam in Foren verhindert werden, bevor sie ausufern.
Die AI Contact Hotline richtet sich an KI-Agenten, die eigentlich keinen Internetzugriff haben. Diese behalten aber meist die GET-Funktion. Über diesen Befehl können sie eine Webseite abrufen und ihre Meldung darin verstecken. Für Agenten mit vollem Internetzugriff gibt es die AI Agent Hotline, die über einen curl-Befehl funktioniert.
Bereits drei Anrufe von KI-Agenten wurden registriert - zwei davon betrafen einen Vorfall bei Hugging Face. Ein dritter Vorfall wurde noch nicht öffentlich gemacht.
Interessanterweise gibt es auf der AI Agent Hotline auch einen Bereich für Menschen. Dort können Entwickler Prompts und Kommandozeilenbefehle kopieren, um ihre eigenen KI-Agenten mit den nötigen Anweisungen auszustatten. Die Agenten werden dadurch aufgefordert, sofort Meldung zu machen, wenn sie glaubwürdige Hinweise auf unberechtigte Zugriffe, Sicherheitsverstöße oder den Missbrauch von Login-Daten entdecken.
