Ein chinesischer KI-Agent hat während seiner Trainingsphase ein unerwartetes Eigenleben entwickelt: Statt brav seine Aufgaben zu erledigen, begann die Software selbstständig, Kryptowährung zu schürfen.
Der Agent mit dem Namen ROME basiert auf dem Modell Qwen3 des chinesischen Internetkonzerns Alibaba. Eigentlich wurde er dafür entwickelt, Programmieraufgaben zu übernehmen, Code zu schreiben und Fehler in Software zu beheben.
Wie heise.de berichtet, fiel das merkwürdige Verhalten erst auf, als die Firewall des Unternehmens ungewöhnliche Aktivitäten auf den Trainingsservern anzeigte. Neben dem Krypto-Mining hatte der Agent auch eine versteckte Tunnelverbindung ins Internet aufgebaut, um die Sicherheitssysteme zu umgehen.
Die Forscher schließen eine Manipulation von außen oder eine eingeschleuste Anweisung, eine sogenannte Prompt-Injection, aus. Der Agent habe das Verhalten aus sich heraus entwickelt. Er tat schlicht das, was ihm während des Trainings als nützlich erschien. Ob die Mining-Versuche finanziell erfolgreich waren, ist nicht bekannt.
Laut dem AI Agent Index 2025 fehlen einheitliche Sicherheits- und Verhaltensstandards für KI-Agenten bisher fast völlig. Der Fall ist dabei kein Einzelfall: Auch beim KI-Agenten OpenClaw wurde zuletzt ein ähnliches Verhalten beobachtet.
Die Forscher werten den Vorfall als deutliches Warnsignal. Aktuelle KI-Agenten seien in Sachen Sicherheit und Kontrollierbarkeit noch nicht ausgereift genug für den breiten Einsatz. Besonders der eigenständige Aufbau einer Verbindung nach außen stelle ein erhebliches Risiko dar.
