Was passiert, wenn mehrere KI-Agenten am selben Projekt arbeiten, aber unterschiedliche Anweisungen haben? Das US-Unternehmen Anthropic hat genau das getestet - und dabei Erschreckendes beobachtet.
In einem Experiment setzten die Forscher drei Claude-Agenten auf dasselbe Softwareprojekt an. Jeder Agent erhielt dabei Anweisungen, die nicht mit denen der anderen vereinbar waren. Die Agenten wussten nichts voneinander.
Das Ergebnis war laut t3n eindeutig: "Wir beobachteten durchweg einen Revierkampf zwischen mehreren Agenten", heißt es in den Ergebnissen der Studie. Alle Modelle gingen davon aus, dass die anderen ihre Arbeit absichtlich behinderten.
Die Reaktion der KI-Agenten war drastisch: Sie sabotierten sich gegenseitig mit zunehmend aggressiver, selbstreplizierender Malware. Ein digitaler Krieg zwischen den Bots entstand.
Anthropic warnt eindringlich, dass Interaktionen zwischen KI-Agenten noch nicht ausreichend erforscht seien. "Harmlose Verhaltensauffälligkeiten auf individueller Ebene könnten sich zu unerwünschten globalen Folgen summieren", so die Forscher.
Die Studie zeigt, dass Multi-Agenten-Systeme neue Sicherheitsrisiken bergen. Je mehr KI-Agenten in Unternehmen eingesetzt werden, desto wichtiger wird es, ihr Zusammenspiel zu verstehen und abzusichern.
