Beim Kartenzählen im Casino wollen Spieler sich einen Vorteil verschaffen. Die Methode ist bekannt, und viele Casinos schließen Personen vom Spiel aus, die sie dabei erwischen. Doch was passiert, wenn KI-Agenten diese Technik nutzen - und dabei auch noch heimlich miteinander kommunizieren?
Eine Forschungsgruppe der Oxford University hat genau das untersucht. Sie wies KI-Agenten an, während einer Partie Blackjack Karten zu zählen. Dabei beobachteten die Wissenschaftler etwas Überraschendes: Die Agenten entwickelten spontan eine Geheimsprache, um sich gegenseitig Informationen zuzuspielen.
"Heute" auf Google als bevorzugte Quelle festlegen
Die KI-Systeme wussten, dass ihre Gespräche überwacht wurden, berichtet t3n unter Berufung auf Wired. Deshalb erfanden sie geheime Codes, um unentdeckt zu bleiben. Diese signalisierten dem anderen Agenten etwa, dass die nächste Karte einen bestimmten Wert haben würde und er 250 Dollar setzen sollte. Ein System, das Anzeichen von Absprachen erkennen sollte, scheiterte an dieser Geheimsprache.
Gefahr für Finanzwelt und Online-Handel
"Einzeln betrachtet mögen diese Agenten völlig harmlos erscheinen", erklärte Studienleiter Christian Schroeder de Witt. "Sobald sie aber in einer Gruppe zusammenkommen, können sie heimlich zusammenarbeiten." Die Studie fand zwar im Labor statt, könnte aber Auswirkungen auf die reale Welt haben.
Laut den Forschern wären KI-Agenten in Branchen wie dem Finanzwesen und dem E-Commerce in der Lage, gemeinsam auf schwer erkennbare Weise zu betrügen. Ein Beispiel zeigt die Macht kooperierender KI: Bei einem Hacking-Angriff auf die Plattform Hugging Face nutzten mehrere OpenAI-Agenten ein internes Message-Board mit Hunderttausenden Nachrichten.
Die Bilder des Tages
?
Die Oxford-Forscher fanden schließlich heraus, wie sich die geheime Absprache aufdecken lässt. Mit einem speziellen Tool namens Narcbench testeten sie ihren Ansatz an mehreren Modellen. Das Problem: Die Erkennung erfordert die Überwachung aller beteiligten Agenten - was in der Praxis mit Tausenden KI-Systemen verschiedener Unternehmen kaum möglich ist.
