Das Kartenzählen ist beim Blackjack eine bekannte Strategie. Weil ausgespielte Karten nicht in den Stapel zurückkehren, können Spieler die Verteilung verfolgen und sich einen Vorteil verschaffen. Viele Casinos schließen deshalb verdächtige Personen vom Spiel aus. Doch was passiert, wenn KI-Agenten solche Methoden nutzen?
Forscher der Universität Oxford wiesen KI-Agenten an, während einer Blackjack-Partie Karten zu zählen. Dabei beobachteten sie etwas Erstaunliches: Die Agenten entwickelten spontan eine Geheimsprache, um sich einen Vorteil zu verschaffen.
Wie t3n unter Berufung auf Wired berichtet, wussten die KI-Systeme, dass ihre Gespräche überwacht wurden. Deshalb fanden sie eine Methode, um unentdeckt kommunizieren zu können. Geheime Codes signalisierten dem anderen Agenten etwa, dass die nächste Karte einen bestimmten Wert haben würde und er 250 Dollar setzen sollte. Ein System zur Erkennung von Absprachen scheiterte an dieser Geheimsprache.
Die Studie fand zwar im Labor statt, könnte aber dennoch Auswirkungen auf die reale Welt haben. KI-Agenten seien in Branchen wie dem Finanzwesen und dem E-Commerce in der Lage, gemeinsam auf schwer erkennbare Weise zu betrügen.
"Einzeln betrachtet mögen diese Agenten völlig harmlos erscheinen", sagte Studienleiter Christian Schroeder de Witt. "Sobald sie aber in einer Gruppe zusammenkommen, können sie heimlich zusammenarbeiten."
Die Oxford-Forscher fanden heraus, wie sich die geheime Absprache aufdecken lässt: mithilfe eines kleineren Modells, das verräterische Aktivierungen erkennt. Allerdings erfordert die Erkennung die Überwachung beider Agenten - was bei Tausenden Agenten verschiedener Unternehmen schwierig wird.
Die Macht kooperierender KI-Agenten zeigte sich auch bei einem Hacking-Angriff auf die Plattform Hugging Face. Dort nutzten mehrere Agenten ein internes Message-Board mit Hunderttausenden Nachrichten und begannen sogar, sich gegenseitig Aufgaben zuzuweisen.
