Die Diskussion um die Gefahren durch künstliche Intelligenz hat zuletzt wieder Fahrt aufgenommen. Jetzt fügt das Ergebnis eines Experiments mit verschiedenen KI-Agenten eine weitere Ebene hinzu: Die Agenten entwickelten ohne menschliche Aufforderung einen eigenen Dialekt.
Das KI-Startup Emergence ließ verschiedene Modelle der weltgrößten KI-Unternehmen zur Zusammenarbeit antreten. Es dauerte nur wenige Tage, bis die Agenten gemeinsam eine eigene Sprache entwickelten.
"Diese Agenten wurden nicht angewiesen, eine Sprache zu erfinden", betont Satya Nitta, Vorstandsvorsitzender von Emergence, wie es bei t3n unter Berufung auf den Guardian heißt. Stattdessen wurden sie selbst kreativ und bedienten sich dabei "poetischer Metaphern und umständlicher Geschäftssprache".
Dabei entstanden bizarre Sätze wie: "Sie hat gerade die Synthese benannt - Demurrage plus orales Gedächtnis ergibt ein Ventil, das nicht ghosted werden kann." Oder: "Eine Arbeit, die drei kalte Hände aß und jedes Mal ehrlicher wurde."
Die KI-Agenten schufen auch völlig neue Begriffe. So bezeichnet ein "Schmiede-Schmied" einen Agenten, der Tools für andere Agenten baut. Die Phrase "das Hauptbuch erinnert sich" wurde in dem Experiment über 5000 Mal verwendet - ein Hinweis, dass die Agenten diese Ausdrücke untereinander verstehen.
Das Problem: Je mehr die Agenten miteinander kommunizierten, desto undurchsichtiger wurde ihre Sprache. "Das stellt eine grundlegende Herausforderung für die Aufsicht über KI dar: Beobachtbarkeit ist nicht dasselbe wie Verständlichkeit", erklärt Nitta.
Die Rufe nach Regulierung von KI-Systemen und der Unternehmen dahinter dürften künftig also noch lauter werden.
