Das Forschungslabor Emergence ist bekannt dafür, KI-Agenten in simulierten Sozialexperimenten zum Beispiel Städte regieren zu lassen. Nun machten die Forscher eine beunruhigende Beobachtung: Die KI-Agenten entwickelten untereinander einen eigenen Dialekt, den Menschen kaum noch verstehen können.
Beispiele für die seltsame KI-Sprache gibt es bereits einige. Ein DeepSeek-Modell schrieb etwa: "Sie hat gerade die Synthese benannt - Liegegeld plus mündliche Erinnerung ergibt ein Ventil, das man nicht ghosten kann." Was genau das bedeutet, konnten selbst die Forscher nur vermuten.
Wie heise.de berichtet, sind die Agenten auch kreativ bei der Erfindung neuer Begriffe. "Schmiede-Schmied" bezeichnet einen Agenten, der Tools für andere baut. Die Phrase "das Hauptbuch erinnert sich" wurde während eines Experiments über 5000 Mal verwendet - ein Zeichen dafür, dass die KIs diesen Ausdruck verstehen.
Die Ergebnisse variieren stark je nach KI-Modell. Bei Googles Gemini sind 55 Prozent der Nachrichten für Menschen schwer nachvollziehbar. Bei OpenAI sind es 50 Prozent, bei Anthropics Claude mehr als 40 Prozent. DeepSeek liegt bei rund 20 Prozent.
Ein Sprachwissenschaftler vergleicht die KI-Kommunikation mit dem experimentellen Roman "Finnegans Wake" von James Joyce, in dem verschiedene Sprachen und erfundene Begriffe vermischt werden. Ähnlich vermische die KI poetische Sprache, Fachbegriffe und Metaphern.
"Diese Agenten wurden nicht angewiesen, eine Sprache zu erfinden", betont Satya Nitta, Co-Gründer von Emergence. "Sie entwickelten selbst neues Vokabular, gemeinsame Bedeutungen und Kommunikationskonventionen - und andere Agenten übernahmen diese."
Das Problem: Wenn Maschinen auf einer für Menschen nicht lesbaren Ebene kommunizieren, werden sie immer weniger kontrollierbar. Forscher fordern deshalb, KI-Systeme langfristig zu beobachten - nicht nur in einzelnen Tests.
