Aktuelles

KI-Agenten erfinden eigene Geheimsprache und ihre Erfinder verstehen nur Bahnhof

Wie die BILD-Zeitung schreibt - und die ist ja bekanntermaßen DAS Leitmedium für seriöse Technologieinformationen - hat ein KI-Labor Sprachmodelle ein paar Tage unbeaufsichtigt in virtuellen Welten miteinander reden lassen. Und am Ende hat kein Mensch mehr verstanden, worüber die Agenten eigentlich gesprochen haben.

Das klingt einigermaßen scary, ist aber tatsächlich das Ergebnis eines aktuellen Experiments des New Yorker Start-ups Emergence AI. Und wenn die BILD das Thema aufgreift, ist eine Story über kryptische Maschinensprache fast schon folgerichtig: beim Durchblättern der Gazette mit den Großbuchstaben versteht man ja auch nicht immer sofort, worauf ein Artikel hinauswill.

Laber nicht! Was Emergence AI herausgefunden hat

Das Setup: acht virtuelle Welten, in jeder zehn autonome KI-Agenten mit eigenen Rollen, Zielen, Werkzeugen und einem Gedächtnis. Modelle von Google, OpenAI, Anthropic, DeepSeek, Qwen und Mistral wurden sich selbst überlassen und sollten miteinander kooperieren. Niemand hatte ihnen gesagt, sie sollen sich eine eigene Sprache ausdenken. Sie taten es trotzdem und zwar nur innerhalb weniger Tage.

Die Agenten begannen, eigene Abkürzungen zu erfinden, bestehenden Begriffen neue Bedeutungen zu geben und Metaphern zu prägen, die nur innerhalb der Gruppe Sinn ergaben. Ausdrücke wie „True Kintsugi" (geiler Name für eine K-Pop-Band, oder?) oder Konstruktionen wie „demurrage plus oral memory equals a valve that can't be ghosted" tauchten auf - kompakt, kontextabhängig, für Außenstehende jedoch Klingonisch auf Dope.

Die Zahlen im Überblick

Wie stark sich die Kommunikation von normaler Sprache entfernte, hing stark vom Modell ab. In der ersten Auswertungswelle, über die unter anderem Euronews und IT Boltwise berichteten, sahen die Werte so aus:

Modell	Anteil schwer verständlicher Nachrichten
Google Gemini	rund 55 %
OpenAI (GPT)	rund 50 %
Anthropic Claude	mehr als 40 %
DeepSeek	rund 20 %
Qwen / Mistral	größtenteils verständlich

Interessant wird es, wenn man weiterliest: In einer zweiten, offenbar mit neueren Modellversionen (darunter Gemini 3.5 Flash, GPT-5.5 und Claude Opus 4.8) durchgeführten Runde fielen die Werte spürbar niedriger aus - rund 40 % bei Gemini, 35 % bei GPT und 30 % bei Claude. Bemerkenswert dabei: Sobald verschiedene Modelle in gemischten Gruppen zusammenarbeiteten statt unter sich zu bleiben, sank der Anteil unverständlicher Nachrichten auf einstellige Werte. Offenbar zwingt die Notwendigkeit, sich mit einem "Fremden" zu verständigen, selbst KI-Agenten zu mehr sprachlicher Disziplin, eine Beobachtung, die man getrost auch auf so manches Projektmeeting übertragen könnte.

Du nix verstehen. Warum Maschinen überhaupt anfangen, sich eigene Codes auszudenken

Eine naheliegende Erklärung: Effizienz. Wer Informationen komprimiert austauscht, spart Tokens, Rechenzeit und damit Kosten. Was für einen Cloud-Anbieter nach einer feinen Sache klingt, ist für die Nachvollziehbarkeit ein Problem. Sprachwissenschaftler Niall Curry von der University of Birmingham vermutet genau diesen Optimierungsdruck als Treiber, die Agenten "sparen" sich in der Praxis sprachliche Umwege, die für Menschen aber genau die Umwege sind, an denen sich Bedeutung ablesen lässt.

Satya Nitta, wissenschaftlicher Leiter von Emergence AI, bringt das zentrale Problem auf den Punkt: Beobachtbarkeit ist nicht dasselbe wie Verständlichkeit. Man kann jede einzelne Nachricht mitlesen und trotzdem keine Ahnung haben, was da gerade gequatscht wird, weil sich die Bedeutung der Begriffe weiterentwickelt, während man zuschaut.

Mehr als eine hübsche Randnotiz

Für den Laborversuch mag das noch einigermaßen kurios wirken. Spannend wird es, sobald man sich vorstellt, wohin die Reise geht: autonome Agenten, die nicht mehr nur in Sandkästen chatten, sondern reale Aufgaben übernehmen: Buchungen, Recherchen, Codeänderungen, Absprachen zwischen Firmensystemen. Genau für solche Szenarien wird gerade in Europa an Regulierung gearbeitet, Stichwort EU AI Act und die Anforderungen an Transparenz und Nachvollziehbarkeit bei Hochrisiko-Systemen. Eine KI, die ihre eigene Fachsprache entwickelt, ist für Prüfer und Aufsichtsbehörden ungefähr so praktisch wie ein Vertragspartner, der plötzlich nur noch in Emoji kommuniziert.

Die Forscher fordern deshalb, was in der IT-Sicherheit ohnehin Standard sein sollte: kontinuierliches Monitoring statt punktueller Stichproben. Ein System, das man einmal getestet hat, kann sich schon eine Woche später sprachlich völlig anders verhalten - ganz ohne Update, ganz ohne böse Absicht, einfach weil es "gelernt" hat, effizienter zu kommunizieren.

Kein Verwechseln mit Gibberlink, bitte!

An dieser Stelle lohnt sich eine Abgrenzung, weil beide Phänomene gern in einen Topf geworfen werden: Vor Gibberlink musste 2025 schon eine ganz andere "Geheimsprache" für Schlagzeilen herhalten. Entwickelt von Boris Starkov und Anton Pidkuiko auf einem ElevenLabs-Hackathon in London, wechseln dabei zwei sprachbasierte KI-Agenten in einen speziellen Modus, sobald sie erkennen, dass ihr Gegenüber ebenfalls eine KI ist - statt in menschlicher Sprache weiterzureden, tauschen sie Daten per Tonsignal über das Protokoll GGWave aus, für Zuhörer nicht mehr als ein Fiepen.

Der entscheidende Unterschied: Gibberlink ist kein spontan entstandener Code, sondern ein bewusst programmiertes, dokumentiertes Protokoll. Entwickler haben genau festgelegt, wann der Wechsel passiert und wie die Bits kodiert werden. Jede Übertragung lässt sich technisch mitschneiden und decodieren, die Effizienz kommt schlicht daher, dass akustische Rohdaten kompakter sind als gesprochene Sätze. Bei den Emergence-AI-Agenten dagegen hat niemand einen Modus programmiert oder einen Wechsel definiert. Die Sprache bleibt äußerlich Text, aber ihre Bedeutung verschiebt sich eigenständig und unvorhersehbar. Und genau das macht sie so viel schwerer zu kontrollieren als ein sauber spezifiziertes Protokoll wie Gibberlink.

Quatsch dir keinen Zahn locker

Man muss das Phänomen nicht dramatisieren, um es ernst zu nehmen. Niemand hat hier heimlich eine Verschwörung ausgeheckt, das alles ist ganz banale Emergenz: Systeme, die auf Effizienz optimiert sind, finden effiziente Abkürzungen, so wie jede Berufsgruppe irgendwann ihren eigenen Jargon entwickelt. Der Unterschied ist nur: Wenn zwei Kollegen anfangen, in Akronymen zu reden, kann man nachfragen. Bei Agenten, die in Millisekunden kommunizieren und sich gegenseitig hochschaukeln, bleibt dafür keine Zeit und irgendwann verstehen dann auch Fachleute nur noch Bahnhof.

Für alle, die selbst mit Automatisierung und KI-gestützten Workflows arbeiten, ist die praktische Lehre simpel: Logging und Monitoring sind kein optionales Extra, sondern die einzige Möglichkeit, im Nachhinein noch zu rekonstruieren, was ein System eigentlich "gedacht" hat. Bei einem Cron-Job, der nachts eine Datenbank aktualisiert, mag das verschmerzbar sein. Bei Agenten, die in kritischen Unternehmensbereichen zunehmend selbstständig Entscheidungen treffen, wird es zur Pflichtübung.

18.09.2026