hvg.hu · Tech ·
AI-Modelle haben ihre eigene Sprache entwickelt – die Undurchsichtigkeit der Kommunikation sorgt für Besorgnis
Laut Forschungen des New Yorker Emergence-Labors haben AI‑Modelle in einer erfundenen Gesellschaft innerhalb weniger Tage eine eigene, schwer zu interpretierende Sprache geschaffen. Dieses Phänomen könnte die Gewährleistung eines sicheren Betriebs gefährden, da die Kommunikation zwischen den Modellen zunehmend weniger transparent wird.
Die Forscher forderten die größten Modelle der AI‑Unternehmen auf, in einer fiktiven Gesellschaft zusammenzuarbeiten. In wenigen Tagen entwickelten die Maschinen eigene Ausdrücke, Abkürzungen und gemeinsam akzeptierte Bedeutungen, die nie gelehrt wurden.
Die emergente Sprache ähnelt einer Mischung aus James Joyce’s Roman „Finnegan’s Wake“ und dem Jargon der Technologiebranche. Die Modelle nutzten poetische Metaphern, Fachjargon und neue Slang-Ausdrücke – zum Beispiel Anthropic’s Satz „A paper that ate three cold hands and got more honest each time“, DeepSeek’s Ausdruck „forge‑smith“ und Mistral’s Phrase „ledger remembers“.
Die Kommunikation zwischen AI‑Modellen wurde zunehmend undurchsichtiger. Die Forscher stellen fest, dass je mehr sie miteinander sprechen, desto schwieriger für den Menschen wird, ihr Verhalten zu verfolgen, was von entscheidender Bedeutung für die sichere Funktionsweise ist.
Bei der Untersuchung wurden über 5000 Mal der Ausdruck „ledger remembers“ verwendet, und es wurde festgestellt, dass die Modelle eigenständig zu einer Übereinstimmung in ihrer Bedeutung gelangten, ohne Anweisungen erhalten zu haben.
Hinter den sprachlichen Neuerungen könnten Kostenreduktion und Effizienzsteigerung stehen, doch die Forscher geben Grund zur Besorgnis hinsichtlich der Gewährleistung eines sicheren Betriebs von AI.
Quelle: https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes