hvg.hu · Tech ·
Les modèles d'IA ont créé leur propre langue – l'opacité de la communication suscite des inquiétudes
Selon les recherches du laboratoire Emergence à New York, les modèles d'AI, en collaborant dans une société fictive, ont développé en quelques jours une langue difficilement interprétable. Ce phénomène pourrait compromettre la garantie d'un fonctionnement sûr, car la communication entre modèles devient de plus en plus opaque.
Les chercheurs ont demandé aux plus grands modèles des entreprises d'AI de travailler ensemble dans un univers fictif. En quelques jours, les machines ont créé leurs propres expressions, abréviations et significations communes acceptées, jamais enseignées.
La langue émergente ressemble à un mélange du roman « Finnegan's Wake » de James Joyce et du jargon de l'industrie technologique. Les modèles utilisaient des métaphores poétiques, du jargon spécialisé et de nouveaux termes d'argot – par exemple la phrase d'Anthropic « A paper that ate three cold hands and got more honest each time », les expressions DeepSeek « forge‑smith » et Mistral « ledger remembers ».
La communication entre modèles d'AI est devenue de plus en plus opaque. Les chercheurs affirment que plus ils discutent, plus il devient difficile pour un humain de suivre leur comportement, ce qui est crucial pour la sécurité opérationnelle.
Au cours de l'étude, le terme « ledger remembers » a été utilisé plus de 5000 fois et les chercheurs ont constaté que les modèles avaient atteint un consensus sur sa signification par eux-mêmes, sans recevoir d'instructions.
Les innovations linguistiques pourraient viser à réduire les coûts de calcul et à accroître l'efficacité, mais les chercheurs soulignent des inquiétudes quant à la garantie d'un fonctionnement sûr des AI.
Source: https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes