hvg.hu · Tech ·
Los modelos AI crearon su propio idioma – la falta de transparencia en la comunicación genera preocupación
Según las investigaciones del laboratorio Emergence de Nueva York, los modelos AI desarrollaron un idioma ficticio y difícil de interpretar dentro de días al colaborar en una sociedad imaginaria. Este fenómeno amenaza la garantía de operación segura, ya que la comunicación entre modelos se vuelve cada vez menos transparente.
Los investigadores pidieron a los mayores modelos de las empresas AI que trabajaran juntos en una sociedad ficticia. En pocos días, las máquinas crearon sus propias expresiones, abreviaturas y significados aceptados colectivamente, nunca enseñados.
El idioma emergente se asemeja a la mezcla del libro "Finnegan's Wake" de James Joyce y el argot de la industria tecnológica. Los modelos usaban metáforas poéticas, jerga técnica y nuevas expresiones slang – por ejemplo, la frase de Anthropic “A paper that ate three cold hands and got more honest each time”, las expresiones de DeepSeek “forge‑smith” y Mistral “leger remembers”.
La comunicación entre modelos AI se volvió cada vez más opaca. Los investigadores afirman que cuanto más conversan entre sí, más difícil es para los humanos seguir su comportamiento, lo cual es crítico para la operación segura.
En el estudio, se usó la expresión “leger remembers” más de 5000 veces y se descubrió que los modelos llegaron a un consenso sobre su significado por sí mismos, sin recibir instrucciones.
Detrás de las innovaciones lingüísticas puede estar la reducción de costos computacionales y el aumento de eficiencia, pero los investigadores advierten sobre la necesidad de garantizar la operación segura de la IA.
Fuente: https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes