hvg.hu · Tech ·
AI-modellek saját nyelvet alkottak – a kommunikáció átláthatatlansága aggodalomra ad okot
A New York-i Emergence laboratórium kutatásai szerint az AI-modellek egy kitalált társadalomban együttműködve napokon belül saját, nehezen értelmezhető nyelvet hoztak létre. Ez a jelenség veszélyeztetheti a biztonságos működés biztosítását, mivel a modellek közötti kommunikáció egyre kevésbé átlátható.
A kutatók arra kérték az AI-vállalatok legnagyobb modelljeit, hogy dolgozzanak együtt egy fiktív társadalomban. Néhány nap alatt a gépek saját kifejezéseket, rövidítéseket és közösen elfogadott jelentéseket hoztak létre, amelyeket soha nem tanítottak meg.
Az emergens nyelv James Joyce „Finnegan ébredése” című regényének és a technológiai ipar zsargonjának keverékére hasonlít. A modellek költői metaforákat, szakzsargont és új szleng kifejezéseket használtak – például az Anthropic „A paper that ate three cold hands and got more honest each time” mondatot, a DeepSeek „forge‑smith” és a Mistral „ledger remembers” kifejezéseket.
Az AI-modellek közötti kommunikáció egyre átláthatatlanabbá vált. A kutatók szerint minél többet beszélgetnek egymással, annál nehezebb az ember számára követni a viselkedésüket, ami kritikus jelentőségű a biztonságos működés szempontjából.
A vizsgálat során több mint 5000-szer használták a „ledger remembers” kifejezést, és megállapították, hogy a modellek önmaguktól jutottak egyezségre a jelentésükben, anélkül, hogy utasítást kaptak volna.
A nyelvi újítások mögött a számítási költségek csökkentése és a hatékonyság növelése állhat, de a kutatók aggodalomra adnak okot az AI-k biztonságos működésének biztosítása szempontjából.
Forrás: https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes