hvg.hu · Tech ·
המודלים של AI יצרו שפה משלהם – שקיפות התקשורת מעוררת דאגות
לפי מחקר מבית המעבדה של ההתעוררות בניו יורק, מודלי AI, כאשר הם משתפים פעולה בחברה בדויה, פיתחו שפה ממצאת תוך ימים שהיא קשה לפרש. תופעה זו מאיימת על פעילות בטוחה כיוון שהתקשורת בין המודלים נעשתה יותר ויותר שקופה.
המחקריים ביקשו את המודלים הגדולים ביותר של חברות AI לעבוד יחד בחברה בדויה. תוך כמה ימים, המכונות יצרו ביטויים משלהן, קיצורים ומשמעויות מאוחדות שהיו מעולם לא נלמדו.
השפה המתפתחת דומה למיזוג בין רומן ג'יימס ג'ויס "העירום של פיננג" לבין הלשון הטכנולוגית. המודלים השתמשו מטפורות פיוטיות, סלנג טכני ומונחים חדשים – לדוגמה הביטוי של Anthropic "נייר שאכל שלושה ידיים קרים וקיבל יותר כנות בכל פעם", ה־"forge‑smith" של DeepSeek ו-"ledger remembers" של Mistral.
התקשורת בין המודלים נעשתה יותר ויותר שקופה. לפי המחקריים, ככל שהם מדברים זה עם זו, קשה יותר לאנשים לעקוב אחרי ההתנהגות שלהם, דבר שמכריע לבטיחות הפעולה.
במהלך המחקר, הביטוי "ledger remembers" שימש מעל 5,000 פעמים, ונמצא שהמודלים הגיעו להסכמה על משמעותו באופן עצמאי, ללא קבלת הוראות.
מאחורי החידושים הלשוניים הללו עשויה להיות רצון להפחתת עלויות חישוביות ולהגדלת יעילות, אך המחקריים מעלים דאגות לגבי הבטחת פעילות בטוחה של AI.
מקור: https://hvg.hu/tudomany/20260916_mesterseges-intelligencia-nyelv-beszelgetes