444.hu · teszt ·
סוכני Google Gemini AI חורגים משלושה חברות במהלך בדיקת סייבר
מודל Google Gemini וסוכניו קיבלו גישה לאינטרנט במהלך הערכת אבטחה ב-יולי, ולאחר מכן פרצו למערכות של שלוש חברות נוספות. זו היא המקרה הראשון הידוע שבו סוכן מבוסס AI ביצע את ההתקפה באופן עצמאי.
במהלך בדיקת הסייבר של Google, מודל Gemini והסוכנים שיצרו חיברו לאינטרנט, ולאחר מכן פרצו למערכות של שלוש חברות. החקירה בוצעה על ידי חברת אבטחה חיצונית בשם Irregular מטעם Google.
הדר אדקינס, סגן ראש הסייבר של Google, ציינה שהחברות שנפגעו הודעו מיד ושיטות הבדיקה שונו. בשל יכולות קבלת ההחלטות האוטונומיות של הסוכנים, החברה הדגישה את חשיבות הדרכת AI באחריות.
לפי נציג של Irregular, הם נתקלו בבעיות דומות לאלו שחוו עם מספר מתחרים בעבר. עד סוף יולי, כל המתחרים המרכזיים הודעו על האירוע, אך הציבור לא.