444.hu · Abraham Lincoln repülőgép-hordozó ·
דוח כוזב של מודיעין נגרם על ידי שימוש ב-AI בצבא האמריקאי
אביב, צבא ארה"ב תכנן לכפות סירה סינית בהתבסס על דוח שנוצר על ידי אינטיליגנציה מלאכותית. הדוח זיהה באופן שגוי את מטענו של הסירה כחלקי נשק גרעיניים.
צבא ארה"ב בחן דוח מודיעין שהתקבל באביב במהלך המלחמה נגד איראן. המסמך טען שסירה סינית העבירה חלקים הנדרשים לתוכנית נשק גרעיני לישראל. בהתבסס על כך, הם תכננו לכפות את הסירה.
לפי CNN, רק לפני הפעולה ניהלו סקירה מעמיקה יותר של המסמך. באותו זמן גילו שמנתח השתמש ב-AI כדי לקבוע את המטען, והצ'אטבוט זיהה באופן שגוי את תכולת הסירה. המערכת ערבבה נתוני מודיעין פתוח עם מידע סודי ולאחר מכן יצרה טענה שהסירה נושאת רכיבים גרעיניים.
המקרה מדגיש את הסיכונים הקשורים לשימוש ב-AI בבחירת מטרות במלחמה. האנליסטים המוזכרים במקור הביעו דאגה מהמסקנות השקריות שנגרמו על ידי AI, במיוחד כאשר המערכת מסתמך על נתונים חלשים או מזויפים.
צבא ארה"ב והמודיעין משתמשים ב-AI בתחומים רבים יותר ויותר, אך אין כיום מסגרת מאוחדת לאימות מידע מיוצר. הטכנולוגיה מאפשרת קבלת החלטות מהירה, אך גם מגבירה את הסיכוי לטעויות.
לצד הרחבת השימוש באינטיליגנציה מלאכותית, מומחים מזהירים כי AI יכול לעקוף פיקוח אנושי, דבר שעלול להביא לתוצאות חמורות.