telex.hu · Külföld ·
כמעט נעצר סירה סינית על ידי אמריקאים עקב דוח מודיעין כוזב שנוצר ב-AI
הצבא האמריקאי התכונן לעצירת סירה סינית ממזרח תיכון בהתבסס על דיווח שגוי שנוצר על ידי אינטליגנציה מלאכותית. הטעות עצרה פעולה צבאית והדגישה את הסיכונים של שימוש ב-AI בכוחות מזוינים.
באביב, הצבא האמריקאי קיבל דוח מודיעין המפרט כי סירה סינית ממזרח תיכון מעבירה רכיבים המשמשים לתוכנית נשק גרעיני. בהתבסס על הדוח, חיילים ומכשירי אוויר התכוננו לעצור את הספינה.
אחר כך נחשף שהדוח הוכן על ידי צ'אטבוט אינטליגנציה מלאכותית. האנליסט שאל את הצ'אטבוט לגבי המפרט של הסירה, אך המערכת זיהתה באופן שגוי את המטען. כל הדוח היה כוזב, וחוסר במידע מדויק יכל לגרום לעלייה קלילה לפעולה צבאית ולסכסוך אלים.
האירוע מדגיש כי הצבא האמריקאי והקהילה המודיעינית מקבלים בקלות יותר את ה-AI בתחומים רחבים. הטכנולוגיה משמשת באיסוף מודיעין, בחירת מטרות, לוגיסטיקה ותכנון תקציב, אך אין כלל מאוחד לאימות מידע שנוצר על ידי AI. טעויות כאלה יכולות לפגוע בפיקוח אנושי ולגרום לנזקים אזרחיים.
מקרה הסירה הסינית אינו מבודד: כמה גורמים חוששים שהלחץ להפיק ניתוחים ודיווחים מהירים יותר מגביר את סיכון הטעויות. AI מאפשר לאנשים להגיע למסקנות שגויות מהר יותר.