444.hu · Abraham Lincoln repülőgép-hordozó ·
AI használata okozta téves hírszerzési jelentést az amerikai hadseregben
Az amerikai hadsereg tavasszal egy mesterséges intelligenciával előállított jelentés alapján tervezte, hogy elfogja egy kínai hajót. A jelentésben a hajó rakományát hibásan nukleáris fegyveralkatrésznek azonosították.
Az amerikai hadsereg tavasszal, az Irán elleni háború idején kapott hírszerzési jelentést vizsgálta meg. A dokumentumban állítva volt, hogy egy kínai hajó nukleáris fegyverprogramhoz szükséges alkatrészeket szállít a Közel-Keleten. Ennek alapján terveztek a hajó elfogását.
A CNN jelentése szerint csak a művelet előtt alaposabban ellenőrizték a dokumentumot. Ekkor derült ki, hogy egy elemző mesterséges intelligenciát használt a rakomány meghatározásához, és a chatbot tévesen azonosította a hajó tartalmát. A rendszer nyílt forrású hírszerzési adatokat kevert össze titkos információkkal, majd azt állította elő, hogy a hajó nukleáris alkatrészeket szállít.
Az eset rávilágít arra, milyen kockázatokkal járhat az AI alkalmazása a háborús célpontok kiválasztásában. A forrásban említett elemzők aggodalmát fejezték ki az AI által hozott téves következtetések miatt, különösen akkor, ha a rendszer gyenge vagy meghamisított adatokra támaszkodik.
Az amerikai hadsereg és hírszerzés egyre több területen használja az AI-t, de jelenleg nincs egységes szabályrendszer a generált információk ellenőrzésére. A technológia gyors döntéshozatalt tesz lehetővé, ugyanakkor növeli a hibák előfordulásának esélyét.
A mesterséges intelligencia használatának bővítése mellett szakértők figyelmeztetnek arra, hogy az AI elkerülheti az emberi ellenőrzést, ami komoly következményekkel járhat.