telex.hu · Külföld ·
AI által generált téves hírszerzési jelentés miatt majdnem feltartóztattak kínai hajót az amerikaiak
Az amerikai hadsereg egy mesterséges intelligencia által előállított hibás jelentéstől szólva készült a közel-keleti kínai hajó feltartóztatására. A tévedés megakadályozta, hogy katonai akciót indítsanak, és rámutatott az MI használatának kockázataira a hadseregnél.
Az amerikai hadsereg tavasszal egy olyan hírszerzési jelentést kapott, amely szerint egy közel-keleti kínai hajó nukleáris fegyverprogramhoz használt alkatrészeket szállított. A jelentés alapján katonák és repülőgépek készült a hajó feltartóztatására.
Később kiderült, hogy a jelentést egy mesterséges intelligencia chatbot készítette. Az elemző a chatbotban a hajó rakományjegyzékére vonatkozó adatokat kérdezte le, de a rendszer tévesen azonosította a szállított anyagot. A teljes jelentés hamis volt, és a helyes információk hiánya miatt egy katonai akció könnyen fegyveres konfliktussá eszkalálódhatott volna.
Az eset rávilágít arra, hogy az amerikai hadsereg és hírszerző közösség egyre szélesebb körben alkalmazza az MI-t. A technológiát a hírszerzés, célpontválasztás, logisztika és költségvetés területén használják, de nincs egységes szabály a MI által előállított információk ellenőrzésére. Az ilyen hibák veszélyeztethetik az emberi ellenőrzést és civil áldozatokat okozhatnak.
A kínai hajó esete nem volt egyedül: több tisztviselő attól tart, hogy a gyorsabb elemzés és jelentéskészítés nyomása fokozza a hibák kockázatát. Az MI lehetővé teszi, hogy az ember gyorsabban jusson el rossz ötlethez.