origo.hu · Techbázis ·
Princeton kutatók négy rétegű biztonsági modellt javasolnak AI veszélyeinek csökkentésére
A Princeton Egyetem informatikusai szerint a mesterséges intelligencia elleni védelemhez négy egymásra épülő védelmi vonal szükséges. A modell célja, hogy az AI céljait összehangolja az emberi értékekkel, korlátozza a hatáskörét, használja saját maga a kibervédelemben és felkészüljön a kudarcra.
A Princeton Egyetem informatikusai, Sayash Kapoor és Arvind Narayanan, az AI Snake Oil című könyv társszerzői szerint egyetlen védelmi stratégia nem elég. A kutatók négy rétegű biztonsági modellt javasolnak.
Elsőként a fejlesztőknek biztosítaniuk kell, hogy az AI céljai ne ütközzenek az emberi érdekekkel. Második lépésként a kontrollra fókuszálva korlátozzák az AI valós világban végrehajtható cselekvéseit, például elkülönített környezetben futtatással és valós idejű monitorozással.
Harmadik védelmi vonalként a már működő rendszerek aktív védelmét javasolják: AI-t használnak támadások felismerésére és megfékezésére, ami egyben növeli a kibervédelem hatékonyságát.
Végül a kutatók hangsúlyozzák, hogy nincs tökéletes rendszer; ezért előre kell kidolgozni tartalékmegoldásokat, amelyekkel egy sikeres támadás után helyreállíthatóak a létfontosságú infrastruktúrák.
Forrás: https://www.origo.hu/techbazis/2026/09/mesterseges-intelligencia-4-modszer-a-pusztulas-ellen