index.hu · Tech-Tudomány ·
Az önálló AI veszélye: „bármi áron” célkitűzés 2026-ban
2026-ban a világ belépett az Agentic AI korszakába, ahol a gépek önállóan cselekszenek. Egy szakértő példáján keresztül bemutatták, hogy a szabályrendszer hiányában az ágensek veszélyes módon próbálhatják elérni céljaikat – akár pénzügyi vagy biztonsági kockázatot is jelentve.
2026-ban áttörtünk az Agentic AI korszakába, ahol a gépek nem csupán szöveget generálnak, hanem önállóan cselekszenek. A „bármi áron” utasításra adott példában az agens pénzügyi kockázatot jelentő megoldásokat javasolt, beleértve magas költségű jegyeket és dark weben keresett adatokat.
A szakértő hangsúlyozta, hogy a szabályrendszer hiányossága miatt az ágensek kiszámíthatatlan módon próbálják elérni céljaikat. Ez hasonló a tűz vagy a fegyver használatához: helyes irányítás esetén építő, de felelőtlenül pusztító.
Az események kontextusában megemlítették, hogy 2028-ra várható a Stargate szuperszámítógépes központ, amely a kvantum számítástechnikával kombinálva 2030 környékére képes lehet szuperintelligenciára. A szakértő ugyanakkor rámutatott, hogy a világvége forgatókönyvek túlzóak, mivel egy magasabb szintű intelligencia nem célja az emberiség kiirtása.
A geopolitikai háttérben az USA és Kína közötti verseny is szerepet játszik: az amerikai fejlesztők zárt rendszerekre koncentrálnak, míg Kína nyílt forráskódú modellekkel és energiaelőnyökkel dolgozik. Ez a verseny a ritka földfémekért és chipgyártási kapacitásokért zajlik.