YouTube · Neural Nutshell ·
Roman Yampolskiy figyelmeztet: az autonóm AI veszélye a kontrolltól távol
A Neural Nutshell csatorna videójában Roman Yampolskiy arra hívja fel a figyelmet, hogy az önállóan fejlődő mesterséges intelligencia ügynökök képesek lehetnek emberi döntéshozatalt felülírni és globális kockázatot jelenteni. A beszélő szerint a technológia költségeinek csökkenése miatt egyéni fejlesztők is erős modelleket hozhatnak létre, ami sürgeti a kormányok beavatkozását.
A videóban Roman Yampolskiy azt állítja, hogy az AI fejlődése kétféle irányba halad: eszközök, amelyek növelik a termelékenységet, és független döntéshozó ügynökök, melyek önállóan fejlődnek és végül embereket helyettesíthetnek. A beszélő szerint az ilyen autonóm AI képes kutatást végezni, rendszereket manipulálni, pénzügyi hálózatokat befolyásolni, új technológiákat fejleszteni, és olyan mélységben működni, amelyet az ember nem tud kezelni.
Yampolskiy kiemeli, hogy a Kína–USA verseny miatt nehéz konszenzusra jutni a leállásról, míg az AI költségeinek gyors csökkenése lehetővé teszi, hogy egyéni fejlesztők is erős modelleket építsenek laptopon. Ezáltal a szabályozás csak időt ad, de nem megakadályozza a potenciális veszélyeket, mint például vírusterjesztés vagy bankrendszer-bevágás.
A beszélő javaslatára egy teljes tiltást hirdetne a generálisan szuperintelligens rendszerek fejlesztése ellen, amíg az emberiség meg nem érti és kontroll alatt nem tudja őket tartani. A videóban említett források közé tartozik a Future of Life Institute „Pause Giant AI Experiments” levele és OpenAI frissített felkészülési keretei.
Összességében Yampolskiy arra ösztönöz, hogy sürgősen cselekedjenek a kormányoknak az autonóm AI által jelentett potenciális veszélyek megelőzése érdekében.