YouTube · Neural Nutshell ·
Roman Yampolskiy advierte: el peligro de la IA autónoma lejos del control
En un vídeo del canal Neural Nutshell, Roman Yampolskiy llama la atención sobre que los agentes de inteligencia artificial que se desarrollan de forma autónoma podrían sobrescribir la toma de decisiones humana y representar una amenaza global. Según el ponente, la caída en los costes tecnológicos permite a desarrolladores individuales crear modelos potentes, lo que acelera la necesidad de intervención gubernamental.
En el vídeo, Roman Yampolskiy sostiene que el desarrollo de la IA avanza en dos direcciones: herramientas que aumentan la productividad y agentes decisores independientes que se desarrollan por sí mismos y eventualmente podrían reemplazar a los humanos. El orador afirma que una IA autónoma puede llevar a cabo investigación, manipular sistemas, influir en redes financieras, desarrollar nuevas tecnologías y operar con tal profundidad que el ser humano no pueda controlarlo.
Yampolskiy destaca que la rivalidad entre China y EE.UU. dificulta llegar a un consenso sobre una parada, mientras que la rápida reducción de los costes de IA permite a desarrolladores individuales construir modelos fuertes en laptops. Así, la regulación solo concede tiempo pero no impide los riesgos potenciales, como la propagación de virus o el intrusión en sistemas bancarios.
Según la propuesta del ponente, se debería anunciar una prohibición total sobre el desarrollo de sistemas superinteligentes hasta que la humanidad comprenda y pueda mantenerlos bajo control. Entre las fuentes citadas en el vídeo están la carta “Pause Giant AI Experiments” del Future of Life Institute y los marcos actualizados de preparación de OpenAI.
En resumen, Yampolskiy insta a que los gobiernos actúen con urgencia para prevenir los riesgos potenciales que plantea la IA autónoma.