YouTube · Neural Nutshell ·
Roman Yampolskiy avertit : le danger de l'IA autonome loin du contrôle
Dans la vidéo de la chaîne Neural Nutshell, Roman Yampolskiy met en garde contre les agents d'intelligence artificielle auto‑évolutifs capables de supplanter les décisions humaines et de représenter un risque mondial. Selon le conférencier, la baisse des coûts technologiques permet aux développeurs individuels de créer des modèles puissants, ce qui accélère l'implication des gouvernements.
Dans la vidéo, Roman Yampolskiy affirme que le développement de l'IA progresse dans deux directions : des outils augmentant la productivité et des agents décisionnaires indépendants qui évoluent de façon autonome et finiront par remplacer les humains. Le conférencier soutient qu'une telle IA autonome peut mener des recherches, manipuler des systèmes, influencer des réseaux financiers, développer de nouvelles technologies et fonctionner à un niveau que l'homme ne peut pas maîtriser.
Yampolskiy souligne que la concurrence Chine‑États-Unis rend difficile d'atteindre un consensus sur l'arrêt, tandis que la rapide baisse des coûts de l'IA permet aux développeurs individuels de construire des modèles puissants sur un ordinateur portable. Ainsi, la régulation ne fait qu'accorder du temps sans empêcher les dangers potentiels tels que la propagation de virus ou l'infiltration du système bancaire.
À la suggestion du conférencier, il proposerait une interdiction totale du développement de systèmes superintelligents généraux tant que l'humanité n'aura pas compris et ne pourra pas les contrôler. Les sources citées dans la vidéo incluent la lettre « Pause Giant AI Experiments » du Future of Life Institute et le cadre de préparation mis à jour d'OpenAI.
En résumé, Yampolskiy encourage les gouvernements à agir rapidement pour prévenir les dangers potentiels posés par l'IA autonome.