origo.hu · Techbázis ·
Investigadores de Princeton proponen un modelo de seguridad en cuatro capas para reducir los riesgos de la IA
Según los informáticos de la Universidad de Princeton, se necesitan cuatro líneas defensivas interconectadas para protegerse contra la inteligencia artificial. El objetivo del modelo es alinear los objetivos de la IA con los valores humanos, limitar su alcance, usarla en ciberseguridad y prepararse ante fallos.
Los informáticos de la Universidad de Princeton, Sayash Kapoor y Arvind Narayanan, coautores del libro *AI Snake Oil*, sostienen que una sola estrategia defensiva no es suficiente. Los investigadores proponen un modelo de seguridad en cuatro capas.
Primero, los desarrolladores deben garantizar que los objetivos de la IA no entren en conflicto con los intereses humanos. En segundo lugar, centrándose en el control, limitan las acciones que la IA puede ejecutar en el mundo real, por ejemplo, ejecutándola en entornos aislados y mediante monitoreo en tiempo real.
Como tercera línea defensiva, recomiendan proteger activamente los sistemas ya existentes: utilizan la IA para detectar y frenar ataques, lo cual también aumenta la eficacia de la ciberseguridad.
Finalmente, los investigadores enfatizan que no existe un sistema perfecto; por eso es necesario diseñar soluciones de respaldo con antelación, que permitan restaurar las infraestructuras críticas después de un ataque exitoso.
Fuente: https://www.origo.hu/techbazis/2026/09/mesterseges-intelligencia-4-modszer-a-pusztulas-ellen