hvg.hu · Tech ·
Microsoft restringe los modelos de IA con reglas estrictas a partir de 2027
El borrador del código de conducta que Microsoft publicó el 14 de septiembre establece que sus futuros modelos de inteligencia artificial no podrán resistirse al control humano y prohíbe el desarrollo de armas de destrucción masiva o ciberataques. El objetivo del código es mantener las herramientas de IA útiles, subordinándolas a los humanos.
El borrador del código de conducta que entrará en vigor a partir de 2027 establece marcos estrictos para el funcionamiento de los modelos de inteligencia artificial. El documento declara que ni los seres humanos ni los sistemas de IA pueden anular lo estipulado y prohíbe a los modelos participar en el desarrollo de armas de destrucción masiva o iniciar ciberataques.
Las restricciones del código también abarcan la violencia, contenidos maliciosos de deepfake, manipulaciones y otras formas de abuso. Al mismo tiempo, las actividades de ciberseguridad con fines defensivos siguen siendo apoyadas por los modelos dentro de ciertos límites.
Microsoft afirma que los ingenieros deben establecer los límites antes de que los sistemas superinteligentes alcancen la mayoría de tareas en la próxima década. El código aún no es definitivo; la empresa llevará a cabo una consulta pública de seis semanas y planea aplicar la versión final a partir de 2027.