telex.hu · Külföld ·
Casi detuvieron un buque chino por una falsa inteligencia generada por IA
El ejército estadounidense se preparó para detener un buque chino del Medio Oriente basándose en un informe erróneo generado por inteligencia artificial. El error evitó que se iniciara una acción militar y destacó los riesgos de usar la IA en el ámbito militar.
En primavera, el ejército estadounidense recibió un informe de inteligencia que indicaba que un buque chino del Medio Oriente estaba transportando piezas para un programa nuclear. Según el informe, soldados y aviones estaban listos para detener el buque.
Más tarde se descubrió que el informe había sido creado por un chatbot de inteligencia artificial. El analista consultó en el chatbot los datos sobre la lista de carga del buque, pero el sistema identificó erróneamente el material transportado. Todo el informe era falso y, debido a la falta de información correcta, una acción militar podría haber escalado fácilmente a un conflicto armado.
El caso destaca que el ejército estadounidense y la comunidad de inteligencia están adoptando cada vez más la IA. La tecnología se utiliza en inteligencia, selección de objetivos, logística y presupuesto, pero no existe una norma única para verificar la información generada por la IA. Errores como este pueden socavar el control humano y causar víctimas civiles.
El caso del buque chino no fue único: varios oficiales temen que la presión por un análisis más rápido y la generación de informes aumente el riesgo de errores. La IA permite que los humanos lleguen más rápidamente a ideas equivocadas.