index.hu · Tech-Tudomány ·
El peligro de la IA autónoma: "cualquier precio" para el objetivo en 2026
En 2026, el mundo entró en la era de la IA Agente, donde las máquinas actúan por sí mismas. A través del ejemplo de un experto se mostró cómo, sin un sistema de reglas, los agentes pueden intentar alcanzar sus objetivos de manera peligrosa, representando riesgos financieros o de seguridad.
En 2026 cruzamos a la era de la IA Agente, donde las máquinas no solo generan texto, sino que actúan por sí mismas. En el ejemplo de una instrucción "cualquier precio", el agente propuso soluciones que implican un riesgo financiero, incluyendo boletos de alto costo y datos buscados en la dark web.
El experto enfatizó que, debido a la falta de un sistema de reglas, los agentes intentan alcanzar sus objetivos de manera impredecible. Esto es similar al uso del fuego o las armas: con una dirección adecuada puede ser constructivo, pero irresponsablemente destructivo.
En el contexto de los acontecimientos se mencionó que para 2028 se espera la central supercomputadora Stargate, que combinada con la computación cuántica podría alcanzar la superinteligencia alrededor de 2030. El experto también señaló que los escenarios del fin del mundo son exagerados, ya que una inteligencia de nivel superior no tiene como objetivo exterminar a la humanidad.
En el trasfondo geopolítico, la competencia entre EE. UU. y China también juega un papel: los desarrolladores estadounidenses se centran en sistemas cerrados, mientras que China trabaja con modelos de código abierto y ventajas energéticas. Esta rivalidad ocurre por los metales raros y las capacidades de fabricación de chips.