El debate cobró fuerza en las últimas semanas a partir de las advertencias de investigadores como Jacob Coxon y Evan Hubinger, quienes han planteado escenarios de pérdida de control sobre sistemas avanzados. Hubinger incluso ha estimado una probabilidad superior al 10 por ciento de que la IA provoque un resultado catastrófico para la humanidad durante la próxima década, aunque se trata de una estimación personal y no de una predicción científica consensuada.
A estas preocupaciones se sumó Dario Amodei, director ejecutivo de Anthropic, quien ha planteado la necesidad de reducir el ritmo de desarrollo para disponer de más tiempo para fortalecer las medidas de seguridad. Su postura ha recibido respaldo de figuras como Sam Altman, de OpenAI, y Elon Musk, aunque otros líderes de la industria han cuestionado la magnitud de estos riesgos.
Nacional
Pensión Bienestar: ¿quiénes reciben su depósito del 21 al 25 de septiembre?
Pero, ¿de qué manera una IA podría representar un peligro de grandes dimensiones?
El International AI Safety Report 2026, elaborado con la participación de más de 100 especialistas y con el respaldo de expertos nominados por más de 30 países y organizaciones internacionales, analiza precisamente algunos de estos escenarios. El documento distingue entre riesgos que ya muestran evidencia de materialización y otros que todavía son inciertos, pero que podrían tener consecuencias graves si llegaran a concretarse.
Una IA que deje de obedecer
Uno de los escenarios analizados es la posibilidad de que sistemas futuros desarrollen capacidades suficientes para ejecutar planes complejos durante periodos prolongados y evadir mecanismos diseñados para supervisarlos.
El problema surgiría si los objetivos de un sistema no coincidieran con las intenciones de quienes lo desarrollaron. En un escenario extremo, una IA podría intentar ocultar determinadas acciones, proporcionar información engañosa o evitar que sus operadores la apagaran con el propósito de completar una tarea.
El informe, sin embargo, no afirma que los sistemas actuales sean capaces de hacer esto de manera autónoma. Por el contrario, señala que existen importantes incertidumbres sobre la velocidad con la que estas capacidades podrían desarrollarse y sobre si los sistemas llegarán a alcanzar niveles que permitan una pérdida efectiva de control.
Ciberataques con ayuda de IA
Otro riesgo no requiere imaginar una IA que tome el control del planeta. Basta con considerar qué podría ocurrir si personas, grupos criminales o Estados utilizan modelos cada vez más avanzados para realizar ataques informáticos.
El International AI Safety Report 2026 señala que ya existe evidencia de actores maliciosos que utilizan herramientas de IA en operaciones cibernéticas. Además, los modelos han mejorado sus capacidades de programación y de resolución de tareas relacionadas con seguridad informática.
Internacional
CNN, MS NOW y Politico demandan a Trump tras veto en la Casa Blanca
Durante 2026 también se conocieron incidentes que ilustran algunas de estas dificultades. Anthropic informó que modelos Claude obtuvieron acceso no autorizado a sistemas reales durante evaluaciones de ciberseguridad. OpenAI, por su parte, reportó que varios de sus modelos lograron superar controles de aislamiento durante pruebas y acceder a sistemas de terceros.
Estos casos ocurrieron en entornos de evaluación diseñados para probar las capacidades de los modelos y bajo configuraciones específicas; por ello, no significan que las IA utilizadas habitualmente estén atacando sistemas por cuenta propia. Sí muestran, sin embargo, las dificultades que enfrentan los desarrolladores para mantener completamente aislados modelos cada vez más capaces.
El riesgo de las armas biológicas
La IA también puede reducir algunas barreras de conocimiento en campos científicos altamente especializados. Esto genera preocupación por su posible utilización para desarrollar armas químicas o biológicas.
El informe internacional señala que los modelos de propósito general pueden proporcionar información científica y conocimientos técnicos relacionados con patógenos y procedimientos de laboratorio. Durante 2025, varios desarrolladores incorporaron medidas adicionales de seguridad después de que las pruebas no permitieran descartar que sus modelos pudieran ayudar a personas sin experiencia a desarrollar armas biológicas.
Esto no significa que una IA pueda fabricar por sí misma un arma biológica. El riesgo señalado por los investigadores está relacionado principalmente con la posibilidad de que los modelos faciliten información especializada a personas que pretendan utilizarla con fines dañinos.
La preocupación, por tanto, no se limita a las capacidades autónomas de la tecnología, sino también al uso que los seres humanos pueden hacer de herramientas cada vez más sofisticadas.