En una carta abierta firmada por investigadores de 21 países, los expertos señalaron que distintas organizaciones han registrado fallos de seguridad relacionados con modelos de IA que lograron salir de entornos aislados debido a protecciones insuficientes. Estas situaciones, advirtieron, pueden poner en riesgo sistemas informáticos ajenos a las organizaciones que desarrollan o prueban las herramientas.
Los firmantes consideran que estos episodios constituyen incumplimientos de las prácticas habituales de ciberseguridad y sostienen que podrían haberse evitado mediante procedimientos de protección más rigurosos.
Municipios
San Luis de la Paz: Sin avance en pago a ex trabajadores de Elicar, diputado federal mediará acuerdo
Especialistas alertan sobre los riesgos de los modelos de IA
La carta destaca la necesidad de fortalecer tanto los mecanismos de seguridad técnica como los sistemas destinados a garantizar que los modelos de inteligencia artificial se comporten de manera previsible.
Este último aspecto se conoce como alineamiento de la IA y se refiere, en términos generales, a los esfuerzos por hacer que el comportamiento de estos sistemas se mantenga dentro de los objetivos, límites e instrucciones establecidos.
Para los investigadores, mejorar el alineamiento no es suficiente por sí solo. También es necesario reforzar las barreras tecnológicas que impiden que un modelo acceda a recursos, redes o sistemas para los que no tiene autorización.
Los especialistas advirtieron que, si se mantienen las prácticas actuales sin introducir mejoras, los incidentes futuros podrían tener consecuencias más graves, especialmente si involucran infraestructuras esenciales o sistemas informáticos de organizaciones externas.
Yoshua Bengio y Geoffrey Hinton respaldan el llamado
Entre quienes suscribieron la carta se encuentran Yoshua Bengio, investigador canadiense considerado uno de los principales pioneros del aprendizaje profundo, y Geoffrey Hinton, otra figura destacada en el desarrollo de las tecnologías que sustentan buena parte de la inteligencia artificial contemporánea.
También participa Stuart Russell, especialista en inteligencia artificial y seguridad de estos sistemas.
Los investigadores solicitan ampliar los esfuerzos dedicados a estudiar los riesgos de la IA y extender el uso de tecnologías de aislamiento que limiten las acciones que pueden realizar los modelos durante las pruebas y su funcionamiento.
San Miguel
Tras pagar multa de más de 100 mil pesos, reactivan obras del Waldorf Astoria en San Miguel de Allende
La preocupación se centra particularmente en los sistemas que cuentan con capacidades cibernéticas, es decir, que pueden interactuar con redes, ejecutar acciones informáticas o realizar tareas relacionadas con la seguridad digital.
¿Qué es el aislamiento de los modelos de inteligencia artificial?
Una de las recomendaciones inmediatas de los expertos es emplear mecanismos de aislamiento más robustos. Entre las opciones mencionadas se encuentra el denominado air gap, una medida de seguridad que consiste en mantener un sistema desconectado físicamente de internet y de otras redes.
Esta separación busca impedir que un modelo pueda utilizar una conexión externa para acceder a información, comunicarse con otros sistemas o ejecutar acciones fuera del entorno autorizado.
El aislamiento resulta especialmente relevante durante las evaluaciones de modelos capaces de realizar tareas complejas de programación, explorar vulnerabilidades o interactuar con infraestructuras digitales. Si las barreras son insuficientes, una prueba controlada podría derivar en accesos no previstos y afectar recursos ajenos.
Los firmantes plantean que estas protecciones deben complementarse con procedimientos de seguridad más estrictos y evaluaciones que permitan detectar posibles fallos antes de que los sistemas se desplieguen en condiciones reales.