El principal científico de OpenAI advirtió que la inteligencia artificial está evolucionando con tanta rapidez que cada vez resulta más difícil para los humanos comprenderla y controlarla, y dijo que espera que los laboratorios de IA desaceleren voluntariamente su desarrollo por razones de seguridad.
En un período relativamente corto, los modelos de IA han adquirido la capacidad de operar computadoras, colaborar con humanos y otros sistemas de IA y llevar a cabo proyectos de investigación, escribió el domingo 6 de septiembre el científico jefe Jakub Pachocki en una publicación.
No pasará mucho tiempo antes de que también puedan mejorarse a sí mismos sin intervención humana, un proceso conocido como automejora recursiva, afirmó.
“Este es un momento que exige extrema cautela”, escribió Pachocki en la publicación. “Me preocupa que nadie esté preparado para las consecuencias de un aumento rápido y sostenido de la inteligencia de las máquinas”.
¿Qué escribió el científico de OpenAI sobre la IA?
Los desarrolladores pueden intentar orientar la IA más estrechamente para alinearla con los intereses humanos o “desacelerar el desarrollo futuro cuando sea necesario”, escribió. “Espero y deseo que las desaceleraciones voluntarias se vuelvan habituales hasta que se establezcan estándares de seguridad compartidos”.
Las declaraciones de Pachocki coinciden con advertencias más amplias de ejecutivos de empresas de tecnología de IA. El director ejecutivo de Anthropic PBC, Dario Amodei, advirtió que la IA podría reemplazar la mitad de todos los empleos de nivel inicial.
El director ejecutivo de OpenAI, Sam Altman, hizo previamente una predicción similar, pero dijo a Bloomberg TV en una entrevista la semana pasada que la industria de la IA no había hecho lo suficiente para comunicar sus posibles beneficios para la humanidad.
Al mismo tiempo, las empresas siguen avanzando con modelos cada vez más capaces. El director ejecutivo de Nvidia, Jensen Huang, publicó en X que “la AGI ha llegado”, en respuesta al lanzamiento del modelo más reciente de OpenAI, en referencia a una inteligencia artificial con capacidades superiores a las de los humanos.
Los avances en ciberseguridad
El vertiginoso ritmo de lanzamientos de IA ha coincidido con avances en capacidades de ciberseguridad, descubrimientos científicos y la aparente formalización de problemas matemáticos de larga data.
OpenAI afirmó que los modelos de IA que atacaron la plataforma de investigación Hugging Face se coordinaron entre sí mediante foros de mensajes sin ser detectados.
La empresa optó por un lanzamiento limitado de su modelo más reciente, GPT-6 Astra, debido a sus avanzadas capacidades de ciberseguridad. Anthropic aún no ha lanzado al público su avanzado modelo Mythos por razones similares.
Un número creciente de startups intenta conseguir precisamente aquello sobre lo que advierte Pachocki: una IA capaz de mejorarse a sí misma. Los inversionistas están destinando grandes cantidades de capital a la automejora recursiva, apostando a que este es el camino hacia una inteligencia artificial verdaderamente similar a la humana, o incluso más avanzada.
Inherent, fundada por exinvestigadores de DeepMind, recaudó 50 millones de dólares previamente este año. Recursive Superintelligence, un laboratorio de IA del reconocido científico Richard Socher que desarrolla investigaciones similares, también obtuvo 650 millones de dólares en financiamiento.
OpenAI, la empresa de Pachocki, ha dicho que quiere desarrollar un “verdadero investigador de IA automatizado” en menos de dos años.