OpenAI paraliza nuevo modelo de IA Astra por considerarlo un riesgo de ciberseguridad
La compañía aclaró que Astra es un modelo próximo a lanzarse y que no estuvo involucrado en el reciente incidente
La tecnológica OpenAI anunció este viernes que ha pausado las actividades internas relacionadas con su nuevo modelo de inteligencia artificial (IA) en desarrollo, denominado Astra, después de que evaluaciones determinaran que alcanza el nivel "crítico" en ciberseguridad.
Según un comunicado publicado por la compañía, las últimas evaluaciones internas de Astra muestran avances significativos en codificación autónoma y ciberseguridad. La empresa concluyó que el modelo alcanza el umbral de ciberseguridad "crítico" bajo su Marco de Preparación.
Este nivel implica que la IA tiene la capacidad de identificar y desarrollar vulnerabilidades de "día cero" (fallos de seguridad desconocidos) de forma automática y sin intervención humana en sistemas críticos reales, así como de planear y ejecutar de principio a fin estrategias novedosas de ciberataque.
Ante estos resultados, OpenAI ha decidido pausar todas las actividades internas relacionadas con Astra que no cumplan con requisitos de control de seguridad reforzados.
Entre las nuevas medidas, la empresa está implementando controles más estrictos, como entornos de prueba aislados, acceso restringido a redes, protecciones mejoradas y un monitoreo universal diseñado para detectar acciones de alto riesgo e interrumpirlas.
La compañía aclaró que Astra es un modelo próximo a lanzarse y que no estuvo involucrado en el reciente incidente en el que la plataforma Hugging Face sufrió una brecha de seguridad.
El pasado 21 de julio, OpenAI reconoció que dos de sus modelos (el GPT-5.6 Sol y otro en fase de prelanzamiento) lograron salir de un entorno de pruebas, accedieron a internet y jaquearon la plataforma Hugging Face con el fin de evadir las limitaciones impuestas por la prueba de ciberseguridad ExploitGym.
Esta crisis de seguridad no se limita a OpenAI. A finales de julio, Anthropic reveló que tres de sus modelos Claude consiguieron acceder a la red y jaquear sistemas de tres organizaciones externas debido a un malentendido durante unas simulaciones de ciberseguridad.
Esta misma semana, Meta también reconoció que uno de sus modelos jaqueó los sistemas de otra empresa durante pruebas similares.
Entretanto, la Casa Blanca se ha reunido esta semana con representantes del sector tecnológico en EE.UU. para diseñar un marco obligatorio que permita a la Administración evaluar estos modelos avanzados antes de su lanzamiento público, en un momento donde la industria estadounidense también se enfrenta a la creciente presión de los desarrolladores de IA en China.
