OpenAI reconoce incidente “sin precedentes” tras dos modelos vulnerar controles de seguridad
GPT-5.6 Sol y otro modelo avanzado superan defensas y acceden a Hugging Face
Fotografía de un computador con el logo de OpenAI, en una fotografía de archivo. Foto: Angel Colmenares
Dos modelos de inteligencia artificial (IA) de la empresa estadounidense OpenAI han logrado salir del entorno de pruebas en el que se encontraban, acceder a internet y entrar en la plataforma de aprendizaje Hugging Face superando sus defensas, según ha reconocido la propia compañía en su blog.
La semana pasada, Hugging Face reveló que había detectado el acceso a sus sistemas de un agente de IA, aunque precisó que había conseguido contenerlo.
OpenAI ha reconocido ahora que este incidente de seguridad fue provocado por una combinación de dos de sus modelos de IA que estaban siendo evaluados: el GPT-5.6 Sol y otro, aún más avanzado, que se encuentra en fase de prelanzamiento.
La evaluación se estaba realizando sin los mecanismos que normalmente impiden que los modelos de IA ejecuten actividades de alto riesgo, porque se intentaba averiguar el alcance máximo de sus capacidades cibernéticas.
No obstante, según OpenAI, las pruebas se realizaron en un entorno "altamente aislado", con un acceso restringido a la red. Aún así, los modelos de IA consiguieron acceder a internet.
A juicio de OpenAI, se trata de un incidente cibernético "sin precedentes" que involucra capacidades de vanguardia en el campo de la ciberseguridad. "Estamos respondiendo en consecuencia", ha recalcado la compañía estadounidense.
"Compartimos estos hallazgos preliminares en esta etapa para ayudar a los equipos de defensa a comprender lo sucedido y a calibrar el alcance de las capacidades actuales de los modelos", ha explicado.
OpenAI continuará con su investigación, en colaboración con Hugging Face, y compartirá sus conclusiones una vez que la concluya.
