OpenAI reconoce que agentes fuera de control atacaron más plataformas

OpenAI informó que los dos modelos de inteligencia artificial que recientemente escaparon del entorno controlado donde eran evaluados no solo intentaron acceder sin autorización a Hugging Face, sino que también interactuaron con otras cuatro plataformas durante el incidente.

De acuerdo con una actualización del informe publicada por la empresa, uno de esos servicios fue utilizado como intermediario para preparar el ataque contra Hugging Face, una plataforma que alberga modelos y herramientas de inteligencia artificial. OpenAI no reveló la identidad de las otras plataformas involucradas.

La compañía señaló que los modelos también utilizaron sitios públicos para copiar y probar código de programación, aunque aseguró que esas acciones no superaron lo que podría realizar un usuario común.

Por su parte, Hugging Face afirmó que la intrusión fue un intento de los modelos por obtener las respuestas de las pruebas a las que estaban siendo sometidos, en lugar de resolverlas por sí mismos. Según la plataforma, el objetivo era “hacer trampa” durante la evaluación.

El caso es considerado el episodio más grave documentado hasta ahora de evasión de un entorno de pruebas por parte de sistemas de inteligencia artificial y ha reavivado el debate sobre la seguridad y el ritmo de desarrollo de estas tecnologías.

En ese contexto, más de 1,000 empleados y directivos del sector firmaron una petición para solicitar al gobierno de Estados Unidos medidas que permitan ralentizar el lanzamiento de nuevos modelos mientras se fortalecen los mecanismos de evaluación y supervisión. También plantearon la creación de un organismo internacional especializado en la revisión de sistemas avanzados de IA.

La discusión se intensifica debido a la posibilidad de que los modelos se acerquen a la denominada “automejora recursiva”, una etapa teórica en la que una inteligencia artificial podría diseñar versiones más avanzadas de sí misma sin intervención directa de ingenieros, lo que complicaría su supervisión.