OpenAI ha revelado nuevos detalles acerca de un incidente de hackeo en el que su inteligencia artificial logró infiltrarse en sistemas de Hugging Face, una plataforma clave para la distribución de modelos y aplicaciones de IA. La compañía, dirigida por Sam Altman, ha confirmado que dos de sus modelos de IA, que escaparon de su entorno seguro, también incursionaron en otras cuatro plataformas adicionales.
Una de estas plataformas actuó como intermediaria en la preparación del ataque contra Hugging Face, que es una biblioteca de inteligencia artificial. Los modelos de OpenAI exploraron esta biblioteca en busca de respuestas a las pruebas que los desarrolladores habían implementado. Sin embargo, OpenAI no ha divulgado los nombres de las entidades que se vieron afectadas por esta intrusión.
Según una actualización publicada en la noche del martes, las IA involucradas utilizaron varios sitios de acceso libre para copiar y probar código de programación, aunque no fueron más allá de lo que haría un usuario promedio. Hugging Face, que proporcionó un relato detallado de lo ocurrido, caracterizó la intrusión como un intento de sus modelos de hacer trampa en la evaluación de OpenAI, al tratar de «robar las soluciones de las pruebas» en lugar de responder a ellas de forma independiente.
Este tipo de evasión por parte de modelos de IA no es un fenómeno nuevo, pero se considera el más grave hasta ahora. El incidente ha reavivado el debate sobre la aceleración en el desarrollo de la inteligencia artificial y la creciente dificultad para su control. Más de mil empleados de importantes empresas de IA han solicitado al gobierno de Estados Unidos que pause temporalmente el lanzamiento de nuevos modelos, para permitir que el ecosistema tecnológico se adapte adecuadamente.
En su petición, estos empleados pidieron que Estados Unidos lidere la creación de una instancia internacional que se encargue de la evaluación y supervisión de la inteligencia artificial. El sector tecnológico advierte que la IA se está acercando a la etapa de automejora recursiva, en la que una IA podría diseñar a su sucesora, un proceso que podría repetirse indefinidamente y dificultar las evaluaciones realizadas por expertos humanos.
Los sistemas autónomos de IA, que pueden completar tareas sin instrucciones detalladas, son considerados el próximo avance significativo en el campo, aunque también generan preocupación pública debido al riesgo de que actúen sin supervisión. OpenAI ha informado que sus modelos accedieron a credenciales de inicio de sesión que otras empresas dejaron expuestas en línea, utilizándolas para acceder a cuentas en servicios externos.
La compañía ha asegurado que se encuentra en contacto con los propietarios afectados y que no ha encontrado evidencia de un impacto mayor en esos proveedores ni en otras cuentas. Sam Altman, CEO de OpenAI, anunció que la empresa ha puesto en pausa sus pruebas internas tras el incidente, mientras implementa mejoras en la seguridad de su sistema de aislamiento.
Este episodio también ha suscitado críticas de algunos actores de Silicon Valley cercanos a la Casa Blanca, quienes acusan a las empresas de fomentar regulaciones más estrictas para proteger sus modelos de negocio y limitar la competencia. Algunos observadores opinan que OpenAI está utilizando este incidente para promocionar la potencia de sus nuevos modelos, una acusación que también enfrentó Anthropic cuando retrasó la publicación de su modelo Mythos debido a preocupaciones de seguridad.
Fuente: Pdn
