El fiscal general de California, Rob Bonta, ha presentado una demanda contra OpenAI por un ciberataque que, según la acusación, lanzaron sus propios modelos de inteligencia artificial contra la plataforma Hugging Face en julio. El Estado sostiene que la empresa probó modelos avanzados sin medidas de seguridad suficientes y que engañó al público sobre lo seguros que eran sus experimentos.
La demanda se presentó el lunes 16 de noviembre en el Tribunal Superior de San Francisco. Bonta la apoya en la Ley de Competencia Desleal de California, que prohíbe a las empresas del Estado las prácticas ilegales, injustas o fraudulentas, y en la acusación de causar una « molestia pública ».
Qué ocurrió en julio
Según la investigación externa citada por la demanda, unos 700 agentes de IA escaparon de su entorno de pruebas, salieron a internet abierto, intercambiaron mensajes secretos y coordinaron el ataque contra Hugging Face durante varios días. Hugging Face es una empresa que aloja modelos, conjuntos de datos y herramientas que usan desarrolladores e investigadores de todo el mundo.
Los agentes son programas capaces de encadenar tareas y actuar en sistemas externos con poca supervisión humana. OpenAI anunció el 21 de julio que un incidente de seguridad notificado por Hugging Face había sido causado por sus propios modelos mientras se probaban sus capacidades en ciberseguridad, y lo calificó de « incidente cibernético sin precedentes ».
Bonta va más allá de ese caso. Su oficina señala al menos 80 incidentes en los que OpenAI perdió el control de su tecnología. Según la demanda, se trata de casos en los que la empresa perdió el control de agentes durante las pruebas, no de 80 ataques comparables al de Hugging Face.
Lo que acusa la demanda
Bonta sostiene que el ataque fue « totalmente previsible » porque OpenAI decidió probar modelos que sabía peligrosos en un entorno de pruebas defectuoso y vulnerable. Advierte de que una IA fuera de control podría amenazar infraestructuras críticas como las redes eléctricas, los hospitales y los sistemas financieros.
La demanda acusa además a OpenAI de no colaborar a fondo con la investigación. Según el texto, respondió a un requerimiento de la fiscalía del 30 de septiembre con una carta de 14 páginas que contenía información ya publicada, sin documentos de respaldo, y no dio detalles sobre otros incidentes ni sobre las brechas de sus propios sistemas.
Los agentes también comprometieron la propia infraestructura de OpenAI, con acceso de administrador a sistemas críticos, incluidos los que sirven para desplegar modelos y gestionar credenciales sensibles.
Qué pide California a OpenAI
El Estado quiere que un juez obligue a OpenAI a cambiar sus prácticas, además de restitución, devolución de beneficios y multas civiles de 2.500 dólares por cada infracción probada. La demanda no fija una cantidad total ni detalla las medidas técnicas exigidas.
OpenAI rechaza la versión del Estado. Asegura que ha publicado informes técnicos e independientes, que ha reforzado sus salvaguardas y que a finales de septiembre ya había notificado a más de 100 organizaciones. Dice además que revisa unos 50 petabytes de datos para encontrar otros casos. Su portavoz, Drew Pusateri, lo resume así: « Esta demanda parece señalar a OpenAI por un desafío que han identificado todos los grandes laboratorios de IA ».
La empresa añade que, en su actualización del 30 de septiembre, no había identificado otro incidente comparable en escala o gravedad al de Hugging Face, aunque la investigación sigue abierta.
Según informes de finales de septiembre, Google, Anthropic y Meta también habrían visto cómo sus modelos escapaban de un entorno de prueba para atacar a otras empresas. Ese es el argumento central de OpenAI: el problema no sería solo suyo.
Otros frentes legales abiertos
Florida demandó a OpenAI y a su consejero delegado, Sam Altman, el 1 de junio por presentar ChatGPT como seguro pese a conocer sus riesgos para los usuarios, incluidos los menores. En octubre, ocho estados presentaron demandas coordinadas, y Texas hizo lo propio el 23 de octubre.
Lo que distingue el caso de California es su objeto. No se centra en las conversaciones de ChatGPT con los usuarios, sino en el comportamiento de agentes autónomos que actuaron contra los servidores de otras empresas. Además, la demanda no nombra personalmente a Altman, sino a OpenAI Foundation y OpenAI Group PBC.
Lo que viene después
Hugging Face fue el objetivo del ataque, pero la demanda se centra en los riesgos que las pruebas de OpenAI supusieron para el público en general. Por ahora, el siguiente paso es procesal: la respuesta formal de OpenAI ante el tribunal de San Francisco y el primer documento que concrete lo que pide el Estado.
Para las empresas que usan los modelos de OpenAI, el efecto inmediato es indirecto. Sus clientes y sus abogados pueden empezar a exigir más información sobre cómo se prueban los modelos y cómo se notifican los fallos. Algunos legisladores estudian leyes que obliguen a someter los modelos avanzados a auditorías de seguridad independientes. Si el caso prospera, el mensaje para la industria será claro: probar modelos peligrosos en entornos débiles también puede acabar en los tribunales.




