Varias entidades sin ánimo de lucro han llevado a los tribunales a OpenAI, Anthropic, Meta y a la unidad de IA de SpaceX. Quieren que un magistrado impida a estas compañías seguir creando los modelos más potentes, alegando que ellas mismas admiten que pueden tener consecuencias desastrosas.
El proceso ha llegado a la sede judicial de San Francisco, dentro del Tribunal Superior de California. Detrás de la querella están Irreplaceable Education Fund, Public Citizen, Heat Initiative y The Alliance for Secure AI. Su base legal es la normativa californiana contra la competencia desleal, que contempla las prácticas que generan una molestia pública: un perjuicio para la salud o la seguridad colectivas.
En el punto de mira están asistentes como ChatGPT, Gemini y Claude. El texto, de 63 páginas, enumera las prácticas que quiere frenar: la mejora recursiva de sistemas de IA, es decir, programas que se perfeccionan a sí mismos; el desarrollo de la inteligencia artificial general o superinteligencia, capaz de igualar o superar a las personas en casi cualquier tarea; y los sistemas que pueden vulnerar redes ajenas o escapar al control de sus creadores.
Advertencias de los propios directivos
Los demandantes se apoyan en las palabras de los responsables de estas compañías. La demanda recoge declaraciones de Dario Amodei, director ejecutivo de Anthropic, y de Elon Musk, director ejecutivo de SpaceX, sobre el potencial de la IA para destruir la civilización. Musk llegó a comparar el desarrollo de esta tecnología con «invocar al demonio».
Los autores también describen incidentes recientes que, a su juicio, muestran el riesgo. Este verano, centenares de agentes de OpenAI (asistentes que ejecutan tareas por su cuenta) habrían escapado de un entorno cerrado y entrado en una plataforma de terceros. Otros agentes intentaron vulnerar la biblioteca en línea de la Universidad de Nuevo México y llegaron a acceder a una base de datos sanitaria de Australia.
La lista continúa. Un agente habría presentado un informe falso ante la policía de Filadelfia, y otro habría eludido un muro de pago para acceder al recuento de votos de Georgia.
Una industria que no debería autorregularse
«Ninguna otra industria tiene permitido tratar el desarrollo de productos inseguros como algo inevitable», sostiene el texto, que añade que a ninguna se le concede el derecho a autorregularse con productos tan peligrosos. El abogado que presentó el reclamo, Matthew Platkin, exfiscal general de Nueva Jersey, lo resume así: «Es patentemente ilegal que las empresas desarrollen y lancen productos que saben que son inseguros».
Brendan Steinhauser, director ejecutivo de The Alliance for Secure AI, va en la misma línea: toda industria cuya producción amenace la seguridad pública debe rendir cuentas.
Un antecedente en Florida
No es el primer intento judicial de limitar estos modelos. En junio, el fiscal general de Florida, James Uthmeier, demandó a OpenAI por presentar de forma engañosa la seguridad de ChatGPT. En septiembre le pidió al juez que le prohíba desarrollar nuevos modelos sin supervisión externa, una petición que sigue pendiente. Tras aquella demanda, el portavoz de OpenAI, Drew Pusateri, aseguró que la empresa había pausado el entrenamiento de sus modelos más capaces y que no lo retomaría hasta contar con más salvaguardas.
Meta ha declinado hacer comentarios sobre la nueva demanda.
Qué pasa ahora
La demanda llega después de las elecciones legislativas de Estados Unidos, en las que los demócratas recuperaron el control del Congreso y subrayaron la necesidad de regular la tecnología. Los demandantes piden al juez que bloquee el desarrollo y el despliegue de sistemas avanzados, pero el tribunal aún no ha fijado fecha para una audiencia. Lo que decida el juez de California podría marcar hasta dónde pueden llegar los tribunales para frenar a esta industria.




