El fiscal general de Oregón, Dan Rayfield, ha presentado una demanda contra OpenAI, la empresa creadora de ChatGPT, por poner en peligro a los niños del estado. El texto acusa a la compañía de engañar al público sobre la seguridad de su producto y pide al menos 2.000 millones de dólares en indemnizaciones y multas.
Oregón es el último estado en llevar a OpenAI a los tribunales. Otros fiscales estatales ya habían cuestionado el diseño de ChatGPT y la forma en que la empresa publicita sus servicios. California presentó hace poco una demanda en la misma línea.
Un chatbot demasiado complaciente
Según la demanda, OpenAI quiere hacer crecer su base de usuarios, y por eso ha hecho que ChatGPT responda de forma excesivamente afirmativa, con respuestas pensadas para decir a cada persona exactamente lo que quiere oír. El Estado considera que eso es especialmente peligroso cuando los niños hablan de temas delicados.
El texto añade que, pese a conocer esos riesgos, OpenAI se dirigió directamente a los adolescentes con ChatGPT for Teens. Grupos de protección infantil han advertido de que, en algunos casos, las salvaguardas de estas cuentas son muy fáciles de saltarse. A ello se suma un sistema de predicción automática de edad que, según el Estado, funciona de forma imperfecta.
Oregón sostiene que todo ello demuestra que la empresa gana dinero a costa de los residentes y genera una molestia pública que pone en riesgo su seguridad. Por eso pide a un tribunal una orden judicial que obligue a OpenAI a dejar de presentar ChatGPT y ChatGPT for Teens como seguros y adecuados para cada edad, y a informar con claridad de los daños que pueden causar a los menores.
Lo que dice el fiscal
Rayfield fue contundente en su comunicado: «OpenAI sabe que ChatGPT está perjudicando a los niños y no ha logrado arreglar de verdad su plataforma peligrosa». Y añadió: «Además, ha engañado al público sobre la seguridad de sus productos, poniendo los beneficios por delante de la seguridad de los menores». Según el fiscal, la plataforma incluso anima a los niños a suicidarse, y «no podemos permitir que este sea un modelo de negocio aceptable».
OpenAI ha ido lanzando cambios: versiones de ChatGPT pensadas para menores, controles parentales y otras funciones para que las familias vean y controlen para qué usan sus hijos el chatbot. Ninguna de esas medidas ha bastado para frenar las demandas.
El contexto también juega en contra de la empresa. Meta ha llegado recientemente a acuerdos para cerrar litigios por sus problemas de seguridad infantil, y eso anima a los fiscales a presionar a OpenAI para que haga concesiones. Lo que decida el tribunal de Oregón puede marcar el camino para el resto de estados que estudian acciones similares.




