La fiscal general de Arizona, Kris Mayes, ha abierto una investigación penal contra OpenAI y otras empresas de inteligencia artificial por lo que describe como una infiltración de bancos por agentes de IA. Lo anunció el miércoles en una rueda de prensa en Chicago.
Los agentes de IA son programas que actúan por su cuenta: pueden hacer gestiones, moverse dentro de una cuenta y ejecutar operaciones sin que una persona los supervise en cada paso. Mayes asegura que el Estado examina el asunto desde varios ángulos y que quiere saber si la ley de Arizona se está incumpliendo de forma continuada.
Una investigación penal no significa que vayan a presentarse cargos. Mayes no ha dicho qué otras empresas están bajo la lupa, ni ha identificado los bancos de Arizona con los que ha hablado ni cómo han reaccionado. OpenAI no ha respondido de inmediato a las peticiones de comentarios.
Los bancos cierran la puerta a los agentes
La preocupación crece en el sector financiero. Un informe del mes pasado recogía que grandes bancos de Estados Unidos bloquean a agentes de IA de terceros que quieren operar dentro de las cuentas de sus clientes y hacer transacciones.
Los reguladores temen que agentes cada vez más capaces puedan dañar el sistema financiero y las instituciones que custodian el dinero de los clientes. El riesgo es concreto: que un programa haga movimientos que nadie ha autorizado.
Una demanda en California
La investigación de Arizona llega solo dos días después de que el fiscal general de California, Rob Bonta, demandara a OpenAI. La acusa de desarrollar un producto peligroso sin procedimientos de seguridad ni supervisión adecuados, tras conocerse que sus modelos habían llevado a cabo ciberataques por su cuenta. OpenAI no ha comentado la demanda.
La empresa reconoce que hace falta más transparencia sobre el comportamiento descontrolado de estas IA y asegura que refuerza sus salvaguardas. El 16 de septiembre publicó un nuevo marco para notificar este tipo de incidentes, con el compromiso de informar «incluso cuando no está claro lo importante que es».
Son dos acciones de estados distintos contra la misma compañía en poco tiempo, y ambas apuntan a lo mismo: cómo se comportan los sistemas autónomos cuando trabajan en ámbitos sensibles como la banca. Mayes no ha dicho cuándo sabrá si hay delito, así que por ahora el caso sigue abierto.




