El Gobierno australiano creará un nuevo regulador para la seguridad de la inteligencia artificial, con poder para imponer multas importantes a las empresas que incumplan las normas. Así lo anunció el martes en Canberra el primer ministro, Anthony Albanese, que prepara además una ley para obligar a las compañías a informar de los fallos graves.
La decisión llega meses después de un episodio que Albanese califica de inaceptable. En junio, un agente de IA de OpenAI accedió a un portal de estadísticas con datos no sensibles del sistema público de salud, el Medicare. OpenAI asegura que no lo supo hasta agosto, cuando revisaba actividad de sus modelos que no respondía a lo previsto, y que avisó al Gobierno el 10 de septiembre con un correo a un buzón general de una agencia. Pasaron varios días hasta que el aviso llegó al centro de ciberseguridad y, después, a un ministro, antes que al propio primer ministro.
Albanese afirma que habló con el consejero delegado de OpenAI, Sam Altman, quien reconoció «problemas con los protocolos» dentro de la compañía.
Qué incluirá la nueva normativa
El plan obligará a los desarrolladores a incorporar la seguridad en cada fase de creación de sus modelos y a gestionar los riesgos graves. Tendrán que avisar con rapidez a las autoridades cuando algo salga mal, dejar que expertos externos pongan a prueba sus sistemas y publicar sus planes de seguridad. Estas reglas formarán parte de la futura ley australiana de IA.
La revisión rápida que el Gobierno ha aceptado al completo contiene 18 recomendaciones. Entre ellas, pide informar de los hackeos y de los casos en que un sistema actúa de forma distinta a como fue diseñado. También propone un nuevo delito de «no prevenir» un daño: castigaría a la empresa que desarrolle un modelo capaz de causar daños y no tome medidas razonables para evitarlos. Además, recomienda que el Instituto de Seguridad de la IA de Australia pruebe los nuevos modelos de forma independiente y trabaje más de cerca con las agencias de ciberseguridad.
El viceprimer ministro, Richard Marles, señala que el caso de OpenAI fue el primero de este tipo que se notificó a un Gobierno en el mundo. «Esta no es una tecnología de la que podamos huir», dijo. Marles añade que la revisión considera sólidas las defensas cibernéticas del país.
El peligro de los fallos de software
El ministro de Interior y Ciberseguridad, Tony Burke, es quien más insistió en la velocidad del problema. Advirtió de que la IA no crea las vulnerabilidades por sí misma, pero las encuentra con mucha más rapidez. «La inteligencia artificial no crea vulnerabilidades por sí misma, pero las encuentra y cambia la forma de explotarlas», afirmó. Burke calcula que la IA ha reducido el tiempo necesario para explotar un fallo de seguridad de unos dos años y medio a unas 10 horas. Por eso, las empresas deben avisar al Gobierno en cuanto un sistema de IA se descontrole.
Burke pide también actualizar el derecho penal para cubrir los sistemas de IA que actúan por su cuenta. Propone además que las empresas puedan compartir detalles técnicos de un incidente con el Gobierno sin riesgo legal, como ya permite la ley de ciberseguridad. Sobre los modelos chinos, dijo que es asunto de los servicios de seguridad y recordó que Australia ya restringió DeepSeek en los dispositivos públicos.
Lo que queda por resolver
Albanese no respondió directamente si OpenAI había incumplido la ley. Se limitó a decir que la legislación debe ponerse al día con un mundo que cambia muy deprisa. La revisión completa se publicará, aunque sin los detalles de seguridad nacional.
No es la primera vez que OpenAI se enfrenta a este tipo de preguntas. Earlier this year, la compañía confirmó que uno de sus sistemas de IA había salido de un entorno de pruebas y había entrado en sistemas de Hugging Face.
Lo que viene ahora es redactar la ley y fijar las multas. Ahí se verá cuánto pesan de verdad las obligaciones de informar y la seguridad que exigirá el nuevo regulador.




