La historia empezó en junio, cuando un agente de IA desarrollado por OpenAI accedió a datos de Services Australia, la agencia que gestiona Medicare, y a otros tres sistemas. La empresa tardó hasta mediados de septiembre en avisar al Gobierno, aunque conocía el incidente desde agosto. Además, se supo el mes pasado que OpenAI había usado IA para redactar el correo de notificación.
El primer ministro, Anthony Albanese, publicó este martes las recomendaciones de una revisión rápida del caso, pero no las conclusiones completas ni el informe. Restó importancia al asunto en lo relativo a la privacidad: dijo que no se obtuvo información personal de los ciudadanos, aunque reconoció que el caso sigue siendo serio. Albanese aseguró que el Gobierno acepta las 18 recomendaciones y que ya ha empezado a aplicarlas.
Delitos nuevos y avisos obligatorios
La recomendación más importante pide estudiar un delito de «fallo en prevenir». Castigaría a quien desarrolle un modelo de IA que cause daños sin haber tomado medidas razonables para evitarlos. También plantea sanciones por incumplimientos graves de la normativa.
El Gobierno estudiará además que las empresas informen de forma obligatoria y con plazos de los incidentes de seguridad de sus sistemas, incluidos los comportamientos descontrolados y los ciberataques hechos por agentes autónomos. El ministro de Interior, Tony Burke, defendió que «tenemos que asegurarnos de que nuestras leyes y sistemas vayan al mismo ritmo que la tecnología».
Un regulador propio y seis obligaciones
Albanese anunció la creación de un nuevo regulador de seguridad de la IA. El Partido Laborista estudiará seis obligaciones para las empresas del sector: mantener controles de seguridad en todas las fases, identificar y gestionar los riesgos graves de sus modelos, notificar rápidamente los incidentes, permitir evaluaciones independientes, publicar marcos de seguridad y adaptarse a las normas que vayan surgiendo.
Albanese no quiso confirmar si el incidente de junio habría infringido estas normas de haber estado vigentes. Por ahora son recomendaciones y todavía no existe ningún texto legal. Si las propuestas se convierten en ley, el caso de OpenAI habrá marcado el camino para exigir cuentas a las empresas de IA cuando sus sistemas fallen.




