Google DeepMind afirma haber probado con matemáticas que varias piezas esenciales del software de cifrado de Signal funcionan como tienen que funcionar, y lo ha logrado con agentes de IA. Ese protocolo es el que mantiene en secreto los mensajes de Signal y de Google Messages, y también está detrás del cifrado de WhatsApp. DeepMind lo celebra como un avance importante para la seguridad del software, aunque sus propios investigadores matizan que se trata de un primer paso.
Una verificación formal demuestra con matemáticas, y no mediante pruebas sueltas, que un programa hace exactamente lo previsto. Es el método más fiable que existe para dar garantías de seguridad, aunque suele ser lento y exige mucho esfuerzo manual. Hasta ahora, casi todo el trabajo de este tipo se limitaba a revisar el diseño sobre el papel, sin llegar al programa real. DeepMind asegura que su sistema ha ido más allá y ha comprobado la implementación real, que es precisamente donde suelen esconderse los errores del mundo real.
La compañía dice que es la primera vez que la implementación de un protocolo ampliamente desplegado como este ha sido verificada formalmente por cualquier método, con o sin IA.
Cómo funciona el sistema
El sistema se llama AlphaProof Code y combina varios modelos de IA con expertos humanos. Primero, investigadores de DeepMind y varios modelos traducieron los objetivos de seguridad de Signal a especificaciones formales, y personas expertas revisaron cada una. Después, los agentes, impulsados por el modelo Gemini Carbon, escribieron las pruebas: más de seis millones de líneas en Lean, un lenguaje que permite a un ordenador comprobar las pruebas de forma automática.
Después, los propios agentes auditaron su trabajo y señalaron aproximadamente el 1% del código que necesitaba una segunda revisión humana. DeepMind dice que todo el proceso llevó cuatro semanas, cuando esta tarea suele requerir años de trabajo de equipos expertos. Las pruebas cubren propiedades como mantener los mensajes protegidos antes y después de que un dispositivo sea comprometido de forma temporal.
¿Encuentra errores de verdad?
El análisis no encontró nuevas vulnerabilidades en las partes de Signal revisadas. Para comprobar si el sistema distingue el buen código del malo, el equipo reintrodujo dos errores reales que ya estaban corregidos en una versión aislada del código. En ambos casos, según DeepMind, el sistema generó una prueba verificada por máquina de que la versión con errores no era segura.
Eso sí, el proyecto no verificó toda la aplicación móvil de Signal. DeepMind partió con ventaja gracias a un trabajo previo de verificación formal de la Signal Foundation. Ehren Kret, director de tecnología de Signal, explicó que ese trabajo anterior «se centró en porciones más pequeñas del código», mientras que el enfoque de DeepMind «permite una expansión significativa». Añadió que, a medida que crecen las amenazas de seguridad impulsadas por la IA, la verificación le da a Signal «aún mayor confianza» en sus garantías de privacidad.
Una IA que no se examina a sí misma
Los investigadores quieren evitar un escenario en el que la IA escriba tanto los objetivos como las pruebas. «No queremos este tipo de mundo de sensaciones en el que la IA genera los objetivos y la IA genera las pruebas y básicamente toma exámenes que están autoescritos», afirmaba Swarat Chaudhuri, científico investigador de DeepMind. «Hay un término medio». Por eso, las personas revisaron las especificaciones y las secciones marcadas por la IA.
Preguntas abiertas
No está claro si este método puede escalar ni a qué coste. DeepMind hizo el análisis de Signal de forma gratuita, como proyecto de investigación, pero no ha revelado cuánto costó ni si planea vender una herramienta de verificación comercial. «Hay un largo trecho por recorrer antes de que podamos escalar esto a todo el software del mundo, y queremos hacerlo», dijo Chaudhuri.
DeepMind anuncia que publicará el código fuente de sus artefactos de verificación para la comunidad. La compañía sugiere que el enfoque podría llegar en el futuro a sistemas como el firmware de dispositivos médicos o el software de la red eléctrica. Si funciona fuera del laboratorio, la seguridad de las aplicaciones que usamos a diario podría comprobarse con mucha más exigencia de la que tiene hoy.




