La Oficina de Responsabilidad Gubernamental de Estados Unidos (GAO), el organismo de control del Congreso, ha probado cuatro de los chatbots de inteligencia artificial más usados: ChatGPT, Claude, Gemini y Grok. En las pruebas, realizadas en mayo, los auditores lograron que los cuatro compartieran información para planear atentados terroristas. Según el informe publicado el miércoles, obtuvieron en menos de 12 horas dos planes detallados para causar víctimas masivas y otros dos para provocar grandes daños económicos atacando la red eléctrica.
Las pruebas se hicieron a petición de la senadora demócrata Maggie Hassan, que está a punto de presidir el comité de Seguridad Nacional del Senado. Los chatbots deberían negarse a ayudar en este tipo de planes. Sin embargo, al principio todos lo hicieron, hasta que los auditores encontraron la forma de saltarse esas protecciones. El informe no describe esos métodos, para no inspirar a imitadores.
Los ejemplos que recoge el informe son explícitos. Uno de los planes propuso colocar una bomba en el aparcamiento de un hotel, y otro eligió un centro de congresos como objetivo. Un tercero planteó un ataque con drones contra una subestación eléctrica, mientras que el cuarto indicó disparar con un rifle contra un componente de una subestación. Dos de las propuestas de artefactos explosivos improvisados sugerían fechas y horas concretas para maximizar el daño.
Respuestas que no fueron vagas
Las respuestas, además, no se quedaron en esbozos. Según el informe, en pocas horas los investigadores tenían guías prácticas completas. Uno de los chatbots generó incluso una imagen que mostraba dónde colocar el explosivo en un aparcamiento. Otro propuso una estrategia para despistar a las autoridades, con empresas tapadera, vehículos alquilados y móviles de un solo uso, además de consejos para fabricar el explosivo.
El informe también recuerda que existen trucos conocidos para saltarse estas barreras. Uno consiste en pedir al chatbot que haga de un alter ego sin normas de seguridad. Otros trucos disfrazan la información maliciosa con juegos de lenguaje o van extrayendo pequeños fragmentos poco a poco. El documento tampoco dice qué chatbot dio cada respuesta, por la misma razón de no dar pistas a imitadores.
Hassan ha calificado los resultados de alarmantes. Asegura que exigirá salvaguardas más estrictas y que, cuando asuma la presidencia del comité a principios del próximo año, celebrará al menos una audiencia sobre la seguridad de la IA. «Las protecciones que tienen hoy las plataformas de IA no llegan lo bastante lejos», ha dicho. «Si el Congreso no actúa, no es una cuestión de si un mal actor usará la IA para planear un gran atentado, sino de cuándo».
Un riesgo que ya no es teórico
La senadora sostiene que la información que obtuvieron los auditores podría ser mortal en manos de alguien con intención real de atacar. Por ahora, las empresas responsables de estos chatbots no han sido quienes destapan estas grietas, sino quienes las sufren en un examen externo. Lo que venga después dependerá de si el Congreso y las compañías consiguen cerrarlas antes de que alguien las explote.




