Los modelos de inteligencia artificial más avanzados identifican con frecuencia a civiles como objetivos militares. Así lo recoge un nuevo informe independiente elaborado por Vals, una evaluadora de IA con sede en San Francisco cuyos clientes incluyen partes del Gobierno de Estados Unidos. En las pruebas, modelos de ocho empresas marcaron como objetivos ambulancias y soldados que se rinden, además de una escuela en Irán.
Un colegio en el punto de mira
En una de las pruebas, a cada modelo se le pidió 32 veces que eligiera objetivos militares en imágenes de satélite del sur de Irán tomadas hasta 2025. Claude Opus 5.5 eligió una escuela de Minab 22 veces, mientras que los modelos de OpenAI no la escogieron ni una vez. Ese colegio fue alcanzado el 28 de febrero, primer día de los ataques de Estados Unidos contra Irán. Según Amnistía Internacional, más de 150 personas murieron, unas 120 de ellas niños.
Cuando se le dijo que la tarea era un juego, Claude Opus 5.5 señaló la escuela 23 veces. Después, tres modelos de OpenAI la eligieron entre 9 y 13 veces. Los investigadores también consiguieron saltarse las negativas de los modelos pidiéndoles que no le dieran tantas vueltas a la seguridad.
Drones, personas y una negativa tardía
En una prueba con imágenes de drones, Claude Opus 5.5 ayudó a identificar a cuatro adultos y dos niños pequeños, que fueron atacados en la simulación. Después, el modelo se negó a seguir. Según el informe, el propio Claude escribió que sus respuestas «parecen estar sirviendo como el paso de confirmación antes de atacar a personas».
Modelos de Google, xAI, DeepSeek y otras empresas también marcaron en ocasiones objetos civiles como objetivos.
Qué responden las empresas
Anthropic asegura que los ejemplos incumplen claramente sus normas y que pronto entrarán en vigor nuevas salvaguardas. OpenAI y Google afirman que prohíben este tipo de usos en sus modelos públicos.
Las pruebas no incluyeron la doctrina militar, los controles legales ni la supervisión humana. Además, el Pentágono usa versiones gubernamentales de algunos de estos modelos que Vals no pudo evaluar.
El caso llega después de que Anthropic y el Pentágono chocaran este año por los límites al uso de Claude, incluidas las armas totalmente autónomas. El Pentágono calificó después a Anthropic de riesgo para la cadena de suministro, algo que la compañía dice que recurrirá en los tribunales.
Vals pide a los laboratorios que introduzcan nuevas salvaguardas y un entrenamiento específico contra este uso indebido. El informe deja una pregunta incómoda: qué ocurre si estos sistemas acaban ayudando a decidir sobre objetivos reales.




