La ONU decide si negocia reglas para los robots asesinos y los drones autónomos

Los delegados de 128 países se reúnen en Ginebra hasta el viernes para decidir si arrancan negociaciones sobre armas que podrían atacar sin control humano. Rusia y Estados Unidos quieren evitar restricciones.

La ONU decide si negocia reglas para los robots asesinos y los drones autónomos

Los países deciden esta semana en Ginebra si empiezan a negociar normas internacionales para las armas autónomas, los llamados «robots asesinos» y drones capaces de elegir y atacar objetivos por sí solos. Ginebra acoge la séptima revisión de la Convención sobre Ciertas Armas Convencionales, que durará hasta el 20 de noviembre con Julien Thöni, embajador de Suiza, al frente.

Para el papa León XIV, para António Guterres y para numerosas organizaciones de derechos humanos, la cuestión toca lo esencial: hasta dónde puede llegar una máquina con poder de matar y qué parte del control y la responsabilidad debe seguir en manos humanas. En su primera encíclica, en mayo, el papa denunció la «cultura de poder» que impulsa la carrera de la IA y afirmó que no es admisible dejar decisiones de vida o muerte en manos de sistemas de IA a distancia.

Drones ya usados en conflictos

Los activistas aseguran que drones armados capaces de atacar objetivos sin órdenes directas ya se han desplegado en algunos casos en zonas de conflicto como Ucrania y Oriente Medio, aunque todavía no se usan de forma masiva. Los escenarios más temidos, como drones que atacan civiles con precisión, llevan años en las discusiones, pero hasta ahora esas conversaciones no han dado lugar a ninguna restricción internacional.

Anna Hehir, responsable de gobernanza de la IA militar en el Future of Life Institute, un grupo de defensa, considera que el momento es decisivo porque estas armas aún no están generalizadas: hay casos aislados, pero no un despliegue completo. Según ella, esperar a que estos sistemas lleven años en uso complicará mucho escribir normas.

Siete países piden empezar a negociar

Hace un mes, siete países (Austria, Bélgica, Brasil, Irlanda, México, Nueva Zelanda y Panamá) pidieron abrir en la conferencia negociaciones para un acuerdo nuevo y de obligado cumplimiento sobre armas autónomas. Los partidarios recuerdan que existe un precedente: los gobiernos ya pactaron regular los láseres cegadores. Según Stop Killer Robots, un grupo activista, 130 países apoyan nuevas normas internacionales sobre estas armas.

La mayoría de los países quiere poner freno a estos sistemas, y el plazo que fijó Guterres para lanzar las conversaciones da urgencia al asunto. Pero algunas grandes potencias militares se muestran reticentes. Estados Unidos y Rusia, rivales de siempre, quieren que cualquier límite no frene su capacidad para desarrollar y desplegar nuevas herramientas en una carrera armamentística de alta tecnología que la IA está acelerando.

Un acuerdo por consenso, difícil de alcanzar

La convención exige que las decisiones se tomen por consenso, lo que significa que cualquier país puede bloquear un acuerdo. Además, cualquier pacto probablemente sería poco ambicioso, y otra dificultad es cuánto tiempo se da a los negociadores para intentar pactar un texto. Organizaciones humanitarias y grupos activistas afirman que Rusia parece dispuesta a usar tácticas para frenar o incluso paralizar el avance hacia negociaciones formales.

La portavoz del Ministerio de Exteriores ruso, Maria Zakharova, dijo el miércoles a la prensa que Moscú concede gran importancia al éxito de la conferencia, pero quiere que antes se resuelvan «cuestiones organizativas» y que el proceso esté «libre de politización». Sobre el fondo fue más tajante: «Consideramos prematuro argumentar que supuestamente ha llegado el momento de desarrollar medidas restrictivas o prohibitivas» para estos sistemas.

El Comité Internacional de la Cruz Roja también ha pedido actuar. Su presidenta, Mirjana Spoljaric, afirmó: «Los Estados deben actuar para que el futuro de la guerra no quede en manos de máquinas». La decisión de esta semana marcará si el mundo empieza a escribir reglas antes de que estas armas se generalicen.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.