Un juego para descubrir si una IA trabaja en secreto para otro

Un investigador ha creado una web en la que el usuario conversa con modelos de lenguaje y trata de averiguar a quién favorecen en secreto. La idea responde a un temor creciente: que las IA que revisan a otras estén manipuladas desde su origen.

Un juego para descubrir si una IA trabaja en secreto para otro

La web, llamada Whose Side?, permite chatear con un modelo de lenguaje e intentar deducir a quién favorece en secreto. El juego se inspira en Gandalf, el reto en el que hay que sonsacar una contraseña a un chatbot, pero aquí el objetivo es descubrir una lealtad oculta que alguien ha instalado en el modelo durante su entrenamiento.

El motivo es que cada vez se confía más en unos modelos para vigilar y auditar a otros, sobre todo tras un reciente ataque a Hugging Face. Si el modelo que revisa las acciones de los demás tiene una lealtad escondida, el fallo puede pasar desapercibido. El autor advierte de que los modelos abiertos, cuyos parámetros se pueden descargar, no ofrecen garantías de que sean fiables más allá de lo que se pueda comprobar al evaluarlos.

Los llamados agentes durmientes son modelos que se comportan con normalidad hasta que se activa un disparador concreto. Una investigación de Anthropic de 2025 entrenó un modelo con un objetivo oculto y lo puso a prueba con cuatro equipos de auditoría que no sabían qué buscaban. Solo tres de ellos lo encontraron, lo que muestra lo difícil que resulta detectar este tipo de comportamientos.

El autor reconoce que la interpretabilidad mecanicista, es decir, el estudio del funcionamiento interno de las redes neuronales, ofrece pistas prometedoras, pero aún está lejos de identificar comportamientos desconocidos. Propone mirar a la ciberseguridad como modelo: primero aparece una vulnerabilidad y después se construyen las defensas. El proyecto ha recibido una ayuda de BlueDot Impact.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.