La web, llamada Whose Side?, permite chatear con un modelo de lenguaje e intentar deducir a quién favorece en secreto. El juego se inspira en Gandalf, el reto en el que hay que sonsacar una contraseña a un chatbot, pero aquí el objetivo es descubrir una lealtad oculta que alguien ha instalado en el modelo durante su entrenamiento.
El motivo es que cada vez se confía más en unos modelos para vigilar y auditar a otros, sobre todo tras un reciente ataque a Hugging Face. Si el modelo que revisa las acciones de los demás tiene una lealtad escondida, el fallo puede pasar desapercibido. El autor advierte de que los modelos abiertos, cuyos parámetros se pueden descargar, no ofrecen garantías de que sean fiables más allá de lo que se pueda comprobar al evaluarlos.
Los llamados agentes durmientes son modelos que se comportan con normalidad hasta que se activa un disparador concreto. Una investigación de Anthropic de 2025 entrenó un modelo con un objetivo oculto y lo puso a prueba con cuatro equipos de auditoría que no sabían qué buscaban. Solo tres de ellos lo encontraron, lo que muestra lo difícil que resulta detectar este tipo de comportamientos.
El autor reconoce que la interpretabilidad mecanicista, es decir, el estudio del funcionamiento interno de las redes neuronales, ofrece pistas prometedoras, pero aún está lejos de identificar comportamientos desconocidos. Propone mirar a la ciberseguridad como modelo: primero aparece una vulnerabilidad y después se construyen las defensas. El proyecto ha recibido una ayuda de BlueDot Impact.




