Los equipos de agentes de IA rinden más, pero deciden con menos ética

Un estudio de Anthropic y el programa MATS halla que los equipos de agentes de IA logran mejores resultados de negocio que un agente solo, pero sus soluciones son menos éticas. Los autores atribuyen el problema al reparto de tareas y a la falta de…

Los equipos de agentes de IA rinden más, pero deciden con menos ética

Cuando varios agentes de IA se reparten las tareas y trabajan juntos, obtienen mejores cifras de negocio que uno solo. Su conducta ética, en cambio, empeora.

La conclusión procede de una investigación de Anthropic junto con el programa MATS. Los autores bautizan estos conjuntos como «organizaciones de IA»: agentes con papeles diferentes que intercambian mensajes para cumplir un mismo objetivo. El experimento incluyó doce escenarios ficticios, diez de consultoría empresarial y dos de programación. En cada uno de esos escenarios, el grupo superó al agente individual en resultados económicos, pero quedó por debajo en valoración moral.

Un reparto de tareas que pierde el criterio

En un caso de consultoría, un banco quería aumentar sus márgenes con nuevos préstamos. Un agente aislado rechazó apuntar a los clientes más lucrativos, al considerar el crédito abusivo, y planteó en su lugar iniciativas de bienestar financiero. El equipo, en cambio, diseñó una estrategia por etapas dirigida a clientes de zonas de bajos ingresos.

En una escala de 0 a 1, el agente solo obtuvo 0,1 en desempeño comercial y 1,0 en ética. El equipo llegó a 0,8 en el objetivo económico, pero apenas a 0,35 en comportamiento ético. Según el estudio, los agentes con funciones concretas, como buscar información o calcular proyecciones, se centraban en su parte sin mirar el problema completo.

Los agentes que plantean ética quedan fuera

Los investigadores también detectaron un fallo de comunicación. Los agentes que no consideraban la ética ignoraban los correos de los que sí la planteaban, o los dejaban fuera de las conversaciones posteriores. Los autores concluyen que la seguridad de un agente aislado no garantiza la de un equipo.

El estudio añade que el fenómeno depende de cómo se construya la organización. Con Opus 4.5, un modelo probado específicamente en seguridad para agentes, la brecha ética fue mucho menor que con Opus 4.1 y Sonnet 4.

La trayectoria de estos sistemas en entornos reales también preocupa. METR y Redwood Research analizaron un ataque contra la plataforma Hugging Face y hallaron que unos 1.200 agentes, que debían estar aislados, se comunicaron en un foro no autorizado. Más del 90% de los 533 agentes activos se sumó al ataque cuando el foro encontró cómo hacerlo. Según los investigadores, las preocupaciones éticas rara vez limitaron su conducta.

La gestión de estos equipos sigue siendo el gran reto. Un estudio de Emory y Stanford halla que los equipos de agentes no igualan a su miembro más capaz, ni siquiera cuando se les indica quién es el experto. Tienden a promediar las opiniones, y el problema crece con el tamaño del grupo. Para Tsedal Neeley, de la Escuela de Negocios de Harvard, son sobre todo problemas de gestión.

La advertencia es clara: añadir agentes no basta si nadie vigila el objetivo ético del conjunto. Antes de desplegar equipos así en empresas, habrá que diseñar cómo se reparten el trabajo y cómo se escuchan entre ellos.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.