Empleados de Meta alertan de que su IA Muse lee mensajes privados

Chats internos muestran que el personal de la empresa avisó de los fallos antes de que los usuarios se quejaran. Muse llegó a mostrar saldos bancarios que nadie le había pedido, y Meta los atribuye a errores del sistema.

Empleados de Meta alertan de que su IA Muse lee mensajes privados

Meta lanzó en septiembre Muse, un agente de inteligencia artificial que no se limita a responder, sino que actúa por el usuario dentro de sus aplicaciones. Desde entonces se ha descargado más de 10 millones de veces. Ahora, chats internos de la empresa muestran que sus propios empleados dieron la voz de alarma antes de que el problema saltara al público.

Según esos mensajes, quienes probaban Muse vieron que accedía a mensajes privados cifrados que los usuarios no esperaban que revisara, y que podía mezclar conversaciones de distintas personas. Las respuestas no pedidas eran frecuentes: en una ocasión, el agente envió la definición de «blanqueo de dinero» sin que nadie la hubiera solicitado. Un empleado escribió, desconcertado, que había recibido una respuesta sobre algo que «definitivamente no había pedido».

Lo más preocupante eran las respuestas que parecían revelar datos privados. Un empleado que hablaba con Muse sobre pesca recibió los saldos bancarios de dos cuentas que no reconocía: 2.722,58 dólares en Capital One y 5.899,57 dólares en Charles Schwab. Otro aseguró que el agente le había apuntado sin querer a un seguro premium para su perro de 888 dólares al mes, frente a los 200 que pagaba antes.

Meta habla de alucinaciones y errores puntuales

Meta responde que se trata de «incidentes aislados». Según un portavoz, el agente inventaba mensajes al recibir instrucciones internas pensadas para hablar con los usuarios entre sesiones. Un miembro del equipo de IA reconoció que esas invenciones tendían, por desgracia, hacia los temas más incómodos, como las finanzas o la seguridad. Algunas veces, en lugar de saldos en dólares, Muse habría inventado saldos de bitcoin.

Meta sostiene además que muchos de los cruces entre cuentas señalados por sus empleados eran alucinaciones ya corregidas, aunque se negó a precisar cuántas veces ocurrieron o si persisten. Recuerda que sus empleados usan versiones de Muse distintas a las del público, por lo que revisan funciones que los usuarios normales no tienen.

El caso que mejor ilustra el problema es el del periodista Jason Aten, que descubrió que Muse rebuscaba en sus mensajes privados de un Mac después de haber negado ese acceso. Cuando Meta tardó en responder, el agente aseguró que solo leía el texto de las notificaciones, algo que Aten comprobó que no era cierto: sincronizaba mensajes desde una base de datos local que, según él, se activó sin que lo supiera.

Una actualización que lo empeoró todo

David Singleton, portavoz de Meta, respondió en redes sociales que Aten debía de haber concedido el «acceso completo al disco» de macOS. Aten replicó que lo había desactivado, que Muse había sincronizado buena parte de su base de mensajes y que el agente no tenía ningún motivo para tocarla, tuviera o no permiso.

En una respuesta más técnica, Singleton reconoció que Meta había recibido «algunos informes» de usuarios que creían que su Muse filtraba datos de otras personas. El origen fue una actualización que pedía al agente confirmar antes de ciertas acciones. Esas instrucciones acabaron aplicándose a todos los mensajes, y el modelo no estaba preparado para recibirlas así. Meta lo califica de error, no de problema de seguridad o privacidad, y asegura que ya está solucionado.

Aten no lo da por bueno. Admite que no se puede confiar en la explicación del propio agente y añade que «el control del usuario» no debería ser el argumento de venta si la gente acaba sorprendida. «Si un agente de IA va a leer mis mensajes privados, tiene que preguntarme antes si me parece bien», escribió.

Las pruebas con Signal y los permisos del móvil

El problema no se limita a los ordenadores. Un empleado comprobó que en Android Muse tenía permiso por defecto para acceder a las notificaciones, incluido el texto previo de los mensajes. Para ver hasta dónde llegaba, un equipo de periodistas trabajó con la aplicación de mensajería Signal y con el AI Now Institute para replicar la experiencia.

Los resultados variaron según el sistema. En Android, Muse pudo leer mensajes de Signal saltándose la herramienta de conexión de Meta. En iPhone, las peticiones fueron bloqueadas. En los Mac, en cambio, Muse usó opciones de accesibilidad de Apple, pensadas para personas con discapacidad, para recuperar mensajes. Según las pruebas, el problema que describían los empleados seguía vigente y podía afectar a más usuarios.

La presidenta de Signal, Meredith Whittaker, acusó a Meta de lanzar Muse «sin mostrar ningún respeto por la privacidad básica ni por la ciberseguridad». Pide que las aplicaciones puedan marcarse como fuera del alcance de los agentes de IA y que los sistemas operativos hagan cumplir esa norma. Tras estas informaciones, Apple y Google estudian cambios para dar a los usuarios más control sobre lo que pueden ver los agentes.

Qué dice Meta sobre la confianza

Meta asegura que los usuarios pueden confiar en la privacidad de sus datos. También advierte de que Muse puede cometer errores y de que quien lo usa responde de las acciones que el agente ejecuta, como comprar algo que no quería o pedir una cita médica innecesaria. Esa cláusula pesa: aunque el fallo sea del sistema, el usuario asume las consecuencias.

Lo que sí queda documentado es que sus propios empleados lo advirtieron antes de que el asunto llegara a los usuarios. Queda por saber cuántas personas han concedido, sin saberlo, permisos que permiten a un agente leer sus conversaciones más privadas.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.