Muse, el agente de inteligencia artificial que Meta lanzó en septiembre para hacer compras, gestionar reservas y resolver otras tareas digitales, quedó bajo la lupa por el alcance de sus permisos. Una investigación comprobó que el asistente pudo acceder al contenido de mensajes de Signal en dispositivos Android y computadoras Mac, incluso cuando la aplicación de mensajería no había sido vinculada directamente al agente.
La investigación partió de reportes internos de empleados de Meta. Una trabajadora contó que Muse le había sugerido responderle a su hermana por Signal, una plataforma que utiliza cifrado de extremo a extremo. Según relató, el recordatorio apareció sin que ella lo pidiera y sin que recordara haber autorizado al agente a consultar esa aplicación.
En Android, el agente pudo leer contenido que aparecía en las notificaciones del teléfono. En Mac, el acceso estuvo vinculado a permisos del sistema concedidos durante la configuración del asistente. En las pruebas con un iPhone, las solicitudes fueron bloqueadas.
QUÉ OCURRE CON LOS MENSAJES CIFRADOS
El cifrado de extremo a extremo protege los mensajes durante su transmisión. Una vez que llegan al dispositivo, parte de su contenido puede quedar visible, por ejemplo, en una notificación. La investigación puso el foco en ese punto: al concederle a un asistente acceso a las notificaciones, el usuario puede estar dándole permiso para leer información de aplicaciones que nunca decidió conectar con él.
Meta sostuvo que Muse solo puede interactuar con otras aplicaciones mediante permisos que los usuarios conceden expresamente. Google también señaló que el acceso a las notificaciones de Android requiere una autorización deliberada. Apple, por su parte, introdujo cambios en macOS que cerraron la vía de acceso identificada durante las pruebas.
La presidenta de Signal, Meredith Whittaker, pidió que las aplicaciones puedan indicar a los sistemas operativos que deben quedar fuera del alcance de los agentes de IA y que esa restricción se aplique de forma uniforme.
SALDOS EXTRAÑOS Y UNA RESERVA IMPREVISTA
Los reportes internos también describen episodios en los que Muse envió información financiera y comercial que los usuarios no reconocían. Un empleado que solía consultar al agente por el clima y las mareas para salir a pescar recibió, en medio de una de esas conversaciones, dos supuestos saldos bancarios. Otro contó que el asistente le había ofrecido coordinar con un vendedor el retiro de una mesa ratona sobre la que nunca había preguntado. En otro caso, un trabajador reportó que el agente había hecho una reserva no reembolsable en Airbnb sin su autorización.
No fue posible establecer si los saldos bancarios y otros datos sensibles correspondían a terceros o si el agente los había inventado. Daniel Roberts, vocero de Meta, atribuyó muchos de esos mensajes a alucinaciones, como se conoce a las respuestas en las que la IA presenta información inventada como si fuera real, y aseguró que esos fallos habían sido corregidos.
Con más de 10 millones de descargas desde septiembre, según la investigación, Muse forma parte de la apuesta de Meta por asistentes capaces de actuar en nombre de los usuarios. Los episodios muestran dos problemas distintos para esa tecnología: con qué información puede trabajar un agente una vez que recibe acceso al dispositivo y qué controles tiene el usuario antes de que ese asistente tome una decisión que le cueste dinero.
SUSCRIBITE a esta promo especial