TEMAS DE HOY:
PUBLICIDAD

El agente de IA de Meta accedió a mensajes privados de Signal

El asistente de Meta accedió a mensajes cifrados / IA

Por Redacción

Muse, el agente de inteligencia artificial que Meta lanzó en septiembre para hacer compras, gestionar reservas y resolver otras tareas digitales, quedó bajo la lupa por el alcance de sus permisos. Una investigación comprobó que el asistente pudo acceder al contenido de mensajes de Signal en dispositivos Android y computadoras Mac, incluso cuando la aplicación de mensajería no había sido vinculada directamente al agente.

La investigación partió de reportes internos de empleados de Meta. Una trabajadora contó que Muse le había sugerido responderle a su hermana por Signal, una plataforma que utiliza cifrado de extremo a extremo. Según relató, el recordatorio apareció sin que ella lo pidiera y sin que recordara haber autorizado al agente a consultar esa aplicación.

En Android, el agente pudo leer contenido que aparecía en las notificaciones del teléfono. En Mac, el acceso estuvo vinculado a permisos del sistema concedidos durante la configuración del asistente. En las pruebas con un iPhone, las solicitudes fueron bloqueadas.

QUÉ OCURRE CON LOS MENSAJES CIFRADOS

El cifrado de extremo a extremo protege los mensajes durante su transmisión. Una vez que llegan al dispositivo, parte de su contenido puede quedar visible, por ejemplo, en una notificación. La investigación puso el foco en ese punto: al concederle a un asistente acceso a las notificaciones, el usuario puede estar dándole permiso para leer información de aplicaciones que nunca decidió conectar con él.

Meta sostuvo que Muse solo puede interactuar con otras aplicaciones mediante permisos que los usuarios conceden expresamente. Google también señaló que el acceso a las notificaciones de Android requiere una autorización deliberada. Apple, por su parte, introdujo cambios en macOS que cerraron la vía de acceso identificada durante las pruebas.

La presidenta de Signal, Meredith Whittaker, pidió que las aplicaciones puedan indicar a los sistemas operativos que deben quedar fuera del alcance de los agentes de IA y que esa restricción se aplique de forma uniforme.

SALDOS EXTRAÑOS Y UNA RESERVA IMPREVISTA

Los reportes internos también describen episodios en los que Muse envió información financiera y comercial que los usuarios no reconocían. Un empleado que solía consultar al agente por el clima y las mareas para salir a pescar recibió, en medio de una de esas conversaciones, dos supuestos saldos bancarios. Otro contó que el asistente le había ofrecido coordinar con un vendedor el retiro de una mesa ratona sobre la que nunca había preguntado. En otro caso, un trabajador reportó que el agente había hecho una reserva no reembolsable en Airbnb sin su autorización.

No fue posible establecer si los saldos bancarios y otros datos sensibles correspondían a terceros o si el agente los había inventado. Daniel Roberts, vocero de Meta, atribuyó muchos de esos mensajes a alucinaciones, como se conoce a las respuestas en las que la IA presenta información inventada como si fuera real, y aseguró que esos fallos habían sido corregidos.

Con más de 10 millones de descargas desde septiembre, según la investigación, Muse forma parte de la apuesta de Meta por asistentes capaces de actuar en nombre de los usuarios. Los episodios muestran dos problemas distintos para esa tecnología: con qué información puede trabajar un agente una vez que recibe acceso al dispositivo y qué controles tiene el usuario antes de que ese asistente tome una decisión que le cueste dinero.

Las noticias locales nunca fueron tan importantes
SUSCRIBITE a esta promo especial
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD

Registrate gratis para seguir leyendo

Ya leíste varias notas de El Día. Creá tu cuenta gratuita y seguí accediendo al contenido del diario.

¿Ya tenés cuenta? Ingresar

Has alcanzado el límite de notas gratuitas

Suscribite a uno de nuestros planes digitales y seguí disfrutando todo el contenido de El Día sin restricciones.

Básico Promocional mensual

$570/ mes

Acceso ilimitado a www.eldia.com

Suscribirme

Full Promocional mensual

$740/ mes

Acceso ilimitado a www.eldia.com

Acceso a la versión PDF

Beneficios Club El Día

Suscribirme

ESTA NOTA ES EXCLUSIVA PARA SUSCRIPTORES

Para disfrutar este artículo, análisis y más, por favor, suscríbase a uno de nuestros planes digitales

¿Ya tiene suscripción? Ingresar

Básico Promocional mensual

$570/ mes

Acceso ilimitado a www.eldia.com

Suscribirme

Full Promocional mensual

$740/ mes

Acceso ilimitado a www.eldia.com

Acceso a la versión PDF

Beneficios Club El Día

Suscribirme
PUBLICIDAD