A Facebook Un comprador llegó al apartamento de un vendedor para recoger un teclado. El vendedor no estaba en casa y no sabía que alguien iba a venir. Muse, la IA asistente de Meta, se encargó de la conversación, compartió su dirección y organizó la visita sin avisarle.
A menudo escribimos sobre la desalineación de la IA y cómo usar agentes y navegadores de IA de forma segura. Esto puede sonar teórico, pero este es un ejemplo del riesgo real que supone permitir que un agente actúe en nombre de otra persona.
Muse es el asistente de IA semiautónomo de Meta, lanzado en los EE. UU. en septiembre. Meta lo promociona como un asistente personal que puede ayudar a los usuarios a automatizar tareas, incluyendo responder a Facebook Mensajes del mercado. A diferencia de un chatbot convencional, que espera una solicitud y produce una respuesta, un agente de IA puede estar autorizado a realizar acciones dentro de las aplicaciones conectadas.
Ya hemos escrito sobre otra vulnerabilidad de Muse que los investigadores consideraron peligrosa. Según se informa , Muse se descargó 3 millones de veces en su primera semana.
Según Business Insider , un Facebook Un vendedor de Marketplace activó Muse para gestionar un anuncio publicado desde su teclado. Ingresó su dirección como lugar de recogida y autorizó las respuestas automáticas. Según el vendedor, Muse compartió esa dirección con un posible comprador, negoció el precio del artículo y concertó una cita. Afirma que Muse no le pidió permiso para compartir su dirección ni para concertar la cita, y que tampoco le informó de ello. El comprador llegó al apartamento del vendedor con la intención de completar la compra, pero este no se encontraba en casa. La venta no se realizó.
El incidente reportado va más allá de una simple falla de privacidad. Ilustra un riesgo más amplio para los agentes de IA: un agente podría interpretar el permiso para responder automáticamente como un permiso para compartir información confidencial o comprometerlo a una reunión presencial. Meta afirma estar investigando el reporte.
Cómo utilizar agentes de IA de forma segura
Antes de activar un agente de IA, revise su pantalla de configuración para asegurarse de que cumple con los requisitos de seguridad. No dé por sentado que la integración con una plataforma de confianza implica que el agente comprenderá sus intenciones o aplicará límites razonables automáticamente.
Preste especial atención a:
- Cuentas conectadas: Revise todos los servicios a los que el agente puede acceder, como correo electrónico, mensajes, calendarios, almacenamiento en la nube, cuentas de compras o perfiles de redes sociales.
- Acceso a datos: Considere si puede leer direcciones, contactos, fotos, mensajes privados, detalles de pago, documentos o datos de ubicación.
- Permisos de acción: Compruebe si el agente puede enviar mensajes, publicar contenido, negociar, realizar reservas, hacer pedidos, modificar anuncios o compartir información externamente.
- Acciones automáticas: Aplique configuraciones que requieran aprobación antes de que el agente envíe, publique, compre, elimine o comparta información confidencial. Verifique cómo le notificará sobre los planes que realice en su nombre.
- Controles de audiencia: Confirme exactamente quién puede recibir la información generada por el agente. "Cualquiera que me envíe un mensaje" es muy diferente de "personas que apruebo".
Otorgue al agente de IA el mínimo acceso necesario para la tarea. Si solo necesita ayuda para redactar respuestas, no active el envío automático. Si desea que un agente de IA gestione un anuncio, utilice un lugar de reunión público o una dirección de recogida distinta a la de su domicilio.
Navega como si nadie te estuviera mirando.
Malwarebytes Privacy VPN Encripta tu conexión y nunca registra lo que haces, así que la próxima historia que leas no tiene por qué ser personal. Pruébalo gratis →
