UM Facebook Um comprador do Marketplace chegou ao apartamento do vendedor para levantar um teclado. O vendedor não estava em casa e não sabia que viria alguém. A assistente de IA da Meta, Muse, conduziu a conversa, partilhou a morada e organizou a visita sem que ele soubesse.
Escrevemos frequentemente sobre o desalinhamento da IA e como utilizar agentes e navegadores de IA em segurança. Isto pode parecer teórico, mas este é um exemplo do risco real que existe quando um agente é autorizado a agir em nome de alguém.
Muse é o assistente de IA semiautónomo da Meta, lançado nos EUA em setembro. A Meta promove-o como um assistente pessoal que pode ajudar os utilizadores a automatizar tarefas, incluindo a resposta a mensagens. Facebook Mensagens do Marketplace. Ao contrário de um chatbot convencional, que aguarda um pedido e fornece uma resposta, um agente de IA pode ser autorizado a realizar ações em aplicações ligadas.
Já escrevemos sobre uma vulnerabilidade separada no Muse que os investigadores consideraram perigosa. Segundo consta , o Muse foi descarregado 3 milhões de vezes na sua primeira semana.
Segundo o Business Insider , um Facebook Um vendedor do Marketplace ativou o Muse para o ajudar a gerir um anúncio a partir de um teclado. Introduziu o seu endereço como local de levantamento e aprovou as respostas automáticas. O Muse partilhou então este endereço com um potencial comprador, negociou o artigo e agendou uma visita, segundo o vendedor. Afirma que os Muse não lhe pediram permissão para partilhar o seu endereço ou agendar a visita, e não o avisaram que isso iria acontecer. O comprador chegou ao apartamento do vendedor na expectativa de concluir a compra, mas o vendedor não estava em casa. A venda não foi concretizada.
O incidente reportado é mais do que uma falha de privacidade. Ilustra um risco mais amplo dos agentes de IA: um agente pode interpretar a permissão para responder automaticamente como uma permissão para partilhar informações confidenciais ou agendar uma reunião presencial. A Meta afirma estar a investigar o relato.
Como utilizar agentes de IA com segurança
Antes de ativar um agente de IA, considere o ecrã de configuração como uma revisão de segurança. Não presuma que a integração com uma plataforma fiável significa que o agente compreenderá as suas intenções ou aplicará automaticamente limites sensatos.
Preste especial atenção a:
- Contas conectadas: Analise todos os serviços a que o agente tem acesso, como e-mail, mensagens, calendários, armazenamento na nuvem, contas de compras ou perfis de redes sociais.
- Acesso aos dados: considere se o sistema consegue ler endereços, contactos, fotografias, mensagens privadas, dados de pagamento, documentos ou dados de localização.
- Permissões de ação: Verifique se o agente pode enviar mensagens, publicar conteúdo, negociar, fazer reservas, realizar encomendas, alterar anúncios ou partilhar informações externamente.
- Ações automáticas: Aplique as definições que requerem aprovação antes de o agente enviar, publicar, comprar, eliminar ou partilhar qualquer informação sensível. Verifique como será notificado sobre os planos que ele elabora em seu nome.
- Controlo de audiências: Confirme exatamente quem pode receber a informação gerada pelo agente. "Qualquer pessoa que me envie mensagens" é muito diferente de "pessoas que eu aprovo".
Conceda ao agente de IA apenas o acesso mínimo necessário para a tarefa. Se apenas pretende ajuda para escrever respostas, não ative o envio automático. Se pretende que um agente de IA gerencie um anúncio, utilize um local de encontro público ou um endereço de recolha separado, em vez do seu endereço de casa.
Navegue como se ninguém estivesse a ver.
VPN Malwarebytes Privacy VPN a sua ligação e nunca regista o que faz, para que a próxima notícia que ler não pareça dirigida a si.Experimente gratuitamente →
