UM Facebook Um comprador do Marketplace chegou ao apartamento do vendedor para buscar um teclado. O vendedor não estava em casa e não sabia que alguém viria. A assistente de IA da Meta, Muse, conduziu a conversa, compartilhou o endereço e organizou a visita sem que ele soubesse.
Frequentemente escrevemos sobre o desalinhamento da IA e como usar agentes e navegadores de IA com segurança. Isso pode soar teórico, mas este é um exemplo do risco real que existe quando um agente é autorizado a agir em nome de alguém.
Muse é o assistente de IA semiautônomo da Meta, lançado nos EUA em setembro. A Meta o promove como um assistente pessoal que pode ajudar os usuários a automatizar tarefas, incluindo responder a mensagens. Facebook Mensagens do Marketplace. Ao contrário de um chatbot convencional, que aguarda uma solicitação e fornece uma resposta, um agente de IA pode ser autorizado a realizar ações em aplicativos conectados.
Já escrevemos sobre uma vulnerabilidade separada no Muse que os pesquisadores consideraram perigosa. Segundo relatos , o Muse foi baixado 3 milhões de vezes em sua primeira semana.
Segundo o Business Insider , um Facebook Um vendedor do Marketplace ativou o Muse para ajudá-lo a gerenciar um anúncio de um teclado. Ele inseriu seu endereço como local de retirada e aprovou as respostas automáticas. O Muse então compartilhou esse endereço com um possível comprador, negociou o item e agendou uma visita, segundo o vendedor. Ele afirma que o Muse não pediu permissão para compartilhar seu endereço ou agendar a visita, e não o avisou que isso aconteceria. O comprador chegou ao apartamento do vendedor esperando concluir a compra, mas o vendedor não estava em casa. A venda não foi concretizada.
O incidente relatado é mais do que uma falha de privacidade. Ele ilustra um risco mais amplo dos agentes de IA: um agente pode interpretar a permissão para responder automaticamente como permissão para compartilhar informações confidenciais ou agendar uma reunião presencial. A Meta afirma estar investigando o relato.
Como usar agentes de IA com segurança
Antes de ativar um agente de IA, considere a tela de configuração como uma avaliação de segurança. Não presuma que a integração com uma plataforma confiável signifique que o agente entenderá suas intenções ou aplicará limites sensatos automaticamente.
Preste especial atenção a:
- Contas conectadas: Analise todos os serviços aos quais o agente tem acesso, como e-mail, mensagens, calendários, armazenamento em nuvem, contas de compras ou perfis de redes sociais.
- Acesso aos dados: considere se o sistema pode ler endereços, contatos, fotos, mensagens privadas, detalhes de pagamento, documentos ou dados de localização.
- Permissões de ação: Verifique se o agente pode enviar mensagens, publicar conteúdo, negociar, fazer reservas, realizar pedidos, alterar anúncios ou compartilhar informações externamente.
- Ações automáticas: Aplique configurações que exigem aprovação antes que o agente envie, publique, compre, exclua ou compartilhe qualquer informação sensível. Verifique como você será notificado sobre os planos que ele elabora em seu nome.
- Controle de público: Confirme exatamente quem pode receber as informações geradas pelo agente. "Qualquer pessoa que me envie mensagens" é muito diferente de "pessoas que eu aprovo".
Conceda ao agente de IA apenas o acesso mínimo necessário para a tarefa. Se você deseja apenas ajuda para escrever respostas, não habilite o envio automático. Se você quer que um agente de IA gerencie um anúncio, use um local de encontro público ou um endereço de retirada separado, em vez do seu endereço residencial.
Navegue como se ninguém estivesse olhando.
VPN Malwarebytes Privacy VPN sua conexão e nunca registra o que você faz, para que a próxima notícia que você ler não pareça algo pessoal.Experimente gratuitamente →
