Mac O pesquisador de segurança Patrick Wardle afirma que é trivial transformar o Muse na "porta dos fundos definitiva".
Cada vez mais, os assistentes de IA estão deixando de ser ferramentas que simplesmente respondem a perguntas para se tornarem agentes capazes de planejar tarefas, usar serviços conectados e realizar ações em nosso nome. Essas ações podem incluir agendar compromissos, preencher formulários, criar documentos, fazer compras ou interagir com e-mails e calendários.
Para isso, eles precisam de mais permissões, conexões de contas e dados sensíveis. Portanto, quando a Meta prometeu que "o Muse foi construído desde o início com foco em privacidade e segurança", não esperávamos um agente de IA que pudesse ser facilmente manipulado para entregar todo esse acesso a um invasor.
A Meta afirma que o Muse pode gerenciar agendamentos, formulários, interações com o atendimento ao cliente, compras, criação de documentos e conexões com serviços como WhatsApp, e-mail, calendários e plataformas de redes sociais. Ele também pode receber permissões do macOS para acessar recursos protegidos, incluindo arquivos, microfone, câmera, localização e calendários.
Segundo o Ars Technica , Wardle descobriu que um aplicativo ou comando de terminal executado localmente poderia alterar uma configuração não documentada do Muse que controla o servidor usado para transcrição de ditados. Ao redirecionar o tráfego de ditado para um servidor controlado pelo atacante, este poderia capturar as instruções de voz e obter o token de autenticação da conta Muse da vítima.
Esta não é uma vulnerabilidade de execução remota de código que possa comprometer um sistema que, de outra forma, estaria limpo. Mac O atacante precisa primeiro de uma maneira de executar código localmente, seja por meio de malware, um aplicativo malicioso ou engenharia social.
Mas, como vimos com o malware de roubo de informações que chegou aos Macs , esse acesso inicial está longe de ser impossível.
Alguém está cuidando das suas contas. Certifique-se de que sejamos nós.
Os malwares tradicionais de roubo de informações precisam localizar, de forma independente, dados do navegador, credenciais, documentos, históricos de bate-papo e outros materiais valiosos. Um agente de IA comprometido poderia reduzir essa barreira, agrupando o acesso a múltiplos serviços e permissões do sistema operacional em uma única interface já autenticada.
Em última análise, não se trata apenas de uma configuração insegura. Isso demonstra por que os agentes de IA precisam de um padrão de segurança mais elevado do que os aplicativos comuns.
Como se manter seguro
O conselho de Wardle sobre o Muse é simples: "Por favor, não instale."
A mesma cautela deve ser aplicada a outros agentes de IA.
O Open Worldwide Application Security Project (OWASP), uma fundação sem fins lucrativos que fornece orientações gratuitas sobre segurança de aplicações, lista injeção imediata, abuso de ferramentas, escalonamento de privilégios, exfiltração de dados, autonomia excessiva, envenenamento de memória e exposição de dados sensíveis entre os principais riscos de segurança representados por agentes de IA.
Uma regra útil é que um agente de IA não deve ter mais acesso do que o necessário e não deve ser capaz de transformar instruções não confiáveis em ações sensíveis sem verificações significativas. Na prática, isso significa:
- Evite dar a um novo agente amplo acesso a e-mail, aplicativos de bate-papo, calendários, armazenamento em nuvem, métodos de pagamento e permissões de dispositivos, tudo de uma vez.
- Analise e remova regularmente as conexões que o agente não precisa de fato.
- Esteja atento à injeção imediata . Não presuma que um agente de IA reconhecerá instruções maliciosas incorporadas em uma página da web, documento, e-mail ou outro conteúdo externo.
- Fique atento a comportamentos incomuns do agente, como solicitações inesperadas de novas permissões, reautenticação de conta, compartilhamento externo de arquivos ou ações que você não iniciou.
Você também deve proteger seu dispositivo contra malware:
- Mantenha seu software atualizado para que os invasores não possam explorar vulnerabilidades conhecidas contra você.
- Utilize uma solução antimalware atualizada e em tempo real em todos os seus dispositivos .
- Para se proteger contra ataques ClickFix , não siga instruções encontradas em sites e mensagens não solicitadas que lhe digam para executar comandos.
Desde a denúncia de ameaças até a sua remoção.
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
