Mac O investigador de segurança Patrick Wardle afirma que é trivial transformar o Muse na "porta das traseiras definitiva".
Cada vez mais, os assistentes de IA estão a deixar de ser ferramentas que simplesmente respondem a perguntas para se tornarem agentes capazes de planear tarefas, utilizar serviços conectados e realizar ações em nosso nome. Estas ações podem incluir agendar compromissos, preencher formulários, criar documentos, fazer compras ou interagir com e-mails e calendários.
Para isso, precisam de mais permissões, ligações de contas e dados sensíveis. Portanto, quando a Meta prometeu que "o Muse foi construído desde o início com foco na privacidade e segurança", não esperávamos um agente de IA que pudesse ser facilmente manipulado para entregar todo este acesso a um atacante.
A Meta afirma que o Muse pode gerir marcações, formulários, interações com o serviço de apoio ao cliente, compras, criação de documentos e ligações a serviços como o WhatsApp, e-mail, calendários e plataformas de redes sociais. Também pode receber permissões do macOS para aceder a recursos protegidos, incluindo ficheiros, microfone, câmara, localização e calendários.
Segundo o Ars Technica , Wardle descobriu que uma aplicação ou comando de terminal executado localmente poderia alterar uma configuração não documentada do Muse que controla o servidor utilizado para a transcrição de ditados. Ao redirecionar o tráfego de ditado para um servidor controlado pelo atacante, este poderia capturar as instruções de voz e obter o token de autenticação da conta Muse da vítima.
Não se trata de uma vulnerabilidade de execução remota de código que possa comprometer um sistema que, de outra forma, estaria limpo. Mac O atacante precisa primeiro de uma forma de executar código localmente, seja através de malware, uma aplicação maliciosa ou engenharia social.
Mas, como vimos com o malware de roubo de informação que chegou aos Macs , este acesso inicial está longe de ser impossível.
Alguém está a vigiar as suas contas. Certifique-se de que somos nós.
Os malwares tradicionais de roubo de informação precisam de localizar, de forma independente, dados do navegador, credenciais, documentos, históricos de chat e outros materiais valiosos. Um agente de IA comprometido poderia reduzir esta barreira, agrupando o acesso a múltiplos serviços e permissões do sistema operativo numa única interface já autenticada.
Em última análise, não se trata apenas de uma configuração insegura. Isto demonstra porque é que os agentes de IA precisam de um padrão de segurança mais elevado do que as aplicações comuns.
Como se manter seguro
O conselho de Wardle sobre o Muse é simples: "Por favor, não instale."
A mesma precaução deve ser aplicada a outros agentes de IA.
O Open Worldwide Application Security Project (OWASP), uma fundação sem fins lucrativos que fornece orientações gratuitas sobre segurança de aplicações, lista injeção imediata, abuso de ferramentas, escalonamento de privilégios, exfiltração de dados, autonomia excessiva, envenenamento de memória e exposição de dados sensíveis entre os principais riscos de segurança representados por agentes de IA.
Uma regra útil é que um agente de IA não deve ter mais acesso do que o necessário e não deve ser capaz de transformar instruções não fiáveis em ações sensíveis sem verificações significativas. Na prática, isto significa:
- Evite dar a um novo agente um amplo acesso a e-mail, aplicações de chat, calendários, armazenamento na nuvem, métodos de pagamento e permissões de dispositivos, tudo de uma só vez.
- Analise e remova regularmente as ligações que o agente não necessita de facto.
- Esteja atento à injeção imediata . Não presuma que um agente de IA reconhecerá instruções maliciosas incorporadas numa página web, documento, e-mail ou outro conteúdo externo.
- Esteja atento a comportamentos invulgares do agente, como pedidos inesperados de novas permissões, reautenticação de contas, partilha externa de ficheiros ou ações que não iniciou.
Deve também proteger o seu dispositivo contra malware:
- Mantenha o seu software atualizado para que os atacantes não possam explorar vulnerabilidades conhecidas contra si.
- Utilize uma solução antimalware atualizada e em tempo real em todos os seus dispositivos .
- Para se proteger contra ataques ClickFix , não siga instruções que se encontram em sites e mensagens não solicitadas que lhe digam para executar comandos.
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
