A Meta suspendeu um programa controverso de monitorização de funcionários depois de uma análise interna de segurança ter revelado que os dados altamente detalhados relativos às teclas digitadas e às capturas de ecrã dos portáteis dos funcionários estavam muito mais amplamente acessíveis dentro da empresa do que o pretendido.
O programa fazia parte da Iniciativa de Capacidade de Modelos (MCI) da Meta, que recolhia os movimentos do rato, os locais dos cliques, as teclas premidas e o conteúdo do ecrã dos portáteis de trabalho dos funcionários para ajudar a treinar sistemas internos de IA.
O programa também acarretava um risco óbvio. Recolher dados altamente sensíveis sobre a atividade dos colaboradores é uma coisa. Mantê-los devidamente protegidos é outra.
De acordo com reportagens baseadas em documentos internos e relatos de funcionários, os dados não foram apenas recolhidos. Foram deixados acessíveis em milhares de tabelas de dados internas, incluindo prompts de IA, transcrições, conversas privadas e informações relacionadas com o desempenho.
Após a divulgação da notícia, a Meta reduziu a escala da iniciativa e, posteriormente, suspendeu-a, num contexto de reações negativas internas persistentes e de dúvidas sobre se as medidas de proteção da privacidade alguma vez foram mais do que uma garantia expressa num memorando.
Na perspetiva da Meta, a Iniciativa de Capacidade dos Modelos foi uma aposta na eficiência. O objetivo era fornecer aos modelos de IA «exemplos reais de como as pessoas utilizam efetivamente os computadores», registando passivamente a forma como os colaboradores utilizam ferramentas do dia-a-dia, como o Gmail, o GChat, o Metamate e o VS Code. Os agentes poderiam assim aprender com fluxos de trabalho reais, em vez de com testes de desempenho sintéticos.
Foi prometido aos funcionários que a recolha de dados se limitaria às aplicações de trabalho e não aos telemóveis dos funcionários. Mas podem imaginar como isso foi interpretado:
- Foi instalado software de registo de teclas e de rastreio do rato nos portáteis dos trabalhadores norte-americanos, sem qualquer possibilidade de recusa nos dispositivos da empresa, tal como confirmado internamente pelo diretor técnico da Meta.
- O software registou as entradas e o conteúdo associado do ecrã, criando um conjunto de dados comportamentais: o que escreve, onde clica e o que aparece no ecrã enquanto o faz.
O programa suscitou críticas internas significativas. Uma publicação interna de um engenheiro a protestar contra a «vigilância de computadores portáteis» e a monitorização de ecrãs tornou-se viral dentro da Meta, dando origem a uma petição para acabar completamente com o programa.
Do ponto de vista da conformidade, os programas de monitorização de colaboradores desta envergadura podem suscitar questões jurídicas e regulamentares complexas, especialmente em jurisdições que exigem transparência no que diz respeito à vigilância no local de trabalho e à recolha de dados.
O impacto na reputação é, sem dúvida, ainda mais grave. Quando uma empresa está constantemente sob escrutínio por monitorizar os utilizadores, quebrar a confiança dos colaboradores transmite um sinal claro sobre a sua atitude por defeito em relação aos dados.
Tudo isto sabendo que os dados relativos a teclas premidas e capturas de ecrã são, por definição, de alto risco. Este tipo de dados é rico em conteúdo, de natureza comportamental e, muitas vezes, contém informações confidenciais. A sua recolha em grande escala cria um fardo em termos de segurança. Cada novo ponto de dados acrescenta obrigações relacionadas com o controlo de acesso, a minimização, a retenção e a auditoria, que a organização deve gerir ativamente enquanto os dados existirem.
- Os controlos de acesso devem ser precisos e auditados regularmente, pois uma simples configuração incorreta pode ter consequências graves.
- A minimização dos dados e os limites de retenção são essenciais, uma vez que o armazenamento a longo prazo multiplica o impacto de uma potencial violação.
- Qualquer futura fuga de dados — interna ou externa — poderá expor não só e-mails, mas também as sequências exatas que os colaboradores digitam, incluindo processos de autenticação e rascunhos de conteúdo. Nas mãos erradas, este tipo de informação poderá colocar a empresa em risco.
Este episódio serve para nos lembrar que cada novo conjunto de dados acarreta novas responsabilidades. Quanto mais detalhadas e sensíveis forem as informações, maiores serão as consequências caso os controlos de acesso falhem.
Os burlões não precisam de invadir o seu computador. Basta que clique uma vez.
Malwarebytes Identity Theft deteta atividades suspeitas antes que se tornem um problema.
