Um tribunal alemão decidiu que a Google pode ser considerada diretamente responsável por alegações difamatórias geradas pelos seus «Overviews» de IA. Basicamente, o tribunal considerou que dizer às pessoas que devem verificar os resultados de pesquisa da IA não é suficiente para isentar a empresa da responsabilidade pelo conteúdo desses resultados.
O Tribunal Regional de Munique emitiu uma medida cautelar contra a Google depois de duas editoras alemãs terem descoberto que os «AI Overviews» as apresentavam falsamente como estando envolvidas em esquemas fraudulentos e «práticas comerciais duvidosas», apesar de os artigos referenciados não corroborarem essas alegações.
A decisão poderá ter repercussões muito para além da Alemanha. O tribunal concluiu, efetivamente, que a Google pode ser considerada diretamente responsável por conteúdos difamatórios gerados pelas suas «Overviews» de IA. O tribunal ignorou a habitual mensagem de que «é apenas IA, não confiem demasiado nela» e deixou uma coisa bem clara: se se criar um sistema que difama com convicção pessoas ou empresas, pode-se ser responsabilizado pelo que este diz, mesmo quando o conteúdo foi «alucinado» pela IA.
As «Visões gerais» da IA não são meras sugestões inofensivas. Neste caso, o tribunal considerou-as como declarações da própria Google, com todas as implicações jurídicas que daí decorrem.
Quando as editoras enviaram uma carta de cessação e desistência, a Google não impediu imediatamente que alegações semelhantes continuassem a aparecer. Esse pormenor revelou-se crucial na decisão judicial. O tribunal observou que, ao contrário dos resultados de pesquisa tradicionais, que se limitam a listar conteúdos de terceiros, as «Visões Gerais» geradas pela IA produzem «afirmações independentes, novas e substantivas».
E, uma vez que só o Google pode ajustar os modelos e a lógica que estão na origem dessas afirmações, só o Google pode impedir, de forma fiável, que o sistema repita as mesmas falsidades ou outras semelhantes. Neste caso, o tribunal considerou que o Google pode ser considerado responsável.
Há anos que os motores de busca têm beneficiado de uma ampla proteção, com base no argumento de que é inevitável que surjam conteúdos prejudiciais quando se indexa a web aberta em grande escala. Apresentar um resultado de pesquisa não significa endossá-lo. O motor de busca é um canal, não um editor.
Isso muda quando um resumo gerado por IA sintetiza, reformula e, por vezes, inventa factos, para depois os publicar no topo dos resultados de pesquisa.
Os resumos gerados por IA são uma funcionalidade adicional, não essencial para o funcionamento da pesquisa. No entanto, o atrativo dos resumos gerados por IA reside nas respostas rápidas e seguras que fornecem, e é precisamente isso que os torna perigosos. Quando essas respostas estão erradas, muitos utilizadores podem não clicar para verificar as fontes.
A decisão é preliminar e pode ser objeto de recurso, mas a mensagem é clara: os resultados de pesquisa gerados pela IA não são uma poção mágica que faz com que a responsabilidade desapareça. As declarações de isenção de responsabilidade sobre possíveis erros podem não ser suficientes quando um sistema é implementado em grande escala, cria novos conteúdos e foi concebido para inspirar confiança.
Em números
As Visões Gerais da IA do Google são alimentadas pelo Gemini, o modelo de IA do Google. Tal como outros sistemas de IA, pode produzir respostas com um elevado nível de confiança que, no entanto, estão erradas ou mal fundamentadas.
O Pew Research analisou os dados de navegação de centenas de utilizadores e constatou que, quando um resumo da IA aparece numa página de resultados do Google, os cliques nos resultados de pesquisa tradicionais diminuem de cerca de 15 % para cerca de 8 %.
Uma análise do New York Times sobre as respostas da IA revelou que estas eram precisas em cerca de nove em cada dez ocasiões. No entanto, com o Google a processar mais de cinco biliões de pesquisas por ano, mesmo uma taxa de erro reduzida pode significar milhões de respostas erradas.
E esses erros nem sempre se devem a fontes de má qualidade. Mesmo quando o Google remete para uma página com a informação correta, a sua IA pode ainda assim apresentar uma resposta errada. Mais de metade das respostas corretas foram classificadas como «sem fundamento», o que significa que os sites citados pelo AI Overview não corroboravam totalmente a informação que forneciam.
A principal lição a reter aqui é a de verificar sempre as respostas fornecidas pela IA. Não confie numa resposta só porque é apresentada com segurança e inclui links.
Os utilizadores podem ser levados a acreditar em ameaças reais ou a afastar-se de proteções eficazes, simplesmente porque um sistema de IA soou convincente numa página de pesquisa.
Se encontrar resumos gerados por IA que sejam falsos ou difamatórios sobre si ou a sua empresa, documente-os minuciosamente. Faça capturas de ecrã, guarde os termos de pesquisa, apresente pedidos de correção e mantenha registos da resposta da plataforma. Ou da ausência de resposta.
Os burlões não precisam de invadir o seu computador. Basta que clique uma vez.
Malwarebytes Identity Theft deteta atividades suspeitas antes que se tornem um problema.
