Um tribunal alemão decidiu que o Google pode ser considerado diretamente responsável por alegações difamatórias geradas por seus resumos de IA. Basicamente, o tribunal afirmou que dizer às pessoas que devem verificar os resultados de pesquisa da IA não é suficiente para isentar a empresa da responsabilidade pelo conteúdo desses resultados.
O Tribunal Regional de Munique concedeu uma liminar contra o Google depois que duas editoras alemãs descobriram que os resumos gerados por IA as retratavam falsamente como envolvidas em golpes e “práticas comerciais duvidosas”, embora os artigos vinculados não corroborassem essas alegações.
A decisão pode ter repercussões muito além da Alemanha. O tribunal concluiu, de fato, que o Google pode ser considerado diretamente responsável por conteúdos difamatórios gerados por seus resumos de IA. O tribunal foi além do argumento habitual de que “é apenas IA, não confie demais nela” e deixou uma coisa bem clara: se você criar um sistema que difama pessoas ou empresas com toda a convicção, poderá ser responsabilizado pelo que ele diz, mesmo que o conteúdo tenha sido “inventado” pela IA.
As visões gerais da IA não são meras sugestões inofensivas. Neste caso, o tribunal as considerou como declarações da própria Google, com todas as implicações jurídicas que isso acarreta.
Quando as editoras enviaram uma carta de cessação e desistência, o Google não impediu imediatamente que afirmações semelhantes continuassem a aparecer. Esse detalhe acabou sendo crucial na decisão judicial. O tribunal observou que, ao contrário dos resultados de pesquisa tradicionais, que simplesmente listam conteúdo de terceiros, os Resumos de IA geram “afirmações independentes, novas e substantivas”.
E como apenas o Google pode ajustar os modelos e a lógica que geram essas afirmações, somente o Google pode impedir, de forma confiável, que o sistema repita as mesmas falsidades ou outras semelhantes. Nesse caso, o tribunal considerou que o Google pode ser responsabilizado.
Há anos, os mecanismos de busca têm desfrutado de ampla proteção com base no argumento de que é inevitável que alguns conteúdos prejudiciais apareçam ao indexar a web aberta em grande escala. Mostrar um resultado de busca não significa endossá-lo. O mecanismo de busca é um canal, não um editor.
Isso muda quando um resumo gerado por IA sintetiza, reformula e, às vezes, inventa fatos, para depois publicá-los no topo dos resultados de pesquisa.
Os resumos gerados por IA são um recurso adicional, não essencial para o funcionamento da pesquisa. No entanto, o atrativo desses resumos está nas respostas rápidas e seguras que oferecem, e é exatamente isso que os torna perigosos. Quando essas respostas estão erradas, muitos usuários podem não clicar nos links para verificar as fontes.
A decisão é preliminar e pode ser objeto de recurso, mas o recado é claro: os resultados de pesquisa gerados por IA não são uma poção mágica que faz com que a responsabilidade desapareça. Avisos sobre possíveis erros podem não ser suficientes quando um sistema é implantado em grande escala, cria novos conteúdos e é projetado para inspirar confiança.
Pelos números
As Visões Gerais da IA do Google são desenvolvidas com base no Gemini, o modelo de IA do Google. Assim como outros sistemas de IA, ele pode gerar respostas que parecem confiáveis, mas que estão erradas ou mal fundamentadas.
O Pew Research analisou dados de navegação de centenas de usuários e constatou que, quando um resumo de IA aparece na página de resultados do Google, os cliques nos resultados de pesquisa tradicionais caem de cerca de 15% para aproximadamente 8%.
Uma análise do *New York Times* sobre as respostas do Google AI Overviews revelou que elas estavam corretas em cerca de nove em cada dez vezes. Mas, como o Google processa mais de cinco trilhões de pesquisas por ano, mesmo uma pequena taxa de erro poderia significar milhões de respostas erradas.
E esses erros nem sempre se devem a fontes inadequadas. Mesmo quando o Google direciona para uma página com as informações corretas, sua IA ainda pode gerar uma resposta incorreta. Mais da metade das respostas precisas foram classificadas como “sem fundamento”, o que significa que os sites citados pelo AI Overview não corroboravam totalmente as informações fornecidas.
A principal lição aqui é verificar cuidadosamente as respostas da IA. Não confie em uma resposta só porque ela é apresentada com segurança e inclui links.
Os usuários podem ser levados a acreditar em ameaças reais ou a ignorar proteções eficazes simplesmente porque um sistema de IA soou convincente em uma página de busca.
Se você encontrar resumos gerados por IA que contenham informações falsas ou difamatórias sobre você ou sua empresa, documente-os minuciosamente. Faça capturas de tela, salve os termos de pesquisa, envie solicitações de correção e mantenha registros da resposta da plataforma. Ou da falta dela.
Os golpistas não precisam invadir seu computador. Basta você clicar uma vez.
Malwarebytes Identity Theft detecta atividades suspeitas antes que se tornem um problema.
