A Google voltou atrás numa funcionalidade de IA que permitia aos utilizadores gerar imagens artificiais dentro do Google Earth, após uma previsível onda de críticas. deepfakes .
A Google ativou a funcionalidade de geração de imagens por IA na versão web do Google Earth a 30 de julho. Ele estava disponível para todos.
O sistema utilizou o gerador de imagens Nano Banana 2 da Google para criar as suas imagens. Esta ferramenta já consegue gerar imagens a partir de simples textos, mas a vantagem de o fazer no Google Earth é que pode utilizar imagens de satélite reais como base para as suas criações. deepfake versões. Isto facilita a criação de imagens de IA com detalhes reais e precisos de edifícios e paisagens.
Na sua publicação inicial no blogue sobre o lançamento, a empresa afirmou que os estudantes poderiam utilizá-la para "dar vida à história", enquanto os agentes imobiliários poderiam utilizá-la para produzir plantas imobiliárias profissionais. No entanto, outros alertaram que o sistema poderia ser utilizado para enganar as pessoas.
Em poucas horas, investigadores e órgãos de imprensa demonstraram que a ferramenta produzia com facilidade imagens de satélite fotorrealistas de eventos que não ocorreram, em locais onde eles não aconteceram.
O investigador holandês de inteligência de código aberto Henk van Ess explicou : “Tentei com refugiados na fronteira mexicana, numa central nuclear no Irão, num acidente em Amesterdão, num hospital com uma cratera de uma bomba em Gaza. Nada foi recusado”.
Para demonstrar o que era possível com a nova capacidade, a NPR fabricou uma imagem dos incêndios no Irão, juntamente com um deepfake de Washington, D.C., submersa. A BBC exibiu imagens da Torre Eiffel que ruiu e da Grande Pirâmide de Gizé engolida por uma cratera. Mesmo com algumas medidas de segurança implementadas, o serviço de verificação anti-desinformação da BBC conseguiu contorná-las através da alteração de comandos básicos de inteligência artificial.
A Google reconheceu a falha num comunicado sobre X :
"Observámos que os profissionais da área geoespacial utilizam esta funcionalidade para diversos fins úteis, no entanto também vimos pessoas a partilhar capturas de ecrã de imagens geradas que parecem violar as nossas políticas. Por isso, estamos a desativar esta funcionalidade no Google Earth enquanto trabalhamos na implementação de medidas de segurança mais rigorosas."
Não se comprometeu a nunca mais voltar a apresentar a ideia.
Os utilizadores aparentemente não ficaram impressionados. "Não há a mínima hipótese de que ninguém da sua equipa de desenvolvimento tenha levantado exatamente essa preocupação", comentou um. "Vocês estão a viver numa bolha", acusou outro.
A medida de segurança alternativa da Google era uma marca de água SynthID e o facto de as imagens geradas não aparecerem na experiência principal do Google Earth para outros utilizadores. O SynthID é o sistema de marca de água do Google DeepMind, um sinal invisível incorporado nos pixéis das imagens geradas por IA para que um detetor compatível possa identificá-las posteriormente. A Google posiciona-o como metade da sua estrutura de rastreabilidade, juntamente com o padrão de metadados C2PA, adotado pela indústria de IA em geral.
Em teoria, o sinal deveria resistir à compressão e até aos reenvios nas redes sociais. No entanto, estas afirmações ruíram na prática. As marcas de água são detetáveis pelos serviços de IA da Google, como o Gemini. Não são visíveis para os utilizadores, que podem captar imagens e partilhá-las em qualquer lugar. É improvável que todos saibam que devem verificar a proveniência de uma imagem. Os investigadores também relataram que o Gemini não conseguiu identificar com precisão as imagens geradas por IA com uma marca de água SynthID.
O que significa para si?
Os criadores de conteúdo já produziam imagens falsas geradas por IA, mostrando acontecimentos que não aconteceram. Tradicionalmente, as imagens de satélite têm sido uma componente essencial do jornalismo de código aberto. Falsificar imagens de forma convincente significa atacar a base de referência que os repórteres utilizam para verificar se algo realmente aconteceu.
Isto também ocorre numa altura em que a confiança na IA está visivelmente a diminuir. De acordo com a nossa própria pesquisa , divulgada em junho, 88% das pessoas disseram que está a tornar-se mais difícil distinguir o conteúdo online que é genuinamente humano ou real, com 84% a afirmar que mesmo "evidências em vídeo convincentes" já não parecem provas suficientes.
O conselho prático é respirar fundo sempre que uma imagem de satélite perturbadora de um desastre, um ataque com armas ou uma passagem de fronteira aparece na sua timeline. Verifique se foi publicada por uma agência noticiosa com um repórter identificado. Procure uma legenda que identifique o fornecedor da imagem. Se a fonte for uma conta anónima que publicou um único frame dramático, considere que pode estar a ver algo montado num separador do browser na noite anterior.
Para mais informações sobre como identificar imagens de IA, consulte o nosso guia .
O modelo de distribuição da indústria trata agora aparentemente os utilizadores como um grupo de teste. A literacia mediática crítica é agora a única ferramenta fiável que os leitores e espectadores possuem.
Desde a denúncia de ameaças até à sua remoção.
Os riscos de cibersegurança nunca se devem propagar para além de uma manchete. Mantenha as ameaças longe dos seus dispositivos descarregando Malwarebytes hoje mesmo.
