O Google voltou atrás em uma funcionalidade de IA que permitia aos usuários gerar imagens artificiais dentro do Google Earth, após uma onda previsível de críticas. deepfakes .
O Google ativou o recurso de geração de imagens por IA na versão web do Google Earth em 30 de julho. Ele estava disponível para todos.
O sistema utilizou o gerador de imagens Nano Banana 2 do Google para criar suas imagens. Essa ferramenta já consegue gerar imagens a partir de simples textos, mas a vantagem de fazê-lo no Google Earth é que ele pode usar imagens de satélite reais como base para suas criações. deepfake versões. Isso facilita a criação de imagens de IA com detalhes reais e precisos de edifícios e paisagens.
Em sua postagem inicial no blog sobre o lançamento, a empresa afirmou que os estudantes poderiam usá-la para "dar vida à história", enquanto os corretores de imóveis poderiam usá-la para produzir plantas imobiliárias profissionais. No entanto, outros alertaram que o sistema poderia ser usado para enganar as pessoas.
Em poucas horas, pesquisadores e veículos de imprensa demonstraram que a ferramenta produzia com facilidade imagens de satélite fotorrealistas de eventos que não ocorreram, em locais onde eles não aconteceram.
O pesquisador holandês de inteligência de código aberto Henk van Ess explicou : “Tentei com refugiados na fronteira mexicana, em uma usina nuclear no Irã, em um acidente em Amsterdã, em um hospital com uma cratera de bomba em Gaza. Nada foi recusado”.
Para demonstrar o que era possível com a nova capacidade, a NPR fabricou uma imagem de incêndios no Irã, juntamente com um deepfake de Washington, D.C., submersa. A BBC exibiu imagens da Torre Eiffel desabada e da Grande Pirâmide de Gizé engolida por uma cratera. Mesmo com algumas medidas de segurança implementadas, o serviço de verificação anti-desinformação da BBC conseguiu contorná-las alterando comandos básicos de inteligência artificial.
O Google reconheceu a falha em um comunicado sobre X :
"Observamos que profissionais da área geoespacial utilizam esse recurso para diversos fins úteis, porém também vimos pessoas compartilhando capturas de tela de imagens geradas que parecem violar nossas políticas. Portanto, estamos desativando esse recurso no Google Earth enquanto trabalhamos na implementação de medidas de segurança mais rigorosas."
Não se comprometeu a nunca mais voltar a apresentar a ideia.
Os usuários aparentemente não ficaram impressionados. "Não há a menor chance de que ninguém da sua equipe de desenvolvimento tenha levantado exatamente essa preocupação", comentou um. "Vocês estão vivendo em uma bolha", acusou outro.
A medida de segurança alternativa do Google era uma marca d'água SynthID e o fato de que as imagens geradas não apareciam na experiência principal do Google Earth para outros usuários. O SynthID é o sistema de marca d'água do Google DeepMind, um sinal invisível incorporado aos pixels das imagens geradas por IA para que um detector compatível possa identificá-las posteriormente. O Google o posiciona como metade de sua estrutura de rastreabilidade, juntamente com o padrão de metadados C2PA, adotado pela indústria de IA em geral.
Em teoria, o sinal deveria resistir à compressão e até mesmo a reenvios em redes sociais. No entanto, essas afirmações ruíram na prática. As marcas d'água são detectáveis pelos serviços de IA do Google, como o Gemini. Elas não são visíveis para os usuários, que podem capturar imagens e compartilhá-las em qualquer lugar. É improvável que todos saibam que devem verificar a procedência de uma imagem. Pesquisadores também relataram que o Gemini não conseguiu identificar com precisão imagens geradas por IA com uma marca d'água SynthID.
O que isso significa para você?
Criadores de conteúdo já produziam imagens falsas geradas por IA, mostrando eventos que não aconteceram. Tradicionalmente, imagens de satélite têm sido um componente essencial do jornalismo de código aberto. Falsificar imagens de forma convincente significa atacar a base de referência que os repórteres usam para verificar se algo realmente aconteceu.
Isso também ocorre em um momento em que a confiança na IA está visivelmente diminuindo. De acordo com nossa própria pesquisa , divulgada em junho, 88% das pessoas disseram que está se tornando mais difícil distinguir o conteúdo online que é genuinamente humano ou real, com 84% afirmando que mesmo "evidências em vídeo convincentes" não parecem mais provas suficientes.
O conselho prático é respirar fundo sempre que uma imagem de satélite perturbadora de um desastre, um ataque com armas ou uma travessia de fronteira aparecer na sua timeline. Verifique se foi publicada por uma agência de notícias com um repórter identificado. Procure por uma legenda que identifique o fornecedor da imagem. Se a fonte for uma conta anônima que publicou um único frame dramático, considere que você pode estar vendo algo montado em uma aba do navegador na noite anterior.
Para obter mais informações sobre como identificar imagens de IA, consulte nosso guia .
O modelo de distribuição da indústria agora aparentemente trata os usuários como grupo de teste. A alfabetização midiática crítica é agora a única ferramenta confiável que leitores e espectadores possuem.
Desde a denúncia de ameaças até a sua remoção.
Os riscos de segurança cibernética nunca devem se espalhar além de uma manchete. Mantenha as ameaças longe de seus dispositivos fazendo o download Malwarebytes hoje mesmo.
