O que são deepfakes?

Durante muitas décadas, os cineastas procuraram alterar ou aprimorar a biologia humana com maquiagem, próteses e dublês de corpo para tornar suas cenas mais autênticas. Porém, até a moderna tecnologia de efeitos visuais (VFX), os resultados eram mistos. De filmes como The Irishman e Captain Marvel a Avengers: Endgame, o VFX permite que os artistas superem impossibilidades físicas. Às vezes, os efeitos visuais de Hollywood permitem que os cineastas mesclem o rosto dos atores com os corpos de outros artistas para papéis para os quais eles não estão preparados ou não são capazes de desempenhar.  

Mas, como você pode imaginar, a moderna tecnologia VFX de Hollywood é um trabalho caro, delicado e detalhado. Obviamente, nem todo mundo tem um orçamento de algumas centenas de milhões de dólares para contratar um estúdio de efeitos visuais. É aqui que a tecnologia deepfake entra em cena.

O que é um deepfake? Uma definição

Um "deepfake" refere-se à mídia recriada da aparência e/ou da voz de uma pessoa por um tipo de inteligência artificial chamada aprendizagem profunda (daí o nome, deepfake). Um usuário do Reddit que compartilhava deepfakes no site cunhou o termo em 2017.

Deepfakes são normalmente imagens, vídeos ou gravações de áudio falsos. Você já deve ter visto vídeos populares de celebridades ou políticos dizendo algo que provavelmente não diriam na vida real. Esses são exemplos comuns de deepfakes. O surgimento de vídeos deepfake levanta preocupações sobre um possível "dividendo do mentiroso", em que a desinformação se prolifera, minando a confiança e distorcendo a realidade.

Como funcionam as deepfakes?

A tecnologia Deepfake aproveita a inteligência artificial sofisticada por meio de redes adversárias generativas (GANs), compreendendo dois algoritmos essenciais: o gerador e o discriminador. O gerador inicia o processo criando o conteúdo falso inicial com base em um resultado desejado, usando um conjunto de dados de treinamento. Enquanto isso, o discriminador avalia a autenticidade desse conteúdo, identificando áreas de aprimoramento. Esse processo iterativo permite que o gerador aprimore sua capacidade de produzir conteúdo cada vez mais realista, enquanto o discriminador se torna melhor na identificação de discrepâncias para correção.

Os GANs desempenham um papel fundamental na criação de deepfake, analisando padrões em imagens genuínas para replicar esses padrões em conteúdo fabricado. Para fotografias, os sistemas GAN examinam vários ângulos das imagens do alvo para capturar detalhes abrangentes. No caso de vídeos, eles analisam não apenas os ângulos, mas também o comportamento, o movimento e os padrões de fala. Essa análise multifacetada passa por várias iterações por meio do discriminador para refinar o realismo do produto final.

Os vídeos deepfake surgem por meio de dois métodos principais: a manipulação de um vídeo original para alterar o que o alvo diz ou faz (deepfakes de vídeo de origem) ou a troca do rosto do alvo pelo corpo de outra pessoa (face swaps). Os deepfakes de vídeo de origem envolvem um autocodificador baseado em rede neural que disseca o vídeo para entender e, em seguida, sobrepor as expressões faciais e a linguagem corporal do alvo à filmagem original. Para áudio, um processo semelhante clona a voz de uma pessoa, permitindo que ela replique qualquer discurso desejado.

As principais técnicas de criação de deepfake incluem:

• Deepfakes de vídeo de origem: Utiliza um codificador automático com um codificador para analisar atributos e um decodificador para aplicar esses atributos ao vídeo de destino.
• Deepfakes de áudio: Emprega GANs para clonar padrões vocais, permitindo a criação de réplicas de voz realistas.
• Sincronização labial: Combina gravações de voz com vídeo, aumentando a ilusão de que o sujeito está falando as palavras gravadas, com o suporte adicional de redes neurais recorrentes para maior realismo.

A criação de deepfakes é facilitada por tecnologias avançadas, como redes neurais convolucionais (CNNs) para reconhecimento facial, autoencoders para mapeamento de atributos, processamento de linguagem natural (NLP) para gerar áudio sintético e o poder de computação fornecido por sistemas de computação de alto desempenho. Ferramentas como Deep Art Effects, Deepswap e FaceApp exemplificam a acessibilidade da geração de deepfake, apontando para um futuro em que a criação de deepfakes convincentes estará ao alcance de muitos.

As deepfakes são legais?

Em sua essência, os deepfakes não são inerentemente ilegais; a legalidade depende em grande parte de seu conteúdo e intenção. Essa tecnologia inovadora pode entrar em território ilegal se violar as leis existentes sobre pornografia infantil, difamação, discurso de ódio ou outras atividades criminosas.

Até o momento, há poucas leis voltadas especificamente para deepfakes e elas variam significativamente de país para país. Entretanto, a proliferação da tecnologia deepfake levanta preocupações sobre a disseminação de alegações falsas e seu impacto na confiança e no discurso público. Já existem exceções notáveis nos Estados Unidos, onde alguns estados tomaram medidas para conter os efeitos nocivos da tecnologia deepfake:

• Texas: Esse estado promulgou uma legislação que proíbe a criação e a distribuição de deepfakes com a intenção de interferir nas eleições. Essa medida visa a proteger a integridade do processo eleitoral, impedindo a disseminação de informações enganosas ou falsas sobre candidatos por meio de vídeos falsos hiper-realistas ou gravações de áudio. Além disso, o Texas aprovou uma lei que visa especificamente a deepfakes sexualmente explícitos distribuídos sem o consentimento do sujeito, com o objetivo de proteger os indivíduos da angústia ou do constrangimento causados por esse tipo de conteúdo. Ambas as infrações são tratadas como contravenções de Classe A, com possíveis penalidades que incluem até um ano de prisão e multas de até US$ 4.000.
• Virgínia: Reconhecendo os danos pessoais e sociais causados pela pornografia deepfake, a Virgínia proibiu especificamente a disseminação desse tipo de conteúdo. Essa lei tem como alvo os deepfakes que exploram sexualmente indivíduos sem seu consentimento, oferecendo às vítimas uma via legal para buscar justiça. A disseminação de pornografia de vingança, inclusive pornografia deepfake, é classificada como uma contravenção de Classe 1, punível com até 12 meses de prisão e multa de até US$ 2.500.
• Califórnia: Com foco nas ramificações políticas e pessoais dos deepfakes, a Califórnia aprovou leis contra o uso de deepfakes que visam enganar os eleitores dentro de 60 dias de uma eleição. Além disso, o estado tornou ilegal a criação e a distribuição de pornografia deepfake não consensual, refletindo uma preocupação crescente com o uso dessa tecnologia para prejudicar a privacidade e a dignidade dos indivíduos.

A colcha de retalhos de regulamentações ressalta um desafio mais amplo: muitas pessoas ainda não conhecem a tecnologia deepfake, suas possíveis aplicações e os riscos que ela representa. Essa lacuna na conscientização contribui para um ambiente jurídico em que as vítimas de deepfakes, fora dos cenários específicos cobertos pelas leis estaduais, geralmente se encontram sem recursos legais claros. A natureza evolutiva da tecnologia deepfake e suas implicações exigem um público mais informado, bem como estruturas jurídicas abrangentes para proteger os indivíduos de seu possível uso indevido.

Como as deepfakes são perigosas?

A tecnologia Deepfake, embora inovadora, apresenta riscos substanciais. Não se trata apenas de criar imagens ou vídeos falsos; as implicações se estendem a domínios sérios, como:

• Segurança pessoal, com indivíduos enfrentando ameaças de chantagem.
• A integridade dos processos democráticos, por meio da fabricação de conteúdo político enganoso.
• Mercados financeiros, suscetíveis à manipulação de relatórios fabricados.
• Identity roubo com dados pessoais que correm o risco de serem usados indevidamente.

O cenário em evolução exige uma resposta robusta, combinando vigilância, soluções tecnológicas e estruturas legais para se proteger contra essas ameaças emergentes.

Como detectar deepfakes?

A detecção de conteúdo deepfake exige atenção a indicadores visuais e textuais específicos. Aqui estão alguns dos principais sinais a serem observados:

Indicadores visuais:

• Posicionamento facial incomum ou expressões incômodas.
• Movimentos não naturais do rosto ou do corpo.
• Coloração inconsistente em todo o vídeo.
• Aparências estranhas ao aumentar o zoom ou a ampliação.
• Áudio incompatível ou inconsistente.
• Falta de piscar natural nas pessoas.

Indicadores textuais:

• Erros de ortografia e frases gramaticalmente incorretas.
• Fluxo de frases que parece não ser natural.
• Endereços de e-mail que parecem suspeitos.
• Frases que não correspondem ao estilo esperado do remetente.
• Mensagens fora de contexto ou irrelevantes.

Além disso, considere as anomalias comportamentais e contextuais:

• Inconsistências comportamentais: Preste atenção ao comportamento e aos maneirismos do sujeito. Os deepfakes podem não reproduzir com precisão traços sutis de personalidade, movimentos habituais ou respostas emocionais, fazendo com que o sujeito pareça um pouco estranho.
• Anomalias contextuais: Analise o contexto em que o vídeo ou áudio aparece. Discrepâncias no plano de fundo, interações inesperadas com o ambiente ou anomalias no enredo podem indicar manipulação.

Os avanços da IA estão melhorando a detecção desses sinais, mas manter-se informado sobre esses indicadores é essencial para identificar deepfakes.

Como se defender contra deepfakes?

Uma estratégia importante na defesa contra deepfakes envolve o uso de tecnologia avançada para identificar e bloquear essas mídias falsificadas.

Agências governamentais como a Defense Advanced Research Projects Agency (DARPA) do Departamento de Defesa dos EUA estão na vanguarda, desenvolvendo soluções de ponta para distinguir o conteúdo real do manipulado. Da mesma forma, os gigantes da mídia social e as empresas de tecnologia estão empregando métodos inovadores para garantir a autenticidade da mídia compartilhada em suas plataformas.

Por exemplo, algumas plataformas utilizam a tecnologia blockchain para verificar as origens de vídeos e imagens, estabelecendo fontes confiáveis e impedindo efetivamente a disseminação de conteúdo falso.

Implementação de políticas de mídia social

Reconhecendo o possível dano causado por deepfakes maliciosos, plataformas de mídia social como o Facebook e o Twitter adotaram uma postura firme ao proibi-los. Essas políticas fazem parte de um esforço mais amplo para proteger os usuários dos impactos negativos da mídia enganosa, ressaltando a função da governança da plataforma na manutenção da confiabilidade digital.

Adoção de software de detecção de deepfake

A batalha contra as deepfakes também é apoiada pela inovação do setor privado. Várias empresas oferecem softwares sofisticados de detecção de deepfake, fornecendo ferramentas essenciais para identificar mídias manipuladas:

• Iniciativa de autenticidade de conteúdo da Adobe: A Adobe introduziu um sistema que permite aos criadores anexar uma assinatura digital a seus vídeos e fotos. Essa assinatura inclui informações detalhadas sobre a criação da mídia, oferecendo um método transparente para verificar a autenticidade.
• Ferramenta de detecção da Microsoft: A Microsoft desenvolveu uma ferramenta com tecnologia de IA que analisa vídeos e fotos para avaliar sua autenticidade. Ela fornece uma pontuação de confiança que indica a probabilidade de manipulação, ajudando os usuários a discernir a confiabilidade da mídia que encontram.
• Operação Minerva: Essa iniciativa se concentra na catalogação de deepfakes conhecidas e suas impressões digitais. Ao comparar novos vídeos com esse catálogo, é possível identificar modificações de falsificações descobertas anteriormente, aprimorando o processo de detecção.
• Plataforma de detecção da Sensity: A Sensity oferece uma plataforma que emprega aprendizagem profunda para detectar mídia deepfake, de forma análoga à maneira como as ferramentas antimalware identificam vírus e malware. Ela alerta os usuários por e-mail se eles encontrarem conteúdo deepfake, adicionando uma camada extra de proteção.

Como você pode se proteger? Etapas práticas

Além dessas soluções tecnológicas, as pessoas podem tomar medidas práticas para se defender contra deepfakes:

• Mantenha-se informado: A conscientização sobre a existência e a natureza dos deepfakes é a primeira etapa da defesa. Ao compreender a tecnologia e seu possível uso indevido, as pessoas podem abordar o conteúdo digital de forma mais crítica.
• Verifique as fontes: Sempre verifique a fonte das informações. Procure evidências corroborantes de fontes confiáveis antes de aceitar qualquer mídia como verdadeira.
• Use ferramentas de detecção confiáveis: Use ferramentas de detecção de deepfake quando disponíveis. Muitas empresas e plataformas fornecem ferramentas ou plug-ins projetados para identificar conteúdo manipulado.
• Denuncie conteúdo suspeito: Se você encontrar o que parece ser um deepfake, denuncie-o à plataforma que hospeda o conteúdo. As denúncias de usuários desempenham um papel fundamental para ajudar as plataformas a identificar e tomar medidas contra a mídia enganosa.

A defesa contra deepfakes requer uma abordagem multifacetada, combinando inovação tecnológica, aplicação de políticas e vigilância informada. Mantendo-se informados e aproveitando as ferramentas e estratégias disponíveis, indivíduos e organizações podem se proteger melhor dos efeitos perniciosos da tecnologia deepfake.

Para que são usadas as deepfakes?

As deepfakes, embora frequentemente discutidas no contexto de seu potencial de dano, têm uma série de aplicações em vários campos. Compreender esses usos ajuda a avaliar a complexidade e a natureza dupla da tecnologia deepfake. Aqui estão algumas das principais aplicações:

• Entretenimento e mídia: A tecnologia Deepfake é cada vez mais usada em filmes e videogames para aprimorar os efeitos visuais, como envelhecer ou desenvelhecer atores, ou trazer artistas falecidos de volta à vida para aparições especiais. Esse aplicativo também pode se estender à criação de avatares virtuais realistas para interações on-line.
• Educação e treinamento: Em contextos educacionais, os deepfakes podem criar experiências de aprendizado imersivas, como encenações históricas ou simulações. Por exemplo, elas podem dar vida a figuras históricas, oferecendo aos alunos uma maneira dinâmica de se envolver com a história.
• Arte e criatividade: Artistas e criativos estão explorando os deepfakes como um novo meio de expressão. Isso inclui a geração de novas formas de arte digital, sátira ou a exploração dos limites entre realidade e artificialidade.
• Publicidade e marketing: As marcas podem usar a tecnologia deepfake para criar conteúdo de marketing mais envolvente e personalizado. Por exemplo, os deepfakes permitem o uso de embaixadores da marca em várias campanhas sem sua presença física, potencialmente em diferentes idiomas para atender a um público global.
• Campanhas políticas e sociais: Embora controversos, os deepfakes têm sido usados para aumentar a conscientização sobre questões sociais ou os possíveis perigos da desinformação. Os deepfakes cuidadosamente elaborados podem destacar a importância do pensamento crítico na era digital.
• Criação de mídia sintética: Os deepfakes fazem parte de uma categoria mais ampla de mídia sintética, usada para gerar áudio, vídeo ou imagens realistas para a criação de conteúdo. Isso pode simplificar o processo de produção de notícias, documentários e outras formas de mídia.

Embora as deepfakes tenham um potencial promissor em todos esses aplicativos, é fundamental navegar pelo seu uso de forma responsável, garantindo que os padrões éticos sejam mantidos para evitar o uso indevido e proteger os direitos e a privacidade dos indivíduos.

Exemplos de deepfakes

Exemplos bem conhecidos de deepfakes incluem um vídeo de um Barack Obama falso tirando sarro de Donald Trump, um Mark Zuckerberg falso se gabando de controlar os dados de bilhões de pessoas e uma mesa redonda de celebridades deepfakes como Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum e Ewan McGregor.

Artigos relacionados

O que é engenharia social?

O que é Catfishing?

Riscos da IA no setor cibernético Security

O que é phishing?