O que são deepfakes?

Por muitas décadas, os cineastas buscaram mudar ou aprimorar a biologia humana com maquiagem, próteses e dublês para que suas cenas parecessem mais autênticas. Mas até a tecnologia moderna de efeitos visuais (VFX), os resultados eram uma mistura. De filmes como O Irlandês e Capitã Marvel a Vingadores: Ultimato, os VFX permitem que os atores superem impossibilidades físicas. Às vezes, os VFX de Hollywood permitem que os cineastas combinem o rosto de atores com os corpos de outros performers para papéis que não estão prontos ou aptos a desempenhar.  

Mas como você pode imaginar, a tecnologia VFX moderna de Hollywood é um trabalho caro, delicado e detalhado. Claramente, nem todo mundo tem um orçamento de alguns milhões de dólares para contratar um estúdio de VFX. É aqui que a tecnologia deepfake entra em cena.

O que é um deepfake? Uma definição

Um "deepfake" refere-se a mídia recriada com a aparência e/ou voz de uma pessoa com um tipo de inteligência artificial chamado aprendizado profundo (daí o nome, deepfake). Um usuário do Reddit que compartilhou deepfakes no site cunhou o termo em 2017.

Os deepfakes são geralmente imagens, vídeos ou gravações de áudio falsas. Você pode ter visto vídeos populares de celebridades ou políticos dizendo algo que é improvável que digam na vida real. Estes são exemplos comuns de deepfakes. O surgimento dos vídeos deepfake levanta preocupações sobre um possível 'dividendo do mentiroso', onde a desinformação se prolifera, minando a confiança e distorcendo a realidade.

Como os deepfakes funcionam?

A tecnologia deepfake alavanca inteligência artificial sofisticada por meio de redes generativas adversariais (GANs), compondo dois algoritmos críticos: o gerador e o discriminador. O gerador inicia o processo criando o conteúdo falso inicial com base no resultado desejado, usando um conjunto de dados de treinamento. Enquanto isso, o discriminador avalia a autenticidade deste conteúdo, identificando áreas de melhoria. Este processo iterativo permite que o gerador melhore sua capacidade de produzir conteúdo cada vez mais realista, enquanto o discriminador se torna melhor em identificar discrepâncias para correção.

As GANs desempenham um papel crucial na criação de deepfakes ao analisar padrões em imagens genuínas para replicar esses padrões em conteúdo fabricado. Para fotografias, os sistemas GAN examinam múltiplos ângulos das imagens do alvo para capturar detalhes abrangentes. Para vídeos, eles analisam não apenas ângulos, mas também comportamento, movimento e padrões de fala. Esta análise multifacetada passa por inúmeras iterações através do discriminador para refinar o realismo do produto final.

Os vídeos deepfake surgem através de dois métodos principais: manipulando um vídeo original para alterar o que o alvo diz ou faz (deepfakes de vídeo fonte) ou trocando o rosto do alvo pelo corpo de outra pessoa (troca de rosto). Os deepfakes de vídeo fonte envolvem um autoencoder baseado em rede neural que analisa o vídeo para compreender e depois sobrepor as expressões faciais e a linguagem corporal do alvo na filmagem original. Para o áudio, um processo semelhante clona a voz de uma pessoa, permitindo replicar qualquer discurso desejado.

As principais técnicas na criação de deepfakes incluem:

• Deepfakes de vídeo fonte: Utiliza um autoencoder com um codificador para analisar atributos e um decodificador para aplicar esses atributos no vídeo alvo.
• Deepfakes de áudio: Emprega GANs para clonar padrões vocais, possibilitando a criação de réplicas de voz realistas.
• Sincronização labial: Combina gravações de voz com vídeo, aprimorando a ilusão do sujeito falando as palavras gravadas, suportada ainda mais por redes neurais recorrentes para um realismo adicional.

A criação de deepfakes é facilitada por tecnologias avançadas como redes neurais convolucionais (CNNs) para reconhecimento facial, autoencoders para mapeamento de atributos, processamento de linguagem natural (NLP) para geração de áudio sintético, e o poder computacional fornecido por sistemas de computação de alto desempenho. Ferramentas como Deep Art Effects, Deepswap e FaceApp exemplificam a acessibilidade da geração de deepfakes, apontando para um futuro em que criar deepfakes convincentes está ao alcance de muitos.

Os deepfakes são legais?

No seu cerne, os deepfakes não são inerentemente ilegais; a legalidade depende em grande parte do seu conteúdo e intenção. Essa tecnologia inovadora pode adentrar territórios ilegais se violar leis existentes sobre pornografia infantil, difamação, discurso de ódio ou outras atividades criminosas.

Até o momento, existem poucas leis que visam especificamente os deepfakes e elas variam significativamente de país para país. No entanto, a proliferação da tecnologia deepfake levanta preocupações sobre a disseminação de falsas alegações e seu impacto na confiança pública e no discurso. Já existem exceções notáveis nos Estados Unidos, onde alguns estados tomaram medidas para conter os efeitos nocivos da tecnologia deepfake:

• Texas: Este estado promulgou legislação que proíbe a criação e distribuição de deepfakes com a intenção de interferir nas eleições. Este movimento visa proteger a integridade do processo eleitoral, prevenindo a disseminação de informações enganosas ou falsas sobre candidatos através de vídeos ou gravações de áudio falsos e hiper-realistas. Além disso, o Texas aprovou uma lei que visa especificamente os deepfakes sexualmente explícitos distribuídos sem o consentimento do sujeito, buscando proteger indivíduos de angústia ou constrangimento causado por esse tipo de conteúdo. Ambos os crimes são tratados como contravenções de classe A, com penas potenciais que incluem até um ano de prisão e multas de até $4,000.
• Virgínia: Reconhecendo o dano pessoal e social causado pela pornografia deepfake, a Virgínia baniu especificamente a disseminação desse conteúdo. Esta lei visa deepfakes que exploram sexualmente indivíduos sem seu consentimento, oferecendo às vítimas uma via legal para buscar justiça. A disseminação de "revenge porn", incluindo pornografia deepfake, é classificada como uma contravenção de classe 1, punível com até 12 meses de prisão e uma multa de até $2,500.
• Califórnia: Com foco tanto nas ramificações políticas quanto pessoais dos deepfakes, a Califórnia aprovou leis contra o uso de deepfakes que visam enganar eleitores dentro de 60 dias de uma eleição. Além disso, o estado tornou ilegal criar e distribuir pornografia deepfake não consensual, refletindo a crescente preocupação com o uso desta tecnologia para prejudicar a privacidade e dignidade dos indivíduos.

A diversidade de regulamentações destaca um desafio mais amplo: muitas pessoas permanecem alheias à tecnologia deepfake, suas aplicações potenciais e os riscos que ela apresenta. Essa lacuna de conscientização contribui para um ambiente jurídico onde vítimas de deepfakes, fora de cenários específicos cobertos por leis estaduais, muitas vezes se encontram sem um recurso legal claro. A natureza em evolução da tecnologia deepfake e suas implicações exigem um público mais informado, bem como estruturas legais abrangentes para proteger indivíduos do seu potencial uso indevido.

Como os deepfakes são perigosos?

A tecnologia deepfake, embora inovadora, introduz riscos substanciais. Não se trata apenas de criar imagens ou vídeos falsos; as implicações se estendem a áreas sérias como:

• Segurança pessoal, com indivíduos enfrentando ameaças de chantagem.
• A integridade dos processos democráticos, através da fabricação de conteúdo político enganoso.
• Mercados financeiros, suscetíveis à manipulação por relatórios fabricados.
• Roubo de identidade com dados pessoais em risco de serem mal utilizados.

O cenário em evolução exige uma resposta robusta, combinando vigilância, soluções tecnológicas e estruturas legais para proteger contra essas ameaças emergentes.

Como detectar deepfakes?

Detectar conteúdo deepfake requer atenção a indicadores visuais e textuais específicos. Aqui estão alguns sinais importantes a se observar:

Indicadores visuais:

• Posicionamento facial incomum ou expressões desajeitadas.
• Movimentos não naturais do rosto ou corpo.
• Coloração inconsistente ao longo do vídeo.
• Aparências estranhas ao ampliar ou aumentar.
• Áudio desalinhado ou inconsistente.
• Falta de piscadas naturais em pessoas.

Indicadores textuais:

• Erros ortográficos e frases gramaticalmente incorretas.
• Fluxo de frases que parece não natural.
• Endereços de e-mail que parecem suspeitos.
• Formulações que não correspondem ao estilo esperado do remetente.
• Mensagens fora de contexto ou irrelevantes.

Além disso, considere anomalias comportamentais e contextuais:

• Inconsistências comportamentais: Preste atenção ao comportamento e maneiras do sujeito. Deepfakes podem não replicar com precisão traços de personalidade sutis, movimentos habituais ou respostas emocionais, fazendo o sujeito parecer ligeiramente desajustado.
• Anomalias contextuais: Analise o contexto em que o vídeo ou áudio aparece. Divergências no plano de fundo, interações inesperadas com o ambiente ou anomalias na narrativa podem indicar manipulação.

Os avanços em IA estão melhorando a detecção destes sinais, mas manter-se informado sobre estes indicadores é essencial para identificar deepfakes.

Como se defender dos deepfakes?

Uma estratégia chave na defesa contra deepfakes envolve o uso de tecnologia avançada para identificar e bloquear essas mídias falsificadas.

Agências governamentais como a Agência de Projetos de Pesquisa Avançada de Defesa do Departamento de Defesa dos EUA (DARPA) estão na vanguarda, desenvolvendo soluções de ponta para distinguir o real do manipulado. Da mesma forma, gigantes das redes sociais e empresas de tecnologia estão empregando métodos inovadores para garantir a autenticidade da mídia compartilhada em suas plataformas.

Por exemplo, algumas plataformas utilizam a tecnologia blockchain para verificar as origens de vídeos e imagens, estabelecendo fontes confiáveis e prevenindo efetivamente a disseminação de conteúdo falso.

Implementação de políticas de mídias sociais

Reconhecendo o potencial dano causado por deepfakes maliciosos, plataformas de mídia social como Facebook e Twitter adotaram uma postura firme ao bani-los. Essas políticas fazem parte de um esforço mais amplo para proteger os usuários dos efeitos negativos da mídia enganosa, sublinhando o papel da governança de plataformas na manutenção da confiabilidade digital.

Adotando software de detecção de deepfakes

A batalha contra os deepfakes também é apoiada pela inovação no setor privado. Várias empresas oferecem software sofisticado de detecção de deepfakes, proporcionando ferramentas essenciais para identificar mídias manipuladas:

• Iniciativa de autenticidade de conteúdo da Adobe: A Adobe introduziu um sistema que permite aos criadores anexar uma assinatura digital aos seus vídeos e fotos. Essa assinatura inclui informações detalhadas sobre a criação da mídia, oferecendo um método transparente para verificar a autenticidade.
• Ferramenta de detecção da Microsoft: A Microsoft desenvolveu uma ferramenta com suporte de IA que analisa vídeos e fotos para avaliar sua autenticidade. Ela fornece uma pontuação de confiança que indica a probabilidade de manipulação, ajudando os usuários a discernir a confiabilidade da mídia que encontram.
• Operação Minerva: Esta iniciativa foca em catalogar deepfakes conhecidos e suas impressões digitais. Comparando novos vídeos com este catálogo, é possível identificar modificações de falsificações previamente descobertas, aprimorando o processo de detecção.
• Plataforma de detecção da Sensity: A Sensity oferece uma plataforma que emprega aprendizado profundo para detectar mídias deepfake, análoga a como ferramentas anti-malware identificam vírus e malware. Ela alerta os usuários via email se encontrarem conteúdo deepfake, adicionando uma camada extra de proteção.

Como você pode se proteger? Passos práticos

Além dessas soluções tecnológicas, indivíduos podem tomar medidas práticas para se defender contra deepfakes:

• Mantenha-se informado: Ter consciência da existência e natureza dos deepfakes é o primeiro passo na defesa. Entendendo a tecnologia e seu potencial uso indevido, indivíduos podem abordar o conteúdo digital de forma mais crítica.
• Verificar fontes: Sempre verifique a fonte da informação. Procure por evidências corroborativas de fontes confiáveis antes de aceitar qualquer mídia como verdadeira.
• Use ferramentas de detecção confiáveis: Utilize ferramentas de detecção de deepfakes onde disponíveis. Muitas empresas e plataformas oferecem ferramentas ou plugins projetados para identificar conteúdo manipulado.
• Denuncie conteúdo suspeito: Se você encontrar o que parece ser um deepfake, denuncie à plataforma que hospeda o conteúdo. Relatórios de usuários têm um papel crucial em ajudar as plataformas a identificar e agir contra a mídia enganosa.

Defender-se contra deepfakes requer uma abordagem multifacetada, combinando inovação tecnológica, aplicação de políticas e vigilância informada. Mantendo-se informado e utilizando as ferramentas e estratégias disponíveis, indivíduos e organizações podem se proteger melhor dos efeitos perniciosos da tecnologia deepfake.

Para que os deepfakes são usados?

Os deepfakes, muitas vezes discutidos no contexto de seu potencial para causar danos, têm uma variedade de aplicações em diferentes campos. Compreender esses usos ajuda a apreciar a complexidade e dualidade da tecnologia deepfake. Aqui estão algumas aplicações chave:

• Entretenimento e mídia: A tecnologia deepfake está sendo cada vez mais usada em filmes e videogames para aprimorar efeitos visuais, como envelhecimento ou rejuvenescimento de atores, ou trazendo de volta performers falecidos para aparições especiais. Essa aplicação também pode se estender à criação de avatares virtuais realistas para interações online.
• Educação e treinamento: Em contextos educacionais, deepfakes podem criar experiências de aprendizagem imersivas, como recriações históricas ou simulações. Por exemplo, podem trazer figuras históricas à vida, oferecendo aos alunos uma maneira dinâmica de se engajar com a história.
• Arte e criatividade: Artistas e criativos estão explorando deepfakes como um novo meio de expressão. Isso inclui a geração de novas formas de arte digital, sátira ou a exploração das fronteiras entre realidade e artificialidade.
• Publicidade e marketing: As marcas podem usar a tecnologia deepfake para criar conteúdo de marketing mais envolvente e personalizado. Por exemplo, deepfakes permitem o uso de embaixadores de marca em várias campanhas sem sua presença física, potencialmente em diferentes idiomas para atender a uma audiência global.
• Campanhas políticas e sociais: Embora controversos, deepfakes têm sido usados para conscientizar sobre questões sociais ou os perigos potenciais da desinformação. Deepfakes cuidadosamente elaborados podem destacar a importância do pensamento crítico na era digital.
• Criação de mídia sintética: Os deepfakes fazem parte de uma categoria mais ampla de mídia sintética, usada para gerar áudio, vídeo ou imagens realistas para criação de conteúdo. Isso pode simplificar o processo de produção em notícias, documentários e outras formas de mídia.

Embora os deepfakes tenham um potencial promissor nessas aplicações, é crucial navegar seu uso de forma responsável, garantindo que padrões éticos sejam mantidos para prevenir uso indevido e proteger os direitos e a privacidade dos indivíduos.

Exemplos de deepfakes

Exemplos bem conhecidos de deepfakes incluem um vídeo de um Barack Obama falso zombando de Donald Trump, um Mark Zuckerberg falso se gabando de controlar os dados de bilhões de pessoas, e uma mesa redonda de celebridades deepfakeadas como Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum e Ewan McGregor.

Artigos relacionados

O que é Engenharia Social?

O que é Catfishing?

Riscos da IA na Segurança Cibernética

O que é Phishing?