O que são deepfakes ?

Principais conclusões

• Deepfakes conteúdos multimédia gerados por IA (vídeos, imagens ou áudio) que imitam de forma realista a aparência ou a voz de uma pessoa, dando a impressão de que esta disse ou fez algo que, na realidade, nunca fez.
• São criados através de técnicas avançadas de aprendizagem automática que analisam dados reais para produzir conteúdos falsos altamente convincentes, incluindo trocas de rostos, vídeos alterados e vozes clonadas.
• Deepfakes riscos significativos, tais como desinformação, fraude, roubo de identidade, danos à reputação e manipulação da opinião pública ou dos mercados financeiros.
• Muitas vezes, podem ser identificados através de inconsistências subtis, como movimentos faciais pouco naturais, desfasamento entre o áudio e a imagem, falhas visuais ou contextos e comportamentos invulgares.
• A proteção passa por manter uma atitude cética em relação aos meios de comunicação, verificar as fontes, utilizar ferramentas de deteção, denunciar conteúdos suspeitos e recorrer a plataformas e tecnologias concebidas para identificar conteúdos manipulados.

O que é um deepfake ?

Durante muitas décadas, os realizadores procuraram alterar ou melhorar a biologia humana com maquilhagem, próteses e duplos corporais para tornar as suas cenas mais autênticas. Mas até à moderna tecnologia de efeitos visuais (VFX), os resultados eram mistos. De filmes como The Irishman e Captain Marvel a Avengers: Endgame, os efeitos visuais permitem que os actores superem impossibilidades físicas. Por vezes, os efeitos visuais de Hollywood permitem aos realizadores fundir o rosto dos actores com os corpos de outros artistas para papéis para os quais não estão preparados ou que não são capazes de desempenhar.  

Mas, como pode imaginar, a tecnologia moderna de efeitos visuais de Hollywood é cara, delicada e exige um trabalho minucioso. Obviamente, nem todos têm um orçamento de algumas centenas de milhões de dólares para contratar um estúdio de efeitos visuais. É aí que entra a questão: deepfake A tecnologia entra em cena. Um “ deepfake "Refere-se à recriação da aparência e/ou voz de uma pessoa através de um tipo de inteligência artificial chamada aprendizagem profunda (daí o nome, deepfake Um utilizador do Reddit que partilhou deepfakes O termo foi criado no site em 2017.

Os deepfakes são geralmente imagens, vídeos ou gravações de áudio falsas. Pode ter visto vídeos populares de celebridades ou políticos a dizer algo que provavelmente não diriam na vida real. Estes são exemplos comuns de deepfakes. deepfakes O surgimento de deepfake Os vídeos levantam preocupações sobre um potencial "dividendo do mentiroso", onde a desinformação prolifera, minando a confiança e distorcendo a realidade.

Como deepfakes trabalho?

A tecnologia Deepfake utiliza inteligência artificial sofisticada através de redes adversárias generativas (GANs), que incluem dois algoritmos críticos: o gerador e o discriminador. O gerador inicia o processo criando o conteúdo falso inicial com base em um resultado desejado, usando um conjunto de dados de treinamento. Entretanto, o discriminador avalia a autenticidade deste conteúdo, identificando áreas de melhoria. Este processo iterativo permite que o gerador melhore a sua capacidade de produzir conteúdos cada vez mais realistas, enquanto o discriminador se torna melhor na identificação de discrepâncias para correção.

As GAN desempenham um papel fundamental na deepfake A criação de conteúdo falso é feita através da análise de padrões em imagens reais para os replicar em conteúdo fabricado. No caso das fotografias, os sistemas GAN examinam múltiplos ângulos das imagens do alvo para captar detalhes abrangentes. Para vídeos, analisam não só os ângulos, mas também o comportamento, os movimentos e os padrões de fala. Esta análise multifacetada passa por inúmeras iterações através do discriminador para refinar o realismo do produto final.

Os vídeos deepfake surgem através de dois métodos principais: manipulação de um vídeo original para alterar o que o alvo diz ou faz (vídeo de origem). deepfakes ) ou trocando o rosto da vítima pelo corpo de outra pessoa (troca de rostos). Vídeo de origem deepfakes Envolve um autoencoder baseado numa rede neural que analisa o vídeo para compreender e, em seguida, sobrepõe as expressões faciais e a linguagem corporal do alvo à filmagem original. Para o áudio, um processo semelhante clona a voz de uma pessoa, permitindo replicar qualquer discurso desejado.

Técnicas-chave em deepfake A criação inclui:

• deepfakes de vídeo de origem : Utiliza um autoencoder com um codificador para analisar atributos e um descodificador para aplicar esses atributos ao vídeo de destino.
• deepfakes áudio : Utilizam GANs (Redes Adversárias Generativas) para clonar padrões vocais, permitindo a criação de réplicas de voz realistas.
• Sincronização labial: Faz corresponder as gravações de voz ao vídeo, aumentando a ilusão de que o sujeito está a falar as palavras gravadas, com o apoio de redes neurais recorrentes para maior realismo.

A criação de deepfakes é facilitada por tecnologias avançadas como as redes neuronais convolucionais (CNNs) para reconhecimento facial, autoencoders para mapeamento de atributos, processamento de linguagem natural (PLN) para geração de áudio sintético e o poder computacional proporcionado por sistemas de computação de alto desempenho. Ferramentas como Deep Art Effects, Deepswap e FaceApp exemplificam a acessibilidade de deepfake geração, apontando para um futuro onde a criação convincente deepfakes Está ao alcance de muitos.

São deepfakes legal?

Na sua essência, deepfakes Não são inerentemente ilegais; a legalidade depende em grande parte do seu conteúdo e intenção. Esta tecnologia inovadora pode entrar em território ilegal se violar as leis em vigor sobre pornografia infantil, difamação, discurso de ódio ou outras atividades criminosas.

Até à data, existem poucas leis que visem especificamente este objetivo. deepfakes e variam significativamente de país para país. No entanto, a proliferação de deepfake A tecnologia levanta preocupações sobre a disseminação de informações falsas e o seu impacto na confiança pública e no debate. Já existem exceções notáveis ​​nos Estados Unidos, onde alguns estados tomaram medidas para conter os efeitos nocivos da desinformação. deepfake tecnologia:

• Texas: Este estado promulgou legislação que proíbe a criação e distribuição de deepfakes com a intenção de interferir nas eleições. Esta medida visa salvaguardar a integridade do processo eleitoral, impedindo a divulgação de informações enganosas ou falsas sobre os candidatos através de vídeos ou gravações áudio falsos e hiper-realistas. Além disso, o Texas aprovou uma lei que visa especificamente o conteúdo sexualmente explícito. deepfakes distribuído sem o consentimento do sujeito, visando proteger os indivíduos de angústia ou constrangimento causados ​​por tal conteúdo. Ambas as infrações são tratadas como contraordenações de Classe A, com possíveis penalizações que incluem até um ano de prisão e multas até 4.000 dólares .
• Virgínia: Reconhecendo os danos pessoais e sociais causados ​​por deepfake A Virgínia proibiu especificamente a divulgação de pornografia. Esta lei visa deepfakes que exploram sexualmente indivíduos sem o seu consentimento, oferecendo às vítimas um caminho legal para procurar justiça. A difusão de pornografia de vingança, incluindo deepfake A pornografia é classificada como uma contravenção de Classe 1, punível com até 12 meses de prisão e uma multa até 2.500 dólares.
• Califórnia: Com foco nas ramificações políticas e pessoais da deepfakes A Califórnia aprovou leis contra o uso de deepfakes , que visam enganar os eleitores nos 60 dias que antecedem uma eleição. Além disso, o estado tornou ilegal a criação e distribuição de deepfakes sem consentimento. deepfake pornografia, refletindo uma crescente preocupação com a utilização desta tecnologia para prejudicar a privacidade e a dignidade dos indivíduos.

A variedade de regulamentos evidencia um desafio mais vasto: muitas pessoas continuam a desconhecer deepfake tecnologia, as suas potenciais aplicações e os riscos que representa. Esta lacuna de conhecimento contribui para um ambiente jurídico onde as vítimas de deepfakes , fora de cenários específicos abrangidos pelas leis estaduais, vêem-se muitas vezes sem um recurso legal claro. A natureza evolutiva dos deepfake A tecnologia e as suas implicações exigem um público mais bem informado, bem como quadros jurídicos abrangentes para proteger os indivíduos do seu potencial uso indevido.

Como está deepfakes perigoso?

A tecnologia Deepfake , embora inovadora, apresenta riscos substanciais. Não se trata apenas de criar imagens ou vídeos falsos; as implicações estendem-se a domínios sérios como:

• Segurança pessoal, com indivíduos que enfrentam ameaças de chantagem.
• A integridade dos processos democráticos, através da fabricação de conteúdos políticos enganosos.
• Mercados financeiros, susceptíveis de serem manipulados por relatórios fabricados.
• Roubo Identity com risco de utilização indevida de dados pessoais.

O cenário em evolução exige uma resposta robusta, combinando vigilância, soluções tecnológicas e quadros jurídicos para proteção contra estas ameaças emergentes.

Como detetar deepfakes ?

Detecção deepfake O conteúdo exige atenção a indicadores visuais e textuais específicos. Aqui estão alguns sinais importantes a ter em conta:

Indicadores visuais:

• Posicionamento facial invulgar ou expressões incómodas.
• Movimentos não naturais do rosto ou do corpo.
• Coloração inconsistente em todo o vídeo.
• Aparências estranhas quando se faz zoom ou ampliação.
• Áudio incompatível ou inconsistente.
• Falta de pestanejo natural nas pessoas.

Indicadores textuais:

• Erros ortográficos e frases gramaticalmente incorrectas.
• Fluxo de frases que parece não ser natural.
• Endereços de correio eletrónico que parecem suspeitos.
• Frases que não correspondem ao estilo esperado do remetente.
• Mensagens fora de contexto ou irrelevantes.

Além disso, considere as anomalias comportamentais e contextuais:

• Incoerências comportamentais: Preste atenção ao comportamento e maneirismos do sujeito. Deepfakes podem não reproduzir com precisão traços de personalidade subtis, movimentos habituais ou reacções emocionais, fazendo com que o sujeito pareça ligeiramente estranho.
• Anomalias contextuais: Analisar o contexto em que o vídeo ou áudio aparece. Discrepâncias no fundo, interações inesperadas com o ambiente ou anomalias no enredo podem indicar manipulação.

Os avanços na IA estão a melhorar a deteção destes sinais, mas manter-se informado sobre estes indicadores é essencial para a identificação. deepfakes .

Como se defender de deepfakes ?

Uma estratégia fundamental na defesa contra deepfakes Envolve o uso de tecnologia avançada para identificar e bloquear estes meios falsificados.

Agências governamentais como a Defesa do Departamento de Defesa dos EUA Advanced A Agência de Projetos de Investigação Avançada em Defesa (DARPA) está na vanguarda, desenvolvendo soluções de ponta para distinguir conteúdo real de conteúdo manipulado. Da mesma forma, os gigantes das redes sociais e as empresas de tecnologia estão a empregar métodos inovadores para garantir a autenticidade dos meios partilhados nas suas plataformas.

Por exemplo, algumas plataformas utilizam a tecnologia de cadeia de blocos para verificar a origem de vídeos e imagens, estabelecendo fontes fiáveis e impedindo eficazmente a propagação de conteúdos falsos.

Implementação de políticas para as redes sociais

Reconhecer o potencial dano causado por atos maliciosos. deepfakes , plataformas de redes sociais como Facebook e Twitter adotaram uma postura firme ao bani-los. Estas políticas fazem parte de um esforço mais amplo para proteger os utilizadores dos impactos negativos dos meios de comunicação enganadores, sublinhando o papel da governação das plataformas na manutenção da fiabilidade digital.

Adotando deepfake software de detecção

A batalha contra deepfakes é também apoiada pela inovação do sector privado. Diversas empresas oferecem soluções sofisticadas. deepfake Software de deteção, fornecendo ferramentas essenciais para identificar os meios manipulados:

• A iniciativa de autenticidade de conteúdos da Adobe: A Adobe introduziu um sistema que permite aos criadores anexar uma assinatura digital aos seus vídeos e fotografias. Esta assinatura inclui informações pormenorizadas sobre a criação do suporte, oferecendo um método transparente de verificação da autenticidade.
• Ferramenta de deteção da Microsoft: A Microsoft desenvolveu uma ferramenta baseada em IA que analisa vídeos e fotografias para avaliar a sua autenticidade. Fornece uma pontuação de confiança que indica a probabilidade de manipulação, ajudando os utilizadores a discernir a fiabilidade dos meios de comunicação com que se deparam.
• Operação Minerva : Esta iniciativa centra-se na catalogação de espécies conhecidas. deepfakes e as suas impressões digitais. Ao comparar novos vídeos com este catálogo, é possível identificar modificações em falsificações previamente descobertas, melhorando o processo de deteção.
• Plataforma de deteção da Sensity : A Sensity oferece uma plataforma que utiliza a aprendizagem profunda para detetar deepfake Os media, de forma análoga à forma como as ferramentas antimalware identificam vírus e malware , alertam os utilizadores por e-mail caso encontrem algum. deepfake conteúdo, acrescentando uma camada extra de proteção.

Como se pode proteger? Passos práticos

Para além destas soluções tecnológicas, os indivíduos podem tomar medidas práticas para se defenderem contra deepfakes :

• Mantenha-se informado : Esteja ciente da existência e da natureza dos deepfakes É o primeiro passo na defesa. Ao compreender a tecnologia e o seu potencial uso indevido, os indivíduos podem abordar o conteúdo digital de forma mais crítica.
• Verificar as fontes: Verifique sempre a fonte da informação. Procure provas corroborantes de fontes respeitáveis antes de aceitar qualquer meio de comunicação como verdadeiro.
• Utilize ferramentas de detecção fiáveis ​​: Empregue deepfake Ferramentas de deteção, quando disponíveis. Muitas empresas e plataformas disponibilizam ferramentas ou plugins desenvolvidos para identificar conteúdo manipulado.
• Denunciar conteúdo suspeito : Se encontrar o que parece ser um deepfake Denuncie à plataforma que aloja o conteúdo. As denúncias dos utilizadores desempenham um papel crucial para ajudar as plataformas a identificar e tomar medidas contra o conteúdo enganador.

Defendendo-se contra deepfakes Requer uma abordagem multifacetada, combinando inovação tecnológica, aplicação de políticas e vigilância informada. Mantendo-se informados e aproveitando as ferramentas e estratégias disponíveis, os indivíduos e as organizações podem proteger-se melhor dos efeitos perniciosos da deepfake tecnologia.

O que são deepfakes Utilizado para quê?

Embora frequentemente discutidos no contexto do seu potencial prejudicial, os deepfakes têm uma vasta gama de aplicações em diversos campos. Compreender estes usos ajuda a apreciar a complexidade e a natureza dual desta tecnologia. deepfake Tecnologia. Aqui estão algumas aplicações principais:

• Entretenimento e media: A tecnologia Deepfake é cada vez mais utilizada em filmes e jogos de vídeo para melhorar os efeitos visuais, como envelhecer ou des-envelhecer actores, ou trazer artistas falecidos de volta à vida para aparições especiais. Esta aplicação pode também estender-se à criação de avatares virtuais realistas para interações em linha.
• Educação e formação : Em contextos educativos, deepfakes Podem criar experiências de aprendizagem imersivas, como reconstituições ou simulações históricas. Por exemplo, podem dar vida a figuras históricas, oferecendo aos alunos uma forma dinâmica de se envolverem com a história.
• Arte e criatividade : Artistas e criativos estão a explorar deepfakes como um novo meio de expressão. Isto inclui gerar novas formas de arte digital, sátira ou explorar as fronteiras entre a realidade e a artificialidade.
• Publicidade e marketing : as marcas podem utilizar deepfake tecnologia para criar conteúdo de marketing mais envolvente e personalizado. Por exemplo, deepfakes Permitir a utilização de embaixadores da marca em diversas campanhas sem a sua presença física, potencialmente em diferentes idiomas para servir um público global.
• Campanhas políticas e sociais : Embora controversas, deepfakes Foram utilizadas para sensibilizar para as questões sociais ou para os potenciais perigos da desinformação. Cuidadosamente elaboradas. deepfakes Pode destacar a importância do pensamento crítico na era digital.
• Criação de media sintéticos: Deepfakes fazem parte de uma categoria mais vasta de meios sintéticos, utilizados para gerar áudio, vídeo ou imagens realistas para a criação de conteúdos. Isto pode simplificar o processo de produção de notícias, documentários e outras formas de media.

Enquanto deepfakes Apesar de terem um potencial promissor em diversas aplicações, é crucial que a sua utilização seja conduzida de forma responsável, garantindo a manutenção de padrões éticos para prevenir o uso indevido e proteger os direitos e a privacidade dos indivíduos.

Exemplos de deepfakes

Exemplos bem conhecidos de deepfakes Inclui um vídeo de um Barack Obama falso a gozar com Donald Trump, um Mark Zuckerberg falso a gabar-se de controlar os dados de milhares de milhões de pessoas e uma mesa redonda com celebridades criadas por deepfake, como Tom Cruise, George Lucas, Robert Downey Jr., Jeff Goldblum e Ewan McGregor.

Artigos relacionados

O que é a engenharia social?

O que é catfishing ?

Riscos da IA na cibersegurança

O que é o phishing?