Esta semana, no podcast Lock and Code...
Se até agora não levava deepfakes , agora já é tarde demais para os ignorar.
De acordo com um novo estudo da Malwarebytes, uma em cada três pessoas que utiliza IA diariamente afirmou que não há problema em gerar pornografia de pessoas sem o seu consentimento.
Há quase 10 anos, a tecnologiadeepfakeproporcionou a amadores e editores de vídeo ferramentas de inteligência artificial (IA) para substituir o rosto de uma pessoa pelo corpo de outra. Nos seus primórdios, esta tecnologia deu origem a experiências cinematográficas divertidas, como a substituição de Tom Cruise por Keanu Reeves no filme «Missão Impossível». Hoje em dia, essa mesma tecnologia produz algo muito mais prejudicial: imagens falsas de adolescentes nus.
No podcast «Lock and Code» de hoje, com o apresentador David Ruiz, revisitamos uma entrevista de 2024, na qual conversámos com um advogado chamado David Chiu sobre o seu processo judicial contra 16 sites de geração deepfake .
Os sites mencionados nesse processo judicial muitas vezes precisavam apenas de uma imagem de uma pessoa para gerar pornografia falsa. E embora quase toda a gente tenha pelo menos uma imagem sua online, mesmo que tivessem centenas, o caminho para a eliminação é, de certa forma, compreensível — começa-se por desativar e eliminar as contas mais populares nas redes sociais. Mas para os adolescentes de hoje, que cresceram principalmente online e que partilham imagens diretamente com amigos, namorados, namoradas e ex-namorados, é provavelmente impossível remover todos os vestígios visuais de si próprios. Além disso, não deveriam ter de enfrentar este problema sozinhos.
O podcast «Lock and Code» aborda frequentemente problemas estruturais que exigem uma gestão individual. É preciso contornar a recolha de dados por parte das empresas. É preciso localizar os leitores automáticos de matrículas na sua cidade. É preciso analisar cada mensagem que recebe com um certo cepticismo, para se proteger contra fraudes.
Por isso, é raro encontrar uma solução que beneficie mais do que uma pessoa.
Chiu é o procurador municipal de São Francisco, o que significa que o seu departamento pode intentar uma ação judicial em nome não só dos habitantes de São Francisco, mas também da Califórnia, e foi isso que a sua equipa fez ao processar os deepfake .
Desde então, o departamento de Chiu encerrou 10 sites deepfake e recebeu um acordo de resolução de uma empresa chamada Briver LLC, no sentido de esta deixar de operar qualquer site que crie deepfake sem consentimento.
E, tal como acontece na Califórnia, assim acontece no resto do país.
Em maio do ano passado, a Lei «Take It Down» entrou em vigor nos Estados Unidos, criminalizando a «pornografia de vingança» e as imagens íntimas não consentidas geradas por IA. A lei não é perfeita, mas, até agora, está a ser aplicada conforme previsto. No mês passado, dois homens nos EUA foram dos primeiros a serem acusados de violar a Lei Take It Down por alegadamente criarem deepfake que, segundo a AP, «incluíam tanto celebridades como mulheres comuns, incluindo recém-formadas do ensino secundário».
Hoje, retomamos a nossa conversa com o procurador municipal de São Francisco, David Chiu, sobre a importante luta contra deepfake e a clara ameaça que o seu departamento identificou para a população.
«Pelo menos um destes sites promove especificamente o facto de isto não ser consensual. Por isso, e vou apenas citar: “Imagina perder tempo a levá-la a sair em encontros quando podes simplesmente usar o site X conseguir fotos dela nua.”»
Sintonize hoje para ouvir a conversa completa.
Mostrar notas e créditos:
Música de introdução: “Spellbound” por Kevin MacLeod (incompetech.com)
Licenciada sob Creative Commons: Por Atribuição 4.0 Licença
http://creativecommons.org/licenses/by/4.0/
Música de encerramento: “Good God” por Wowa (unminus.com)
Ouça bem:Malwarebytes fala apenas sobre segurança cibernética, nós a fornecemos.
Proteja-se contra ataques online que ameaçam a sua identidade, os seus ficheiros, o seu sistema e o seu bem-estar financeiro coma nossaoferta exclusiva do Malwarebytes Premium para os ouvintes do Lock and Code.
