Se você está preocupado com a possibilidade de deepfake suas aparecerem na internet, saiba que não está sozinho; YouTube preocupado com você. A plataforma quer protegê-lo, pedindo que você envie um vídeo com uma selfie e um documento de identidade oficial para o site.
A ideia é que a gigante do vídeo utilize sua própria IA para monitorar o serviço em busca de vídeos falsos que utilizem sua imagem. Em troca, você terá a oportunidade de solicitar a remoção desses vídeos.
No entanto, isso não está disponível para todos. É destinado a celebridades, pessoas em empregos vulneráveis e, agora, à maioria YouTube .
YouTube trabalhando nesse conceito, que denomina de “sistema de detecção de semelhanças”, desde que apresentou a ideia publicamente pela primeira vez em setembro de 2024. Em dezembro daquele ano, a empresa firmou uma parceria com a Creative Artists Agency, que permitiu o uso da tecnologia com figuras do esporte e do entretenimento.
Em outubro do ano passado, a empresa ampliou o recurso de detecção de imagens para abranger mais criadores de conteúdo e, em março, ampliou-o novamente para incluir políticos e jornalistas. No mês passado, ampliou ainda mais o alcance, oferecendo o serviço a celebridades de Hollywood. A empresa acrescentou que elas podem usar o serviço independentemente de terem uma YouTube .
Agora, em sua mais recente iniciativa, qualquer pessoa com 18 anos ou mais que tenha uma selfie e um documento de identidade pode se inscrever. Pelo menos em teoria, já que o recurso ainda não foi disponibilizado para todos. Além disso, ele se aplica apenas a rostos; os clones de voz gerados por IA são um problema totalmente diferente.
O risco à privacidade
Privacy alertaram que o sistema de reconhecimento de rostos YouTubepoderia tornar comum a entrega de dados biométricos a grandes plataformas de tecnologia, mesmo que YouTube os dados são utilizados apenas para aprimorar os modelos de reconhecimento de rostos, com a permissão dos criadores.
Na página de ajuda do serviço de detecção de semelhanças, YouTube os criadores podem decidir separadamente se seus modelos de rosto e voz serão usados para aprimorar os modelos de detecção de semelhanças.
“Ao se inscrever no recurso de detecção de semelhança, você também tem a opção de permitir YouTube use seus modelos faciais e de voz para desenvolver e aprimorar os modelos de detecção de semelhança. Isso nos ajuda a criar tecnologias de detecção de semelhança melhores e mais precisas.”
Adicionando:
“Você pode, a qualquer momento, optar por não permitir que YouTubeutilize esses dados para o desenvolvimento e o aprimoramento de modelos de representação.”
YouTube apoia a legislação destinada a combater deepfakes, como as leis NO FAKES e TAKE IT DOWN. Essas leis foram criadas para ajudar a impedir o uso indevido da imagem de alguém na internet. A lei TAKE IT DOWN, que entrou em vigor há um ano, concentra-se exclusivamente em “imagens íntimas sem consentimento”. Mas isso não abrange outros tipos de deepfakes, como políticos falsos ou endossos de celebridades. Esses casos estão se tornando cada vez mais comuns. A lei NO FAKES, que ainda não entrou em vigor, tem um escopo muito mais amplo, conferindo às pessoas direitos federais sobre sua própria imagem.
Então, vale a pena fazer a troca?
Deepfakes, sejam eles de conteúdo íntimo ou não, são definitivamente uma ameaça, especialmente para os YouTubers que ganham popularidade. E a barreira à entrada está cada vez mais baixa. Os próprios pesquisadores da DeepMind, do Google, descobriram que a maior parte do uso indevido da IA generativa não é sofisticada; trata-se de uma simples manipulação de imagens por qualquer pessoa que tenha um navegador.
Então, você entrega sua foto e seu documento de identidade oficial, em nome da sua própria segurança, a uma empresa cujas práticas de coleta de dados têm sido alvo de críticas há anos, e torce para que suas políticas não mudem? Ou prefere ignorar isso e torcer para que os deepfake não decidam fazer de você um alvo?
Os criadores que comentaram no vídeo YouTubeque revelou o serviço há seis meses não ficaram nada impressionados. Um comentarista disse:
“Eu estava 100% a favor, até o momento de enviar o documento de identidade. Isso me deixa muito desconfortável.”
Fazendo eco a várias outras pessoas que reclamaram da dificuldade em obter uma resposta aos pedidos de remoção, outra pessoa acrescentou:
“Se YouTube agisse com base nesse tipo de denúncia, eu seria mais a favor disso.”
Quer você decida assinar o serviço ou não, certifique-se de fazê-lo com os olhos bem abertos.
