Vídeos de Halloween com IA: Quem está a tirar as suas fotografias?

Neste Halloween, a inteligência artificial está a tratar das fantasias. Envie uma fotografia e poderá transformar-se num vampiro, rodear o seu cão de abóboras ou protagonizar uma "história de amor zombie" viral: o seu parceiro transformou-se, baixa a arma e o salto do zombie termina num abraço.

Mas antes de fazer o upload, sabe quem vai receber as suas fotos?

Em setembro, escrevemos sobre mais de 100 sites de subscrição construídos com o mesmo kit de site barato . Com o Halloween a aproximar-se, descobrimos que a mesma abordagem está a ser utilizada para vender vídeos de Halloween com inteligência artificial.

Não encontrámos malware ou phishing nos sites que examinámos. O que nos preocupou foi a pouca informação disponível sobre quem os operava e quem seria o responsável pelas fotos que as pessoas transportavam.

Refinado, simpático e anónimo.

Estes sites parecem profissionais e transmitem segurança. Prometem privacidade, têm perguntas frequentes e políticas de reembolso, e alguns até incluem caixas de seleção de consentimento para fotografias de crianças. Um deles auto-intitula-se “uma ferramenta independente, sem ligações à TikTok ou a qualquer estúdio de cinema”.

O que não revelam é quem está por trás. Nos sites que verificámos, não encontrámos o nome da empresa, morada ou operador identificado, apenas um e-mail de suporte no próprio domínio do site.

Para onde vão as suas fotos?

Estes sites pedem fotos nítidas e bem iluminadas de si, do seu companheiro(a), dos seus amigos, dos seus animais de estimação e, com a autorização dos pais, dos seus filhos.

Os sites que analisámos afirmam depender de fornecedores externos de IA para gerar os vídeos. Isto significa que está a confiar tanto no site que recolhe as suas fotos como nos fornecedores que as processam.

Sempre que publicar fotografias, verifique quem pode aceder às mesmas e como podem ser utilizadas. Os burlões podem usar a imagem de alguém para criar fotos íntimas falsas e exigir dinheiro para as manter em segredo. No nosso relatório Face Value , 10% dos inquiridos afirmaram ter recebido ameaças de divulgação de conteúdo explícito gerado por inteligência artificial. Não encontramos provas de que isto tenha acontecido nestes sites de Halloween, mas é um motivo para ter cuidado onde partilha as suas fotografias.

Os sites prometem apagar os uploads em poucos dias, e não temos provas de que não o façam. No entanto, não conseguimos verificar estas promessas de forma independente. Sem um operador identificável, é mais difícil determinar quem é o responsável por lidar com as suas fotografias e responder aos pedidos de eliminação.

O login do Google não identifica todas as pessoas que mexem nas suas fotografias.

Estes sites utilizam o ecrã de login do Google, pelo que introduz a sua palavra-passe no Google, não no site de vídeos. Mas usar o Google para fazer login não significa que o Google apoie o serviço ou garanta as suas promessas de privacidade.

Clique no nome da aplicação na janela de login do Google e verá as informações do programador . Num dos sites que verificámos, o único contacto listado era um endereço do Gmail. Observamos o mesmo nos sites de setembro. Um endereço Gmail por si só não comprova irregularidades, mas também não ajuda a identificar o operador.

Noutra mensagem, a Google disse que estava a fazer login “para continuar no neon.tech”. A Neon é uma empresa legítima de bases de dados e fornecedora de serviços de autenticação . O facto de o seu nome aparecer aqui não significa que ela opere ou endosse o site de vídeos de Halloween.

Os fornecedores de login podem gerir o login do Google em nome de um website. Dependendo da configuração, o Google pode exibir o domínio do fornecedor em vez do nome do site de vídeos. Neste caso, o ecrã de login não indicava claramente aos visitantes quem operava o serviço de Halloween.

Construído a partir de um kit, reciclado para a próxima tendência.

Sites como estes não exigem necessariamente uma equipa ou meses de trabalho. Alguns usam o mesmo kit de site de 249 dólares sobre o qual escrevemos em setembro, que promete que pode “lançar o seu produto de IA numa hora”. Num site de Halloween, os programadores nem sequer tinham removido o conteúdo de exemplo do kit. Escondida na página, havia uma nota a dizer que era “um site de demonstração” para o modelo, juntamente com links de espaço reservado como “nome-da-sua-aplicação”.

O código de outro site continha vestígios de um criador de vídeos de rap e dança com IA, incluindo um palco que simulava o átrio de um hotel, um estúdio de gravação e letras de rap escritas por IA. Estes vestígios sugerem que o site utiliza código também destinado a outros serviços de vídeo com IA.

Usar um kit para criar sites não é suspeito em si. Mas uma página bem acabada pode ser montada rapidamente, pelo que a sua aparência pouco diz sobre a empresa que trata das suas fotos.

Não tenha pressa antes de pagar também.

Num dos sites, um único clipe de zombies de 15 segundos custava 9,99 dólares. A página de preços incentivava os visitantes a comprar pacotes maiores, reduzindo o preço anunciado por vídeo para 2,99 dólares. Mas este preço mais baixo significava gastar 199 dólares em créditos suficientes para ver cerca de 66 filmes de zombies. Havia também planos mensais e anuais, que custavam até 600 dólares por ano.

Um dos sites também utilizou ofertas com contagem decrescente, lembretes no separador do browser e afirmações sobre quantas pessoas tinham feito filmes naquele dia para incentivar os visitantes a comprar.

Não precisa de ter pressa. Verifique os termos de pagamento com a mesma atenção que a política de privacidade. Os próprios sites alertam que a IA pode alterar rostos, pelo que o seu vídeo pode não se parecer muito consigo. De acordo com as políticas que analisámos, os créditos são devolvidos caso o vídeo não seja gerado. Mas se simplesmente não gostar do resultado, tentar novamente custa mais créditos.

As subscrições são renovadas automaticamente até que as cancele, os planos anuais são cobrados de uma só vez e alguns créditos expiram antes de serem utilizados.

O que verificar antes de enviar as suas fotografias

Independentemente da ferramenta ou plataforma que escolher, certifique-se de que se sente confortável com a forma como esta irá lidar com os seus dados, as suas fotografias e as suas informações de pagamento.

• Descubra quem gere o serviço. Procure um operador identificado e informações de contacto claras. Se não conseguir identificar quem será o responsável pelas suas fotos, considere outro serviço.
• Verifique para onde são enviadas as suas fotos. Leia a política de privacidade para obter informações sobre fornecedores externos de IA, períodos de conservação e se os ficheiros enviados podem ser utilizados para formação de IA.
• Procure um processo de eliminação. Verifique como solicitar a eliminação e se a política explica o que acontece às cópias guardadas por fornecedores externos.
• Tenha especial cuidado com as fotografias de crianças. Uma caixa de seleção de consentimento dos pais não explica como é que um serviço as irá proteger. Só faça o upload de fotografias de outras pessoas com a sua autorização.
• Leia a janela de login do Google. Verifique os detalhes do programador e quaisquer permissões solicitadas. O login do Google não substitui a verificação do próprio serviço.
• Ignore as contagens decrescentes e verifique os termos de pagamento. Dedique algum tempo a compreender o custo total, a validade do crédito e se a sua compra inicia uma subscrição.
• Em seguida, reveja as suas ligações do Google. Remova os serviços que já não utiliza das ligações de terceiros da sua conta Google . Este não cancela as assinaturas nem elimina fotos ou outros dados já armazenados pelo serviço.

Como Malwarebytes pode ajudar

Se tiver dúvidas sobre um site, Malwarebytes Scam Guard pode ajudar na avaliação. Malwarebytes Browser Guard ajuda a bloquear sites conhecidos por serem fraudulentos e maliciosos.

Mas estas ferramentas não conseguem verificar as promessas de eliminação de fotos de um serviço. Deve ainda verificar quem opera o serviço e quais os seus termos de privacidade antes de fazer o upload.

Algo parece errado? Verifique antes de clicar.  

Malwarebytes Scam Guard ajuda-o a analisar links, textos e capturas de ecrã suspeitos instantaneamente.  

Disponível com Malwarebytes Premium Security para todos os seus dispositivos e na aplicação Malwarebytes para iOS e Android .  

Experimente gratuitamente →