Vídeos de Halloween com IA: Quem está tirando suas fotos?

Neste artigo

Alguns sites de vídeos de Halloween com inteligência artificial pedem fotos pessoais sem identificar claramente quem os administra.
Seus uploads também podem ser recebidos por provedores externos de IA.
Antes de fazer o upload, verifique quem recebe suas fotos, como elas são usadas e quando são excluídas.

Neste Halloween, a inteligência artificial está cuidando das fantasias. Envie uma foto e você poderá se transformar em um vampiro, cercar seu cachorro de abóboras ou estrelar uma "história de amor zumbi" viral: seu parceiro se transformou, você abaixa a arma e o salto do zumbi termina em um abraço.

Mas antes de fazer o upload, você sabe quem receberá suas fotos?

Em setembro, escrevemos sobre mais de 100 sites de assinatura construídos com o mesmo kit de site barato . Com o Halloween se aproximando, descobrimos que a mesma abordagem está sendo usada para vender vídeos de Halloween com inteligência artificial.

Não encontramos malware ou phishing nos sites que examinamos. O que nos preocupou foi a pouca informação disponível sobre quem os operava e quem seria o responsável pelas fotos que as pessoas carregavam.

Refinado, amigável e anônimo.

Esses sites parecem profissionais e transmitem segurança. Prometem privacidade, têm perguntas frequentes e políticas de reembolso, e alguns até incluem caixas de seleção de consentimento para fotos de crianças. Um deles se autodenomina “uma ferramenta independente, sem vínculos com o TikTok ou qualquer estúdio de cinema”.

O que eles não revelam é quem está por trás disso. Nos sites que verificamos, não encontramos nome da empresa, endereço ou operador identificado, apenas um e-mail de suporte no próprio domínio do site.

Para onde vão suas fotos?

Esses sites pedem fotos nítidas e bem iluminadas de você, seu parceiro(a), seus amigos, seus animais de estimação e, com a permissão dos pais, de seus filhos.

Os sites que analisamos afirmam depender de fornecedores externos de IA para gerar os vídeos. Isso significa que você está confiando tanto no site que coleta suas fotos quanto nos fornecedores que as processam.

Sempre que você publicar fotos, verifique quem pode acessá-las e como elas podem ser usadas. Golpistas podem usar a imagem de alguém para criar fotos íntimas falsas e exigir dinheiro para mantê-las em sigilo. Em nosso relatório Face Value , 10% dos entrevistados disseram ter recebido ameaças de divulgar conteúdo explícito gerado por inteligência artificial. Não encontramos evidências de que isso tenha acontecido nesses sites de Halloween, mas é um motivo para ter cuidado onde você compartilha suas fotos.

Os sites prometem excluir os uploads em poucos dias, e não temos evidências de que não o façam. No entanto, não conseguimos verificar essas promessas de forma independente. Sem um operador identificável, é mais difícil determinar quem é o responsável por lidar com suas fotos e responder às solicitações de exclusão.

Esses sites usam a tela de login do Google, então você digita sua senha no Google, não no site de vídeos. Mas usar o Google para fazer login não significa que o Google endossa o serviço ou garante suas promessas de privacidade.

Clique no nome do aplicativo na janela de login do Google e você verá as informações do desenvolvedor . Em um dos sites que verificamos, o único contato listado era um endereço do Gmail. Observamos o mesmo nos sites de setembro. Um endereço do Gmail por si só não comprova irregularidades, mas também não ajuda a identificar o operador.

Em outra mensagem, o Google disse que você estava fazendo login “para continuar no neon.tech”. A Neon é uma empresa legítima de banco de dados e provedora de serviços de autenticação . O fato de seu nome aparecer aqui não significa que ela opere ou endosse o site de vídeos de Halloween.

Os provedores de login podem gerenciar o login do Google em nome de um site. Dependendo da configuração, o Google pode exibir o domínio do provedor em vez do nome do site de vídeos. Nesse caso, a tela de login não indicava claramente aos visitantes quem operava o serviço de Halloween.

Construído a partir de um kit, reciclado para a próxima tendência.

Sites como esses não exigem necessariamente uma equipe ou meses de trabalho. Alguns usam o mesmo kit de site de US$ 249 sobre o qual escrevemos em setembro, que promete que você pode “lançar seu produto de IA em uma hora”. Em um site de Halloween, os desenvolvedores nem sequer haviam removido o conteúdo de exemplo do kit. Escondida na página, havia uma nota dizendo que era “um site de demonstração” para o modelo, juntamente com links de espaço reservado como “nome-do-seu-aplicativo”.

O código de outro site continha vestígios de um criador de vídeos de rap e dança com IA, incluindo um palco que simulava o saguão de um hotel, um estúdio de gravação e letras de rap escritas por IA. Esses vestígios sugerem que o site utiliza código também destinado a outros serviços de vídeo com IA.

Usar um kit para criar sites não é suspeito em si. Mas uma página bem acabada pode ser montada rapidamente, então sua aparência diz pouco sobre a empresa que cuida das suas fotos.

Não tenha pressa antes de pagar também.

Em um dos sites, um único clipe de zumbis de 15 segundos custava US$ 9,99. A página de preços incentivava os visitantes a comprar pacotes maiores, reduzindo o preço anunciado por vídeo para US$ 2,99. Mas esse preço mais baixo significava gastar US$ 199 em créditos suficientes para assistir a cerca de 66 filmes de zumbis. Havia também planos mensais e anuais, que custavam até US$ 600 por ano.

Um dos sites também usou ofertas com contagem regressiva, lembretes na aba do navegador e afirmações sobre quantas pessoas haviam feito filmes naquele dia para incentivar os visitantes a comprar.

Não precisa ter pressa. Confira os termos de pagamento com a mesma atenção que a política de privacidade. Os próprios sites alertam que a IA pode alterar rostos, então seu vídeo pode não se parecer muito com você. De acordo com as políticas que analisamos, os créditos são devolvidos caso o vídeo não seja gerado. Mas se você simplesmente não gostar do resultado, tentar novamente custa mais créditos.

As assinaturas são renovadas automaticamente até que você as cancele, os planos anuais são cobrados de uma só vez e alguns créditos expiram antes de serem utilizados.

O que verificar antes de enviar suas fotos

Independentemente da ferramenta ou plataforma que você escolher, certifique-se de que se sente confortável com a forma como ela lidará com seus dados, suas fotos e suas informações de pagamento.

Descubra quem administra o serviço. Procure por um operador identificado e informações de contato claras. Se não conseguir identificar quem será o responsável pelas suas fotos, considere outro serviço.
Verifique para onde suas fotos são enviadas. Leia a política de privacidade para obter informações sobre fornecedores externos de IA, períodos de retenção e se os arquivos enviados podem ser usados para treinamento de IA.
Procure um processo de exclusão. Verifique como solicitar a exclusão e se a política explica o que acontece com as cópias mantidas por fornecedores externos.
Tenha especial cuidado com fotos de crianças. Uma caixa de seleção de consentimento dos pais não explica como um serviço irá protegê-las. Só faça upload de fotos de outras pessoas com a permissão delas.
Leia a janela de login do Google. Verifique os detalhes do desenvolvedor e quaisquer permissões solicitadas. O login do Google não substitui a verificação do próprio serviço.
Ignore as contagens regressivas e verifique os termos de pagamento. Dedique um tempo para entender o custo total, a validade do crédito e se a sua compra inicia uma assinatura.
Em seguida, revise suas conexões do Google. Remova os serviços que você não usa mais das conexões de terceiros da sua conta do Google . Isso não cancela assinaturas nem exclui fotos ou outros dados já armazenados pelo serviço.

Como Malwarebytes pode ajudar

Se você tiver dúvidas sobre um site, Malwarebytes Scam Guard pode ajudar na avaliação. Malwarebytes Browser Guard ajuda a bloquear sites conhecidos por serem fraudulentos e maliciosos.

Mas essas ferramentas não conseguem verificar as promessas de exclusão de fotos de um serviço. Você ainda deve verificar quem opera o serviço e quais são seus termos de privacidade antes de fazer o upload.