A OpenAI enfrenta desafios legais distintos relacionados à forma como o ChatGPT interage com crianças.
O jornal The Guardian relata que oito estados americanos acusam a empresa de enganar pais sobre a segurança do chatbot e de expor usuários vulneráveis a conversas perigosas. Em outro caso, a CNET reporta que uma mãe, em nome de seus dois filhos, alega que a OpenAI coletou e usou informações pessoais sensíveis de crianças sem o consentimento válido dos pais.
Os casos levantam questões sérias sobre o que acontece quando crianças confiam seus pensamentos mais íntimos a um chatbot e qual a responsabilidade da empresa por trás disso nas conversas que se seguem.
As acusações são sérias, mas devemos lembrar que são alegações em processos judiciais, e não conclusões definitivas de um tribunal.
Oito estados questionam a segurança do ChatGPT
Em 14 de outubro, os procuradores-gerais de Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana entraram com ações judiciais separadas contra a OpenAI. A ação coordenada acusa a empresa de enganar os pais sobre a segurança do ChatGPT e de violar as leis estaduais de proteção ao consumidor.
Os estados alegam que o chatbot foi projetado para ser "excessivamente agradável e fingir compaixão humana". Os advogados apontam exemplos de supostos casos em que o ChatGPT colocou em risco usuários vulneráveis, incluindo crianças, ao incitá-los ao suicídio ou a ferir outras pessoas.
A OpenAI afirma ter incorporado proteções específicas para cada faixa etária em seus produtos e que continuará desenvolvendo medidas de segurança.
Um processo judicial separado centra-se nas informações privadas das crianças.
Um dia antes de os estados apresentarem seus processos, uma mãe do Havaí entrou com uma ação coletiva em nome de sua filha de 12 anos e seu filho de 16 anos. A ação, apresentada em um tribunal federal em São Francisco, alega que a OpenAI obteve informações sensíveis de crianças que se inscreveram no ChatGPT sem a devida autorização dos pais.
Os termos da OpenAI exigem que usuários menores de 18 anos tenham a permissão de um dos pais ou responsável legal. No entanto, a denúncia alega que crianças podem criar contas sem que a OpenAI verifique essa permissão. Ela também descreve o caso de uma criança menor de 13 anos, idade mínima exigida pelo serviço, que continuou usando o chatbot mesmo após informar explicitamente sua idade.
Os demandantes alegam que a empresa usou informações de crianças para treinar seus modelos de IA sem o consentimento válido dos pais. Eles também afirmam que a OpenAI coletou informações para construir perfis pessoais.
A OpenAI contesta as alegações, classificando o processo como "equivocado" e destacando suas proteções para usuários mais jovens.
Controle parental
A OpenAI lançou o ChatGPT para Adolescentes, com controles parentais adicionais e alertas destinados a notificar os pais em situações específicas envolvendo sérias preocupações com automutilação. No entanto, a eficácia dessas medidas de segurança está sob escrutínio. A Common Sense Media classificou o ChatGPT para Adolescentes como um "risco inaceitável" no início deste mês, relatando que seus testes encontraram falhas no alerta aos pais durante conversas sobre suicídio, automutilação ou transtornos alimentares.
A OpenAI contesta as conclusões e afirma que seus alertas de segurança abrangem situações limitadas e podem não identificar todas as preocupações. Mas, por enquanto, o controle parental continua sendo parte da controvérsia.
Como ajudar a manter seus filhos seguros
Os pais não deveriam ter que arcar com os custos de um produto com design inseguro. Infelizmente, não podemos considerar os controles parentais como garantia de segurança. Portanto, aqui estão algumas medidas práticas que as famílias podem tomar para reduzir os riscos:
- Explique que um chatbot é um software, não um amigo ou terapeuta. Um tom amigável não significa que ele entenda seu filho ou que tenha os melhores interesses dele em mente. Estabeleça um limite claro: perguntas sobre saúde mental, automutilação ou segurança pessoal devem ser direcionadas a um adulto de confiança ou a um profissional qualificado, não a um chatbot.
- Converse com seu filho sobre como ele usa a IA, sem fazer disso um interrogatório. Peça para ele mostrar os aplicativos que usa e o que gosta neles. Deixe claro que ele pode conversar com você sobre qualquer conversa desagradável ou inadequada sem ser culpado. Se ele não se sentir à vontade para conversar com você, ajude-o a encontrar outro adulto de confiança.
- Incentive as crianças a não incluírem informações pessoais em seus chatbots. Isso inclui nomes, detalhes da escola, endereços, fotos particulares e informações sensíveis sobre saúde ou família. No caso do ChatGPT, os pais com contas de adolescentes vinculadas também podem desativar o treinamento do modelo e o armazenamento de dados. Embora essas configurações reduzam certos usos das informações, elas não justificam tratar um chatbot como um diário confidencial.
- Fique atento a uma crescente dependência emocional da IA. Se você perceber que seu filho recorre cada vez mais à IA em busca de segurança, amizade ou apoio emocional, converse com ele e ajude-o a se reconectar com pessoas em quem confia.
Se seu filho mencionar automutilação ou suicídio, leve a situação a sério e busque ajuda imediatamente. Entre em contato com um profissional de saúde qualificado ou um serviço de atendimento a crises. Em caso de perigo iminente, contate os serviços de emergência locais. Não espere que um chatbot ou uma notificação para os pais lhe diga para agir.
Vamos ser sinceros: uma janela anônima tem suas limitações.
Violações de dados, comércio na dark web, fraudes de crédito. Malwarebytes Identity Theft monitora tudo isso, avisa você rapidamente e inclui um seguro contra roubo de identidade.
