A OpenAI enfrenta desafios legais distintos relacionados com a forma como o ChatGPT interage com as crianças.
O jornal The Guardian refere que oito estados norte-americanos acusam a empresa de enganar os pais sobre a segurança do chatbot e de expor utilizadores vulneráveis a conversas perigosas. Noutro caso, a CNET reporta que uma mãe, em nome dos seus dois filhos, alega que a OpenAI recolheu e utilizou informações pessoais sensíveis de crianças sem o consentimento válido dos pais.
Os casos levantam questões sérias sobre o que acontece quando as crianças confiam os seus pensamentos mais íntimos a um chatbot e qual a responsabilidade da empresa por detrás disso nas conversas que se seguem.
As acusações são graves, mas devemos lembrar que são alegações em processos judiciais, e não conclusões definitivas de um tribunal.
Oito estados questionam a segurança do ChatGPT
A 14 de outubro, os procuradores-gerais de Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana apresentaram ações judiciais separadas contra a OpenAI. A ação coordenada acusa a empresa de enganar os pais sobre a segurança do ChatGPT e de violar as leis estaduais de proteção do consumidor.
Os Estados alegam que o chatbot foi concebido para ser "excessivamente agradável e fingir compaixão humana". Os advogados apontam exemplos de alegados casos em que o ChatGPT colocou em risco utilizadores vulneráveis, incluindo crianças, ao incitá-los ao suicídio ou a magoar outras pessoas.
A OpenAI afirma ter incorporado proteções específicas para cada faixa etária nos seus produtos e que continuará a desenvolver medidas de segurança.
Um processo judicial separado centra-se nas informações privadas das crianças.
Um dia antes de os estados apresentarem os seus processos, uma mãe do Havai apresentou uma ação coletiva em nome da sua filha de 12 anos e do seu filho de 16 anos. A ação, apresentada num tribunal federal em São Francisco, alega que a OpenAI obteve informações sensíveis de crianças que se inscreveram no ChatGPT sem a devida autorização dos pais.
Os termos da OpenAI exigem que os utilizadores menores de 18 anos tenham a permissão de um dos pais ou de um responsável legal. No entanto, a queixa alega que as crianças podem criar contas sem que a OpenAI verifique essa permissão. Descreve ainda o caso de uma criança com menos de 13 anos, idade mínima exigida pelo serviço, que continuou a utilizar o chatbot mesmo depois de informar explicitamente a sua idade.
Os demandantes alegam que a empresa utilizou informações de crianças para treinar os seus modelos de IA sem o consentimento válido dos pais. Afirmam ainda que a OpenAI recolheu informações para construir perfis pessoais.
A OpenAI contesta as alegações, classificando o processo como "equivocado" e destacando as suas proteções para os utilizadores mais jovens.
Controle parental
A OpenAI lançou o ChatGPT para Adolescentes, com controlos parentais adicionais e alertas destinados a notificar os pais em situações específicas que envolvam sérias preocupações de automutilação. No entanto, a eficácia destas medidas de segurança está sob escrutínio. A Common Sense Media classificou o ChatGPT para Adolescentes como um "risco inaceitável" no início deste mês, relatando que os seus testes encontraram falhas no alerta aos pais durante conversas sobre suicídio, automutilação ou distúrbios alimentares.
A OpenAI contesta as conclusões e afirma que os seus alertas de segurança abrangem situações limitadas e podem não identificar todas as preocupações. Mas, por enquanto, o controlo parental continua a fazer parte da controvérsia.
Como ajudar a manter os seus filhos seguros
Os pais não deveriam ter de suportar os custos de um produto com um design inseguro. Infelizmente, não podemos considerar os controlos parentais como uma garantia de segurança. Assim, aqui estão algumas medidas práticas que as famílias podem tomar para reduzir os riscos:
- Explique que um chatbot é um software, não um amigo ou terapeuta. Um tom amigável não significa que compreenda o seu filho ou que tenha os seus melhores interesses em mente. Estabeleça um limite claro: as perguntas sobre saúde mental, automutilação ou segurança pessoal devem ser dirigidas a um adulto de confiança ou a um profissional qualificado, e não a um chatbot.
- Fale com o seu filho sobre como ele usa a IA, sem fazer disso um interrogatório. Peça-lhe para lhe mostrar as aplicações que usa e o que gosta nelas. Deixe claro que ele pode falar consigo sobre qualquer conversa desagradável ou inapropriada sem ser culpado. Se ele não se sentir à vontade para falar consigo, ajude-o a encontrar outro adulto de confiança.
- Incentive as crianças a não incluírem informações pessoais nos seus chatbots. Isto inclui nomes, detalhes da escola, moradas, fotos privadas e informações sensíveis sobre saúde ou família. No caso do ChatGPT, os pais com contas de adolescentes ligadas também podem desativar o treino do modelo e o armazenamento de dados. Embora estas definições reduzam certas utilizações da informação, não justificam tratar um chatbot como um diário confidencial.
- Esteja atento a uma crescente dependência emocional da IA. Se notar que o seu filho recorre cada vez mais à IA em busca de segurança, amizade ou apoio emocional, fale com ele e ajude-o a reencontrar-se com pessoas em quem confia.
Se o seu filho mencionar automutilação ou suicídio, leve a situação a sério e procure ajuda imediatamente. Contacte um profissional de saúde qualificado ou um serviço de atendimento a crises. Em caso de perigo iminente, contacte os serviços de emergência locais. Não espere que um chatbot ou uma notificação para os pais lhe digam para agir.
Sejamos realistas, uma janela de navegação anónima tem as suas limitações.
Violações de segurança, comércio na dark web, fraude de cartões de crédito. Malwarebytes Identity Theft monitoriza tudo isto, alerta-o rapidamente e inclui um seguro contra roubo de identidade.
