Os jornalistas de tecnologia da 404 Media descobriram que a OpenAI está a contratar centenas de pessoas para ler e analisar um enorme fluxo de mensagens e respostas de utilizadores reais do ChatGPT.
O "Projecto Lily" é, alegadamente, um programa que pede aos contratantes que avaliem ou critiquem as respostas do ChatGPT para melhorar a qualidade e o comportamento do chatbot.
O facto de as perguntas poderem, por vezes, ser revistas por humanos não deve ser uma surpresa completa. As empresas de IA também monitorizam conversas por motivos de segurança. A Anthropic, por exemplo, afirma ter frustrado as tentativas de utilização indevida de IA para investigação de armas biológicas .
Mas deve haver uma distinção significativa entre rever as conversas quanto à segurança ou abuso e revê-las para melhoria do modelo em geral.
A OpenAI afirma que um número limitado de funcionários autorizados e fornecedores de serviços fiáveis podem aceder aos chats por diversos motivos, incluindo a investigação de abusos, a prestação de apoio, a resolução de questões legais e a melhoria dos seus modelos.
A OpenAI disse à 404 Media que utiliza um “ Privacy O modelo de "filtro" visa remover informações pessoais antes que os pedidos cheguem aos revisores, reconhecendo, no entanto, que detalhes sensíveis podem ainda passar despercebidos.
As perguntas são anonimizadas, no sentido em que os revisores não veem o nome de utilizador do utilizador do ChatGPT que as introduziu. No entanto, os revisores podem ver detalhes pessoais na conversa, juntamente com um "resumo das memórias do utilizador", que fornece uma visão geral de como esse utilizador utilizou o chatbot anteriormente. Juntas, estas informações ainda podem revelar muito sobre o utilizador.
Por vezes, é fácil esquecer que não está a ter uma conversa privada quando está a interagir com um chatbot de IA. Este não é um alerta alarmista contra o uso de IA, mas um lembrete para ter cuidado com o que divulga, pois este pode ser lido e analisado.
Como optar por não participar no treino de chatbots de IA
ChatGPT
A OpenAI informou a 404 Media que os chats dos utilizadores não serão utilizados para melhorar os modelos da empresa se desativarem a definição "Melhorar o modelo para todos" . Esta configuração está ativada por defeito na versão gratuita. Plus e nos planos Pro, pelo que os utilizadores precisam de o desativar manualmente se desejarem optar por não participar.
No entanto, optar por não participar não impede todo o acesso humano. A OpenAI afirma que o pessoal autorizado e os fornecedores de serviços fiáveis podem ainda aceder ao conteúdo quando necessário para investigar abusos ou incidentes de segurança, prestar apoio, resolver problemas ou lidar com questões legais.
No ChatGPT, selecione o ícone do seu perfil, aceda a Definições > Controlos de dados e desative a opção "Melhorar o modelo para todos" . No telemóvel, abra a barra lateral, selecione o ícone do seu perfil e siga os mesmos passos.
Perplexidade
No Perplexity, aceda a Definições > Preferências > Retenção de dados de IA e desative a configuração.
A Perplexity afirma que isto impede que os dados recolhidos após optar por não participar sejam utilizados para treinar modelos de IA. Isto não remove os dados recolhidos anteriormente, e os seus dados podem ainda ser tratados para operar e melhorar o serviço ou para cumprir obrigações legais.
Claude
No Claude, selecione o seu nome e aceda a Definições > Privacy . Em Ajudar a melhorar os nossos modelos de IA , desative a configuração.
A Anthropic afirma que os novos chats e sessões de programação já não serão utilizados para o futuro treino de modelos. Também deixará de utilizar conversas previamente armazenadas em futuras execuções de treino, embora os dados já incluídos no treino não possam ser removidos.
Anthropic destaca ainda uma importante exceção:
Se os nossos classificadores de segurança sinalizarem as suas conversas, estas poderão ainda ser utilizadas para melhorar os nossos modelos internos de confiança e segurança, detetar conteúdos prejudiciais, aplicar as nossas políticas ou avançar com a nossa investigação de segurança.
Se utilizar outras ferramentas de IA, verifique as políticas e definições de privacidade das mesmas para saber se as suas conversas podem ser revistas ou utilizadas para o melhoramento do modelo e se pode optar por não participar.
Navegue como se ninguém estivesse a ver.
VPN Malwarebytes Privacy VPN a sua ligação e nunca regista o que faz, para que a próxima notícia que ler não pareça dirigida a si.Experimente gratuitamente →
