Os jornalistas de tecnologia da 404 Media descobriram que a OpenAI está contratando centenas de pessoas para ler e analisar um enorme fluxo de mensagens e respostas de usuários reais do ChatGPT.
O "Projeto Lily" é supostamente um programa que pede aos contratados que avaliem ou critiquem as respostas do ChatGPT para melhorar a qualidade e o comportamento do chatbot.
O fato de que as perguntas possam, por vezes, ser revisadas por humanos não deve ser uma surpresa completa. Empresas de IA também monitoram conversas por motivos de segurança. A Anthropic, por exemplo, afirma ter frustrado tentativas de uso indevido de IA para pesquisa de armas biológicas .
Mas deve haver uma distinção significativa entre revisar conversas quanto à segurança ou abuso e revisá-las para aprimoramento do modelo em geral.
A OpenAI afirma que um número limitado de funcionários autorizados e provedores de serviços confiáveis podem acessar os chats por diversos motivos, incluindo a investigação de abusos, o fornecimento de suporte, a resolução de questões legais e o aprimoramento de seus modelos.
A OpenAI disse à 404 Media que usa um “ Privacy O modelo de "filtro" visa remover informações pessoais antes que as solicitações cheguem aos revisores, reconhecendo, porém, que detalhes sensíveis ainda podem passar despercebidos.
As perguntas são anonimizadas, no sentido de que os revisores não veem o nome de usuário do usuário do ChatGPT que as inseriu. No entanto, os revisores podem ver detalhes pessoais na conversa, juntamente com um "resumo das memórias do usuário", que fornece uma visão geral de como esse usuário utilizou o chatbot anteriormente. Juntas, essas informações ainda podem revelar muito sobre o usuário.
Às vezes, é fácil esquecer que você não está tendo uma conversa privada quando está interagindo com um chatbot de IA. Este não é um alerta alarmista contra o uso de IA, mas um lembrete para ter cuidado com o que você divulga, pois isso pode ser lido e analisado.
Como optar por não participar do treinamento de chatbots de IA
ChatGPT
A OpenAI informou à 404 Media que os chats dos usuários não serão usados para aprimorar os modelos da empresa se eles desativarem a configuração "Aprimorar o modelo para todos" . Essa configuração está ativada por padrão na versão gratuita. Plus e nos planos Pro, portanto, os usuários precisam desativá-lo manualmente se desejarem optar por não participar.
No entanto, optar por não participar não impede todo o acesso humano. A OpenAI afirma que pessoal autorizado e provedores de serviços confiáveis ainda podem acessar o conteúdo quando necessário para investigar abusos ou incidentes de segurança, fornecer suporte, solucionar problemas ou lidar com questões legais.
No ChatGPT, selecione o ícone do seu perfil, acesse Configurações > Controles de dados e desative a opção "Melhorar o modelo para todos" . No celular, abra a barra lateral, selecione o ícone do seu perfil e siga os mesmos passos.
Perplexidade
No Perplexity, acesse Configurações > Preferências > Retenção de dados de IA e desative a configuração.
A Perplexity afirma que isso impede que os dados coletados após você optar por não participar sejam usados para treinar modelos de IA. Isso não remove os dados coletados anteriormente, e seus dados ainda podem ser processados para operar e aprimorar o serviço ou para cumprir obrigações legais.
Claude
No Claude, selecione seu nome e acesse Configurações > Privacy . Em Ajudar a melhorar nossos modelos de IA , desative a configuração.
A Anthropic afirma que novos chats e sessões de programação não serão mais usados para o treinamento futuro de modelos. Também deixará de usar conversas previamente armazenadas em futuras execuções de treinamento, embora os dados já incluídos no treinamento não possam ser removidos.
Anthropic também destaca uma importante exceção:
Se nossos classificadores de segurança sinalizarem suas conversas, elas ainda poderão ser usadas para aprimorar nossos modelos internos de confiança e segurança, detectar conteúdo prejudicial, aplicar nossas políticas ou avançar em nossa pesquisa de segurança.
Se você utiliza outras ferramentas de IA, verifique as políticas e configurações de privacidade delas para descobrir se suas conversas podem ser revisadas ou usadas para aprimoramento do modelo e se você pode optar por não participar.
Navegue como se ninguém estivesse olhando.
VPN Malwarebytes Privacy VPN sua conexão e nunca registra o que você faz, para que a próxima notícia que você ler não pareça algo pessoal.Experimente gratuitamente →
