Os mecanismos de pesquisa com IA são seguros?

O que são mecanismos de pesquisa com tecnologia de IA e como eles funcionam?

Os mecanismos de pesquisa percorreram um longo caminho desde a simples correspondência entre palavras-chave e páginas da Web. O Google já tem um algoritmo imensamente poderoso que está sendo constantemente ajustado, mas a próxima etapa da pesquisa pode estar aqui. 

Os mecanismos de pesquisa com tecnologia de IA vão além, usando modelos avançados de aprendizado de máquina para entender a intenção, analisar o contexto e gerar resultados mais precisos. Diferentemente dos mecanismos de busca tradicionais que dependem de algoritmos de classificação e de páginas indexadas de sites, essas ferramentas orientadas por IA processam as consultas mais como um ser humano faria. Suas respostas geralmente não direcionam as pessoas para um site e, em vez disso, são projetadas para simplesmente resumir as informações. 

Esses sistemas usam grandes modelos de linguagem para filtrar grandes quantidades de dados, resumir o conteúdo e, às vezes, até mesmo prever quais informações os usuários precisam antes que eles perguntem. Alguns mecanismos de pesquisa com IA também integram a navegação na Web em tempo real para que possam obter informações atualizadas em vez de depender apenas de resultados pré-indexados. No mundo em rápida evolução das notícias e da tecnologia, isso pode ser crucial. 

O que é Perplexity AI?

O Perplexity é um mecanismo de pesquisa de conversação projetado para fornecer respostas naturais às consultas feitas pelas pessoas. As pessoas o descreveram como um cruzamento entre o ChatGPT e o Google na forma como ele fornece resultados. É uma espécie de assistente digital que examina muitas informações relevantes para a consulta e fornece uma resposta simples usando linguagem natural. 

Ele se baseia na tecnologia LLM de alguns dos gigantes do setor, incluindo GPT-4, Claude 3.5, Grok-2, Llama 3 e LLMs Perplexity internos que foram desenvolvidos na empresa. 

O que é o Google SGE (Search Generative Experience)?

Talvez você já tenha experimentado o SGE do Google sem saber. Ele começou a ser implementado em maio de 2024 e é comum para muitas pesquisas na plataforma do Google atualmente. Trata-se de uma versão aprimorada por IA de seu mecanismo de pesquisa padrão. 

Em vez de apenas retornar links, o SGE usa o aprendizado de máquina para gerar resumos, fornecendo aos usuários percepções instantâneas sem a necessidade de clicar em vários resultados e ler sites para encontrar essas informações. 

Esse sistema integra respostas geradas por IA na parte superior dos resultados de pesquisa, oferecendo um instantâneo de informações relevantes e, ao mesmo tempo, permitindo que os usuários explorem os links tradicionais, se preferirem. As informações também podem ser citadas com a fonte original para que as pessoas possam verificar ou ler mais. 

Como funciona a pesquisa do Microsoft Copilot?

O Microsoft Copilot é semelhante em conceito ao SGE do Google. A pesquisa opera dentro do Bing, aprimorando a pesquisa tradicional com resumos baseados em IA e recuperação de dados em tempo real. Ao integrar a tecnologia da OpenAI (a empresa que fabrica o ChatGPT), o Copilot fornece respostas detalhadas e, ao mesmo tempo, mantém o acesso aos links convencionais da Web para aqueles que os desejarem. A Microsoft também afirma que o software entende o contexto, algo que pode ajudar muito a fornecer aos usuários os resultados corretos. 

O que é a busca do ChatGPT e como ela funciona?

A função de pesquisa do ChatGPTcombina respostas geradas por IA com navegação na Web em tempo real. Ela pode extrair citações e informações diretamente de sites ativos, mas também conta com o imenso conhecimento do próprio LLM. 

Ao contrário dos mecanismos de pesquisa tradicionais que priorizam as classificações e a autoridade da página, o ChatGPT oferece uma experiência mais interativa, permitindo que os usuários alterem suas consultas em uma abordagem de conversação.

O que são alucinações de IA e como elas ocorrem?

Quando um sistema de IA gera informações imprecisas, enganosas ou que podem ser classificadas como "notícias falsas", isso geralmente é chamado de alucinação de IA. Isso pode ocorrer por vários motivos. Para simplificar, isso decorre da maneira como os modelos de IA processam e preveem o texto. 

Os mecanismos de pesquisa com IA não pensam como os humanos - eles preveem respostas com base em padrões nos dados com os quais foram treinados. Às vezes, esse processo dá errado, especialmente em tópicos em que há muitas opiniões contrastantes. Alguns estudos até sugeriram que os modelos de IA podem ter sido treinados com base em preconceitos humanos, o que pode causar alucinações. 

As alucinações também podem ocorrer quando uma IA tenta preencher lacunas em seu conhecimento inventando fatos para criar o que parece ser uma resposta completa e confiante. A IA é criada com o objetivo de responder às perguntas e, às vezes, o fará com informações imprecisas. importância de desenvolver defesas robustas e mecanismos de detecção para mitigar possíveis ameaças.

Exemplos de alucinações de IA em mecanismos de pesquisa

Muitos de nós já vimos isso de forma anedótica se estiverem usando IA. Há muitos exemplos de afirmações incorretas fornecidas com confiança por mecanismos de pesquisa com IA.  

O chatbot Bard do Google, durante uma demonstração em 2023, [explicou incorretamente] (https://mashable.com/article/google-bard-james-webb-telescope-false-fact) que o Telescópio Espacial James Webb havia capturado as primeiras imagens do mundo de um planeta fora do nosso sistema solar. Isso foi uma invenção feita pela IA e até fez com que a holding do Google perdesse bilhões em seu valor de ações. 

Algumas das respostas foram bem-humoradas. Um usuário da Web compartilhou uma captura de tela de uma visão geral da IA para a consulta "frutas que terminam com um", afirmando que "applum, banana, strawberrum, tomatum e coco" foram todos os exemplos usados. 

Os mecanismos de pesquisa de IA podem ser manipulados? 

Existe a possibilidade de manipulação e isso foi até comprovado nos últimos meses. Além de gerar respostas incorretas, os mecanismos de pesquisa com IA também podem ser influenciados pelos dados com os quais são treinados. 

A IA depende dos dados com os quais é "alimentada" (proverbialmente falando) e requer fontes confiáveis em primeira instância. Isso significa que existe a possibilidade de a tecnologia captar vieses com base em seu material de origem. Por exemplo, algumas investigações sugeriram que as ferramentas de IA classificam fotos de mulheres de forma mais sugestiva em comparação com imagens de homens, talvez porque muitos dos criadores da tecnologia sejam homens, com perspectivas subjetivas. 

Estudos também mostraram que o texto que o ChatGPT e mecanismos de IA semelhantes estão pesquisando poderia ser usado para manipular, usando texto oculto que poderia ser retornado ao usuário final. Também é possível que vários sites trabalhem juntos para tentar enganar ou manipular uma IA - se um número suficiente de fontes não confiáveis disser a mesma coisa, um modelo de IA poderá aceitá-la como fato e incorporá-la aos seus resultados 

Os mecanismos de pesquisa de IA fornecem informações atualizadas e em tempo real? 

Todos nós nos acostumamos com o fato de que podemos pesquisar no Google uma notícia ou algo que está na moda e ver resultados que foram publicados muito recentemente. A IA não funciona da mesma forma, portanto, quão atualizadas são as informações? 

A pesquisa de IA tem acesso a dados em tempo real? 

Os modelos de IA geralmente são treinados com base em um instantâneo da Internet, em vez de atualizar continuamente seu conhecimento. Isso significa que eles não "veem" inerentemente novas páginas da Web da mesma forma que um mecanismo de busca tradicional como o Google. No entanto, algumas ferramentas de pesquisa de IA tentam preencher essa lacuna integrando pesquisas na Web em tempo real. 

O Copilot da Microsoft (antigo Bing AI) e o Search Generative Experience (SGE) do Google tentam extrair dados atuais vinculando as respostas de IA aos resultados de pesquisa ao vivo. Em muitas pesquisas de IA, pode haver uma defasagem entre a publicação de novas informações e o reconhecimento delas pelas ferramentas de pesquisa de IA. 

Quão atualizados são os dados nos resultados de pesquisa de IA? 

O frescor dos dados depende do modelo de IA. Alguns modelos de IA só sabem com o que foram treinados, o que significa que seus dados podem estar meses ou até anos desatualizados. Por exemplo, os dados do modelo de pré-treinamento do ChatGPT vão apenas até outubro de 2023. Essa é uma grande desvantagem ao pesquisar coisas como eventos atuais ou novas descobertas científicas. Se você perguntar a alguns mecanismos de pesquisa de IA quais foram os últimos ganhadores de um prêmio, por exemplo, talvez eles não saibam as informações mais recentes. 

A pesquisa com IA classifica as informações de forma objetiva? 

A objetividade pode ser escassa na era moderna da Internet, e a IA não necessariamente corrige isso. Em vez de apenas classificar os resultados existentes, a IA gera ativamente respostas com base em padrões em seus dados de treinamento e algoritmos de pesquisa. Isso cria a possibilidade de parcialidade. 

A maneira como a IA seleciona e resume as informações nem sempre é neutra. Se uma IA tiver sido treinada com dados que se inclinam em uma determinada direção, seus resumos poderão refletir essa tendência, mesmo que não intencionalmente. 

Os desenvolvedores estão trabalhando nisso o tempo todo. O modelo mais recente do ChatGPT anunciava o fato de que a taxa de parcialidade e alucinações havia caído significativamente, mas ainda estamos nos primeiros dias dessa tecnologia. 

Os mecanismos de pesquisa com tecnologia de IA são um risco à privacidade? 

As ferramentas de pesquisa de IA processam ativamente e geram respostas com base nas consultas dos usuários. Essa camada extra de processamento levanta questões sobre como os dados são processados e protegidos. 

Os mecanismos de pesquisa de IA rastreiam seus dados? 

Muitos mecanismos de pesquisa de IA coletam dados. A extensão varia de acordo com a plataforma. Alguns armazenam consultas para aprimorar seus modelos de IA, enquanto outros afirmam evitar o rastreamento de longo prazo. As ferramentas com tecnologia de IA geralmente coletam informações para refinar as respostas e personalizar os resultados. As pessoas estão se perguntando se o Copilot é seguro para uso ou se o SGE coleta dados. Esses são tópicos complexos.  

De acordo com a Microsoft, "o Copilot foi desenvolvido com base no Microsoft Azure OpenAI Service e é executado completamente na nuvem do Azure. O Azure OpenAI oferece disponibilidade regional e filtragem responsável de conteúdo de IA". O Copilot coleta dados, mas se gaba de que eles estão seguros na nuvem. 

É possível que as plataformas integrem o comportamento de pesquisa da IA aos perfis de usuários existentes. Isso significa que a atividade de pesquisa poderia ser vinculada a outros hábitos on-line, levantando preocupações sobre segurança de dados e publicidade direcionada. 

O que acontece com suas pesquisas em plataformas com tecnologia de IA? 

Os dados de pesquisa não desaparecem automaticamente. Embora os termos e condições possam detalhar o fato de que esses dados não são compartilhados diretamente, eles podem ser mantidos por longos períodos para ajudar a refinar os modelos de aprendizado de máquina. Alguns mecanismos de pesquisa com IA usam até mesmo consultas anteriores para moldar respostas futuras. 

Se uma ferramenta de pesquisa com IA salvar as entradas do usuário, esses dados poderão ser analisados para melhorar a precisão ou treinar futuras versões do modelo. Embora as empresas afirmem que as informações de identificação pessoal são removidas, os usuários preocupados com a privacidade ainda podem se sentir desconfortáveis com o registro de seu histórico de pesquisa. 

Os resultados de pesquisa da IA são influenciados por links e anúncios de afiliados? 

A maioria das empresas é movida por lucros. Tanto os mecanismos de pesquisa quanto aqueles que alimentam os dados (editores) podem estar usando links de afiliados ou anúncios na forma de conteúdo publicitário. 

O SGE do Google, por exemplo, já integra resultados orientados por IA ao seu ecossistema de publicidade. O Microsoft Copilot faz algo semelhante, combinando respostas de IA com links promovidos. O risco aqui é que os resumos gerados por IA podem sutilmente empurrar os usuários para o conteúdo pago sem tornar a distinção óbvia. 

O que você nunca deve compartilhar com os mecanismos de pesquisa de IA

Assim como acontece com a publicação de qualquer coisa on-line, evite compartilhar muitos de seus dados pessoais on-line. A boa regra geral é não compartilhar suas informações pessoais identificáveis. Como Amanda Caswell escreve no Tom's Guide, eu disse ao ChatGPT algo de que ainda me arrependo - aqui estão 7 coisas que você nunca deve compartilhar, você nunca deve compartilhar o seguinte ao interagir com ferramentas de pesquisa de IA (independentemente da ferramenta!):

1: Informações de identificação pessoal (PII) - todas elas estão fora dos limites: seu nome verdadeiro, data de nascimento, número do seguro social (SSN), endereço verdadeiro, etc. Qualquer coisa que você não queira enviar para um endereço de e-mail desconhecido não deve ser usada para conversar com o ChatGPT. Você deseja limitar essa exposição, portanto, use um nome "fictício" e uma data de nascimento, se necessário. Já fui Helly R. mais vezes do que gostaria de admitir.

2: Informações financeiras - números de cartão de crédito, contas bancárias, informações fiscais.

3: Senhas - embora possa parecer uma boa ideia pedir ao ChatGPT para criar uma senha forte para você, isso nunca é verdade. Se precisar usar uma ferramenta automatizada para criar uma senha para você, pelo menos certifique-se de que ela venha de uma fonte confiável - dica: use nosso gerador de senhas . Além disso, leia sobre chaves de acesso e autenticação multifator como opções de login mais seguras.

4: Informações médicas - pode ser tentador se comunicar com um assistente digital útil sobre seu diagnóstico. Escrevemos sobre um provedor de chatbot de IA que expõe 346.000 arquivos de clientes, incluindo documentos de identidade, currículos e registros médicos. Se você precisar interagir com o ChatGPT sobre sua condição, evite mencionar que se trata de seu próprio diagnóstico. Finja estar realizando uma pesquisa em vez de expor seus dados confidenciais on-line.

Os mecanismos de pesquisa com IA são seguros para crianças? 

Com mais jovens usando ferramentas de IA para fazer o dever de casa e navegar em geral, além de se divertir um pouco, os pais estão fazendo uma pergunta importante: Os mecanismos de busca com IA são seguros para crianças? Os mecanismos de pesquisa tradicionais têm controles parentais e filtros que ajudam a bloquear conteúdo explícito (não que eles sempre tenham sido perfeitos), mas as respostas geradas por IA acrescentam uma nova camada de complexidade. 

O Perplexity AI é seguro para crianças? 

O uso não supervisionado é um tópico difícil e uma decisão que deve ser tomada pelos próprios pais. A IA de perplexidade gera respostas com base em padrões em seus dados de treinamento e, às vezes, pode produzir conteúdo enganoso ou inadequado. 

Embora a plataforma afirme usar técnicas de filtragem, o texto gerado por IA nem sempre é previsível. Ao contrário dos mecanismos de pesquisa tradicionais que simplesmente bloqueiam determinadas páginas, uma ferramenta de IA ainda pode sintetizar conteúdo inadequado com base nas consultas do usuário. 

A pesquisa com IA filtra conteúdo inadequado? 

A maioria dos mecanismos de pesquisa com tecnologia de IA tenta filtrar material explícito. No entanto, nenhum sistema é infalível e podem ocorrer erros. O SGE do Google e o Microsoft Copilot têm ferramentas de moderação de conteúdo, mas a IA pode, às vezes, gerar respostas que escapam. 

Um dos principais problemas é que a IA não "pensa" da mesma forma que os humanos. Se for questionada sobre um tópico delicado, ela poderá produzir, sem querer, conteúdo inadequado para crianças, mesmo que não tenha sido treinada diretamente para isso. Esse é um dos riscos inerentes ao seu uso. 

Qual mecanismo de pesquisa de IA é o melhor (e mais seguro)? 

Os usuários da Web têm uma decisão a tomar. Em qual mecanismo de pesquisa de IA eles confiam? Algumas pessoas são muito cautelosas com relação a seus dados e como eles são usados, e verificar os termos e condições é essencial nesse cenário. 

Qual mecanismo de pesquisa de IA oferece a melhor privacidade? 

Há desvantagens, mas o Perplexity AI permite a navegação anônima e coleta apenas alguns dados de uso para melhorar os resultados. Essa é, sem dúvida, a melhor opção disponível em termos de privacidade. 

O SGE do Google e o Microsoft Copilot, por outro lado, integram a pesquisa de IA aos perfis de usuário existentes. É possível que as pesquisas sejam vinculadas a dados de publicidade ou contas pessoais. O mecanismo de pesquisa Brave foi projetado para tentar aumentar a privacidade, pois gera as respostas dentro do navegador e não em um servidor. 

A pesquisa baseada na Web do ChatGPT também pode registrar interações para usuários com contas gratuitas. As opções de IA mais seguras são aquelas que não exigem logins nem coletam um histórico de pesquisa. 

Você deve confiar nos mecanismos de pesquisa com IA em vez do Google? 

Os mecanismos de pesquisa com IA são propensos a erros, às vezes apresentando informações incorretas ou fatos "alucinados" como verdadeiros. Eles também são bastante novos e ainda estão evoluindo, e o futuro da pesquisa poderá ser muito diferente à medida que novos recursos forem adicionados. 

Embora os resultados de pesquisa do Google também possam ser tendenciosos (ou conduzidos por anúncios), os usuários podem, pelo menos, verificar várias fontes antes de tirar conclusões. Para tópicos importantes que exigem conhecimento científico ou médico, é seguro usar mecanismos de pesquisa e fazer referência a várias fontes.  

Para aqueles que estão satisfeitos com a coleta de dados e que desejam apenas uma visão geral simples de um tópico, a IA costuma ser uma ótima opção. 

Veredicto final: você deve usar mecanismos de pesquisa com IA? 

Os usuários devem sempre ser cautelosos e reservar um tempo para ler os termos do mecanismo de pesquisa que usam, seja ele alimentado por IA ou não. As contas do Google e da Microsoft podem estar vinculadas aos dados, o que significa que as empresas podem criar um quadro mais amplo dos hábitos de um usuário. 

O preconceito também pode se infiltrar nos mecanismos de pesquisa tradicionais e nos mecanismos de IA, e os usuários precisam estar atentos e preparados para isso. Quando o Google começou a implementar a IA para um público mais amplo, recebeu muitas críticas sobre a qualidade de seus resultados de pesquisa. É comum ver discussões no Reddit como esta: A IA tornou a pesquisa do Google tão ruim que as pessoas estão migrando para o TikTok e o Reddit.

A pesquisa tradicional geralmente é a melhor para qualquer assunto médico ou científico, mas a fonte das informações deve ser sempre verificada em questões críticas como essas. Para obter uma visão geral rápida das informações e uma abordagem mais coloquial, os mecanismos de IA podem ser uma alternativa ideal. 

Em última análise, a pesquisa com IA já faz ou fará parte de sua vida. Ao usá-la, lembre-se de ficar atento à privacidade e priorizar a segurança de seu dispositivo.