Os motores de busca alimentados por IA são seguros?

O que são motores de busca alimentados por IA e como funcionam?

Os motores de pesquisa percorreram um longo caminho desde a simples correspondência entre palavras-chave e páginas Web. O Google já tem um algoritmo extremamente poderoso que está constantemente a ser ajustado, mas o próximo passo na pesquisa pode estar aqui. 

Os motores de busca alimentados por IA vão mais longe, utilizando modelos avançados de aprendizagem automática para compreender a intenção, analisar o contexto e gerar resultados mais precisos. Ao contrário dos motores de pesquisa tradicionais, que se baseiam em algoritmos de classificação e em páginas indexadas de sítios Web, estas ferramentas baseadas em IA processam as consultas mais como um ser humano faria. Muitas vezes, as suas respostas não direcionam as pessoas para um sítio Web e são concebidas para resumir a informação. 

Estes sistemas utilizam grandes modelos linguísticos para analisar grandes quantidades de dados, resumir conteúdos e, por vezes, até prever as informações de que os utilizadores necessitam antes de as pedirem. Alguns motores de busca com IA também integram a navegação na Web em tempo real para poderem obter informações actualizadas em vez de dependerem apenas de resultados pré-indexados. No mundo em rápida evolução das notícias e da tecnologia, isto pode ser crucial. 

O que é a IA de Perplexidade?

O Perplexity é um motor de pesquisa de conversação concebido para dar respostas naturais às perguntas dos utilizadores. As pessoas descreveram-no como um cruzamento entre o ChatGPT e o Google na forma como fornece resultados. Trata-se de uma espécie de assistente digital que analisa muitas informações relevantes para a consulta e fornece uma resposta simples utilizando linguagem natural. 

Baseia-se na tecnologia LLM de alguns dos gigantes do sector, incluindo GPT-4, Claude 3.5, Grok-2, Llama 3 e LLMs Perplexity desenvolvidos internamente na empresa. 

Consulte a nossa última publicação no blogue sobre Perplexity e preocupações com a privacidade:

O que é o Google SGE (Search Generative Experience)?

É possível que já tenha experimentado o SGE do Google sem o saber. Começou a ser implementado em maio de 2024 e é agora comum em muitas pesquisas na plataforma do Google. Trata-se de uma versão melhorada por IA do seu motor de pesquisa padrão. 

Em vez de se limitar a devolver as hiperligações, o SGE utiliza a aprendizagem automática para gerar resumos, fornecendo aos utilizadores informações instantâneas sem que seja necessário clicar em vários resultados e ler os sítios Web para encontrar essas informações. 

Este sistema integra respostas geradas por IA no topo dos resultados de pesquisa, oferecendo um instantâneo de informações relevantes, permitindo ainda que os utilizadores explorem as ligações tradicionais, se preferirem. As informações também podem ser citadas com a fonte original para que as pessoas possam verificar ou ler mais. 

Como é que a pesquisa do Microsoft Copilot funciona?

O Microsoft Copilot é semelhante em conceito ao SGE da Google. A pesquisa funciona dentro do Bing, melhorando a pesquisa tradicional com um resumo alimentado por IA e recuperação de dados em tempo real. Ao integrar a tecnologia da OpenAI (a empresa que fabrica o ChatGPT), o Copilot fornece respostas detalhadas, mantendo o acesso às hiperligações convencionais da Web para quem as quiser. A Microsoft também afirma que o software compreende o contexto, algo que pode ajudar muito a dar aos utilizadores os resultados certos. 

O que é a pesquisa ChatGPT e como funciona?

A função de pesquisa do ChatGPTcombina respostas geradas por IA com navegação na Web em tempo real. Pode extrair citações e informações diretamente de sítios Web activos, mas também se baseia no imenso conhecimento do próprio LLM. 

Ao contrário dos motores de busca tradicionais, que dão prioridade às classificações e à autoridade da página, o ChatGPT proporciona uma experiência mais interactiva, permitindo que os utilizadores alterem as suas consultas numa abordagem de conversação.

O que são alucinações de IA e como é que elas acontecem?

Quando um sistema de IA gera informações inexactas, enganosas ou que podem ser classificadas como "notícias falsas", é normalmente referido como uma alucinação de IA. Isto pode acontecer por várias razões. Em termos simples, resulta da forma como os modelos de IA processam e prevêem o texto. 

Os motores de busca com IA não pensam como os humanos - prevêem respostas com base em padrões nos dados com que foram treinados. Por vezes, este processo corre mal, especialmente em tópicos onde existem muitas opiniões contrastantes. Alguns estudos sugeriram mesmo que os modelos de IA podem ter sido treinados com base em preconceitos humanos, o que pode causar alucinações. 

As alucinações também podem ocorrer quando uma IA tenta preencher as lacunas do seu conhecimento inventando factos para criar o que parece ser uma resposta completa e confiante. A IA é criada com o objetivo de responder às perguntas e, por vezes, fá-lo-á com informações inexactas. importância de desenvolver defesas robustas e mecanismos de deteção para mitigar potenciais ameaças.

Exemplos de alucinações de IA nos motores de busca

Muitos de nós já vimos isso de forma anedótica se estiverem a utilizar a IA. Há muitos exemplos de afirmações que não são corretas e que são fornecidas com confiança pelos motores de busca com IA.  

O chatbot Bard da Google, durante uma demonstração em 2023, [explicou incorretamente] (https://mashable.com/article/google-bard-james-webb-telescope-false-fact) que o Telescópio Espacial James Webb tinha captado as primeiras imagens do mundo de um planeta fora do nosso sistema solar. Tratou-se de uma invenção da IA, que fez com que a holding da Google perdesse milhares de milhões no valor das suas acções. 

Algumas das respostas foram bem-humoradas. Um utilizador da Web partilhou uma captura de ecrã de uma visão geral da IA para a consulta "frutas que terminam em um", afirmando que "applum, banana, strawberrum, tomatum e côco" eram todos exemplos utilizados. 

Os motores de busca com IA podem ser manipulados? 

Existe o potencial de manipulação, que até foi provado nos últimos meses. Para além de gerar respostas incorrectas, os motores de busca com IA também podem ser influenciados pelos dados com que são treinados. 

A IA baseia-se nos dados com que é "alimentada" (proverbialmente falando) e requer, em primeiro lugar, fontes fiáveis. Isto significa que existe a possibilidade de a tecnologia captar preconceitos com base no seu material de origem. Por exemplo, algumas investigações sugeriram que as ferramentas de IA classificam as fotografias de mulheres de uma forma mais sugestiva do que as imagens de homens, talvez porque muitos dos criadores da tecnologia são eles próprios homens, com perspectivas subjectivas. 

Estudos demonstraram também que o texto que o ChatGPT e motores de IA semelhantes estão a pesquisar pode ser utilizado para manipular, utilizando texto oculto que pode ser devolvido ao utilizador final. Também é possível que vários sítios Web possam trabalhar em conjunto para tentar enganar ou manipular uma IA - se um número suficiente de fontes não fiáveis disserem a mesma coisa, um modelo de IA pode aceitá-la como um facto e incorporá-la nos seus resultados 

Os motores de pesquisa de IA fornecem informações actualizadas e em tempo real? 

Todos nos habituámos ao facto de podermos pesquisar no Google uma notícia ou algo que está na moda e ver resultados que foram publicados muito recentemente. A IA não funciona da mesma forma, por isso, até que ponto a informação está actualizada? 

A pesquisa de IA tem acesso a dados em tempo real? 

Os modelos de IA são normalmente treinados com base num instantâneo da Internet, em vez de actualizarem continuamente os seus conhecimentos. Isto significa que não "vêem" inerentemente novas páginas Web da mesma forma que um motor de pesquisa tradicional como o Google. No entanto, algumas ferramentas de pesquisa de IA tentam colmatar esta lacuna integrando pesquisas na Web em tempo real. 

O Copilot da Microsoft (antigo Bing AI) e a Search Generative Experience (SGE) da Google tentam obter dados actuais ligando as respostas da IA aos resultados de pesquisa em tempo real. Em muitas pesquisas de IA, pode haver um desfasamento entre a publicação de novas informações e o reconhecimento das mesmas pelas ferramentas de pesquisa de IA. 

Quão recentes são os dados nos resultados de pesquisa da IA? 

A atualidade dos dados depende do modelo de IA. Alguns modelos de IA só sabem aquilo em que foram treinados, o que significa que os seus dados podem estar meses ou mesmo anos desactualizados. Por exemplo, os dados do modelo de pré-treino do ChatGPT vão apenas até outubro de 2023. Esta é uma grande desvantagem quando se pesquisam coisas como acontecimentos actuais ou novas descobertas científicas. Se perguntarmos a alguns motores de pesquisa de IA quais foram os últimos vencedores de um prémio, por exemplo, eles podem não saber as informações mais recentes. 

A pesquisa com IA classifica as informações de forma objetiva? 

A objetividade pode ser escassa na era moderna da Internet, e a IA não resolve necessariamente este problema. Em vez de se limitar a classificar os resultados existentes, a IA gera ativamente respostas com base em padrões nos seus dados de formação e algoritmos de pesquisa. Isto cria um potencial de parcialidade. 

A forma como a IA seleciona e resume a informação nem sempre é neutra. Se uma IA tiver sido treinada com dados que se inclinam numa determinada direção, os seus resumos podem refletir essa tendência, mesmo que não intencionalmente. 

Os programadores estão sempre a trabalhar neste aspeto. O modelo mais recente do ChatGPT anunciava o facto de a taxa de enviesamento e alucinações ter diminuído significativamente, mas ainda estamos nos primeiros dias desta tecnologia. 

Os motores de busca alimentados por IA são um risco para a privacidade? 

As ferramentas de pesquisa com IA processam ativamente e geram respostas com base nas consultas dos utilizadores. Esta camada adicional de processamento levanta questões sobre a forma como os dados são processados e salvaguardados. 

Os motores de busca com IA monitorizam os seus dados? 

Muitos motores de pesquisa de IA recolhem dados. A extensão varia consoante a plataforma. Alguns armazenam consultas para melhorar os seus modelos de IA, enquanto outros afirmam evitar o rastreio a longo prazo. As ferramentas alimentadas por IA recolhem frequentemente dados para aperfeiçoar as respostas e personalizar os resultados. As pessoas perguntam-se se o Copilot é seguro de utilizar ou se o SGE recolhe dados. Estes são temas complexos.  

De acordo com a Microsoft, "o Copilot foi criado com base no Microsoft Azure OpenAI Service e é totalmente executado na nuvem do Azure. O Azure OpenAI oferece disponibilidade regional e filtragem responsável de conteúdos de IA". O Copilot recolhe dados, mas gaba-se de que estão seguros na nuvem. 

É possível que as plataformas integrem o comportamento de pesquisa da IA com os perfis de utilizador existentes. Isto significa que a atividade de pesquisa pode ser associada a outros hábitos em linha, suscitando preocupações sobre a segurança dos dados e a publicidade direcionada. 

O que acontece às suas pesquisas em plataformas alimentadas por IA? 

Os dados de pesquisa não desaparecem automaticamente. Embora os termos e condições possam detalhar o facto de estes dados não serem partilhados diretamente, podem ser mantidos durante longos períodos para ajudar a aperfeiçoar os modelos de aprendizagem automática. Alguns motores de pesquisa com IA utilizam mesmo consultas anteriores para moldar respostas futuras. 

Se uma ferramenta de pesquisa com IA guardar os dados do utilizador, estes dados podem ser analisados para melhorar a precisão ou treinar futuras versões do modelo. Embora as empresas afirmem que as informações de identificação pessoal são eliminadas, os utilizadores preocupados com a privacidade podem ainda sentir-se desconfortáveis com o registo do seu histórico de pesquisa. 

Os resultados de pesquisa da IA são influenciados por ligações e anúncios de afiliados? 

A maioria das empresas é movida por lucros. Tanto os motores de busca como os que alimentam os dados (editores) podem estar a utilizar ligações de afiliados ou anúncios sob a forma de conteúdo publicitário. 

O SGE da Google, por exemplo, já integra resultados orientados para a IA no seu ecossistema de publicidade. O Microsoft Copilot faz algo semelhante, combinando respostas de IA com hiperligações promovidas. O risco aqui é que os resumos gerados pela IA podem subtilmente empurrar os utilizadores para conteúdos pagos sem tornar a distinção óbvia. 

O que nunca deve partilhar com os motores de busca da IA

Tal como acontece com a publicação de qualquer coisa em linha, evite partilhar demasiados dados pessoais em linha. A boa regra geral é não partilhar as suas informações pessoais identificáveis. Como Amanda Caswell escreve no Tom's Guide, eu disse ao ChatGPT algo de que ainda me arrependo - aqui estão 7 coisas que nunca deve partilhar, nunca deve partilhar o seguinte ao interagir com ferramentas de pesquisa de IA (independentemente da ferramenta!):

1: Informação pessoal identificável (PII) - tudo isto está fora dos limites: o seu nome verdadeiro, data de nascimento, número de segurança social (SSN), morada verdadeira, etc. Qualquer coisa que não queira enviar para um endereço de correio eletrónico desconhecido, não deve ser usada para conversar com o ChatGPT. Se quiser limitar esta exposição, use um nome "fictício" e uma data de nascimento, se necessário. Já fui Helly R. mais vezes do que gostaria de admitir.

2: Informações financeiras - números de cartões de crédito, contas bancárias, informações fiscais.

3: Senhas - embora possa parecer uma boa ideia pedir ao ChatGPT para criar uma senha forte para você, nunca é. Se tiver que usar uma ferramenta automática para criar uma senha para si, pelo menos certifique-se de que ela vem de uma fonte confiável - dica, use o nosso gerador de senhas . Além disso, leia sobre passkeys e autenticação multi-fator como escolhas de login mais seguras.

4: Informações médicas - pode ser tentador comunicar com um assistente digital útil sobre o seu diagnóstico. Escrevemos sobre um fornecedor de chatbot de IA que expõe 346.000 ficheiros de clientes, incluindo documentos de identificação, currículos e registos médicos. Se tiver de interagir com o ChatGPT sobre a sua condição, certifique-se de que não menciona que se trata do seu próprio diagnóstico. Finja estar conduzindo uma pesquisa em vez de expor seus detalhes confidenciais online.

Os motores de busca com IA são seguros para as crianças? 

Com cada vez mais jovens a utilizarem ferramentas de IA para fazer os trabalhos de casa e navegar em geral, bem como para se divertirem um pouco, os pais estão a colocar uma questão importante: Os motores de pesquisa com IA são seguros para as crianças? Os motores de pesquisa tradicionais têm controlos parentais e filtros que ajudam a bloquear conteúdos explícitos (não que tenham sido sempre perfeitos), mas as respostas geradas pela IA acrescentam uma nova camada de complexidade. 

O Perplexity AI é seguro para crianças? 

A utilização não supervisionada é um tema difícil e uma decisão que deve ser tomada pelos pais. Perplexidade A IA gera respostas com base em padrões nos seus dados de treino, podendo por vezes produzir conteúdos enganadores ou inadequados. 

Embora a plataforma afirme utilizar técnicas de filtragem, o texto gerado pela IA nem sempre é previsível. Ao contrário dos motores de busca tradicionais que simplesmente bloqueiam determinadas páginas, uma ferramenta de IA pode ainda sintetizar conteúdos inadequados com base nas consultas dos utilizadores. 

A pesquisa com IA filtra conteúdos inadequados? 

A maioria dos motores de busca com IA tenta filtrar material explícito. No entanto, nenhum sistema é infalível e podem ocorrer erros. O SGE da Google e o Copilot da Microsoft dispõem de ferramentas de moderação de conteúdos, mas a IA pode, por vezes, gerar respostas que escapam às regras. 

Um dos principais problemas é o facto de a IA não "pensar" da mesma forma que os humanos. Se for questionada sobre um tema sensível, pode produzir involuntariamente conteúdos inadequados para crianças, mesmo que não tenha sido diretamente treinada para o fazer. Este é um dos riscos inerentes à sua utilização. 

Qual é o melhor (e mais seguro) motor de busca de IA? 

Os utilizadores da Web têm uma decisão a tomar. Em que motor de busca de IA é que confiam? Algumas pessoas são muito cautelosas em relação aos seus dados e à forma como são utilizados, e verificar os termos e condições é essencial neste cenário. 

Qual é o motor de pesquisa de IA que oferece a melhor privacidade? 

Existem compensações, mas o Perplexity AI permite a navegação anónima e apenas recolhe alguns dados de utilização para melhorar os resultados. Esta é, sem dúvida, a melhor opção em termos de privacidade. 

O SGE da Google e o Microsoft Copilot, por outro lado, integram a pesquisa com IA nos perfis de utilizador existentes. É possível que as pesquisas possam ser associadas a dados publicitários ou a contas pessoais. O motor de busca Brave foi concebido para tentar aumentar a privacidade, uma vez que gera as respostas dentro do browser e não num servidor. 

A pesquisa baseada na Web do ChatGPT também pode registar interações para utilizadores com contas gratuitas. As opções de IA mais seguras são aquelas que não requerem inícios de sessão nem recolhem um histórico de pesquisa. 

Deve confiar nos motores de busca com IA em vez do Google? 

Os motores de busca com IA são propensos a erros, apresentando por vezes informações erradas ou factos "alucinados" como verdade. Além disso, são bastante recentes e ainda estão a evoluir, pelo que o futuro da pesquisa poderá ser muito diferente à medida que forem adicionadas novas funcionalidades. 

Embora os resultados de pesquisa do Google também possam ser tendenciosos (ou conduzidos por anúncios), os utilizadores podem, pelo menos, verificar várias fontes antes de tirar conclusões. Para tópicos importantes que requerem conhecimentos científicos ou médicos, é seguro utilizar os motores de busca e referenciar várias fontes.  

Para aqueles que estão satisfeitos com a recolha de dados e que apenas pretendem uma visão geral simples de um tópico, a IA é frequentemente uma óptima escolha. 

Veredicto final: deve utilizar motores de pesquisa alimentados por IA? 

Os utilizadores devem ser sempre cautelosos e dedicar algum tempo a ler os termos do motor de busca que utilizam, quer este seja alimentado por IA ou não. As contas da Google e da Microsoft podem estar ligadas aos dados, o que significa que as empresas podem construir uma imagem mais ampla dos hábitos de um utilizador. 

O preconceito também pode infiltrar-se nos motores de busca tradicionais e nos motores de IA, e os utilizadores têm de estar atentos e preparados para isso. Quando o Google começou a lançar a IA para um público mais vasto, recebeu muitas críticas sobre a qualidade dos seus resultados de pesquisa. É comum ver discussões no Reddit como esta: A IA tornou a pesquisa do Google tão má que as pessoas estão a mudar para o TikTok e o Reddit.

A pesquisa tradicional é muitas vezes a melhor para tudo o que é médico ou científico, mas a fonte da informação deve ser sempre verificada para assuntos críticos como estes. Para uma visão geral rápida da informação e uma abordagem mais conversacional, os motores de IA podem ser uma alternativa ideal. 

Em última análise, a pesquisa com IA já faz ou fará parte da sua vida. Quando a utilizar, lembre-se de ter cuidado com a privacidade e de dar prioridade à segurança do seu dispositivo.