¿Qué son los motores de búsqueda impulsados por IA y cómo funcionan?
Los motores de búsqueda han evolucionado enormemente desde la simple coincidencia de palabras clave con páginas web. Google ya cuenta con un algoritmo sumamente potente que se perfecciona constantemente, pero el siguiente paso en las búsquedas podría estar a la vuelta de la esquina.
Los motores de búsqueda con IA van más allá, utilizando modelos avanzados de aprendizaje automático para comprender la intención, analizar el contexto y generar resultados más precisos. A diferencia de los motores de búsqueda tradicionales que se basan en algoritmos de clasificación y páginas indexadas de sitios web, estas herramientas impulsadas por IA procesan las consultas de forma más similar a como lo haría un humano. Sus respuestas a menudo no dirigen a los usuarios a un sitio web, sino que simplemente resumen la información.
Estos sistemas utilizan modelos lingüísticos complejos para analizar grandes cantidades de datos, resumir el contenido e incluso predecir la información que los usuarios necesitan antes de que la soliciten. Algunos motores de búsqueda con IA también integran la navegación web en tiempo real para incorporar información actualizada en lugar de depender únicamente de resultados preindexados. En el vertiginoso mundo de las noticias y la tecnología, esto puede resultar crucial.
¿Qué es Perplexity AI?
Perplexity es un buscador conversacional diseñado para ofrecer respuestas naturales a las preguntas de los usuarios. Se ha descrito como una combinación entre ChatGPT y Google por la forma en que proporciona los resultados. Es una especie de asistente digital que analiza gran cantidad de información relevante para la consulta y ofrece una respuesta sencilla en lenguaje natural.
Se basa en tecnología LLM de algunos de los gigantes de esta industria, incluidos GPT-4, Claude 3.5, Grok-2, Llama 3 y LLM de perplejidad desarrollados internamente por la empresa.
Consulta nuestra última entrada de blog sobre Perplexity y las preocupaciones sobre la privacidad:
¿Qué es Google SGE (Search Generative Experience)?
Es posible que ya hayas experimentado el SGE de Google sin saberlo. Su implementación comenzó en mayo de 2024 y ahora es común en muchas búsquedas en la plataforma de Google. Se trata de una versión mejorada con inteligencia artificial de su motor de búsqueda estándar.
En lugar de limitarse a devolver enlaces, SGE utiliza el aprendizaje automático para generar resúmenes, proporcionando a los usuarios información instantánea sin necesidad de hacer clic en múltiples resultados ni leer sitios web para encontrar esa información.
Este sistema integra respuestas generadas por IA en la parte superior de los resultados de búsqueda, ofreciendo un resumen de información relevante y permitiendo a los usuarios explorar enlaces tradicionales si lo prefieren. La información también puede incluir la fuente original para que los usuarios puedan verificarla o ampliarla.
¿Cómo funciona la búsqueda de Microsoft Copilot?
Microsoft Copilot es similar en concepto a Google Search Console (SGE). La búsqueda se integra en Bing, mejorando la búsqueda tradicional con resúmenes basados en IA y recuperación de datos en tiempo real. Al integrar la tecnología de OpenAI (la empresa creadora de ChatGPT), Copilot proporciona respuestas detalladas, manteniendo el acceso a enlaces web convencionales para quienes los prefieran. Microsoft también afirma que el software comprende el contexto, lo que puede ser de gran ayuda para ofrecer a los usuarios los resultados adecuados.
¿Qué es la búsqueda de ChatGPT y cómo funciona?
La función de búsqueda de ChatGPT combina respuestas generativas basadas en IA con la navegación web en tiempo real. Puede obtener citas e información directamente de sitios web activos, pero también se basa en el vasto conocimiento del propio LLM.
A diferencia de los motores de búsqueda tradicionales que priorizan la clasificación y la autoridad de la página, ChatGPT ofrece una experiencia más interactiva al permitir a los usuarios modificar sus consultas mediante un enfoque conversacional.
¿Qué son las alucinaciones inducidas por la IA y cómo se producen?
Cuando un sistema de IA genera información inexacta, engañosa o que podría clasificarse como «noticias falsas», se suele hablar de una alucinación de IA. Esto puede ocurrir por varias razones. En pocas palabras, se debe a la forma en que los modelos de IA procesan y predicen el texto.
Los motores de búsqueda con IA no piensan como los humanos: predicen respuestas basándose en patrones de los datos con los que han sido entrenados. A veces, este proceso falla, sobre todo en temas con muchas opiniones contradictorias. Algunos estudios incluso sugieren que los modelos de IA podrían haber sido entrenados con sesgos humanos, lo que puede provocar alucinaciones.
Las alucinaciones también pueden ocurrir cuando una IA intenta llenar los vacíos en su conocimiento inventando datos para crear lo que parece una respuesta completa y segura. La IA se crea con el objetivo de responder preguntas y, a veces, lo hará con información inexacta. Importancia de desarrollar defensas y mecanismos de detección robustos para mitigar posibles amenazas.
Ejemplos de alucinaciones de IA en motores de búsqueda
Muchos ya hemos observado esto de forma anecdótica cuando se utiliza inteligencia artificial. Existen numerosos ejemplos de afirmaciones erróneas que los motores de búsqueda basados en IA proporcionan con total seguridad.
Durante una demostración en 2023, el chatbot Bard de Google explicó erróneamente que el Telescopio Espacial James Webb había capturado las primeras imágenes de un planeta fuera de nuestro sistema solar. Esta afirmación, basada en una invención de la IA, provocó que la empresa matriz de Google perdiera miles de millones de dólares en el valor de sus acciones.
Algunas de las respuestas han sido graciosas. Un usuario compartió una captura de pantalla de una descripción general de IA para la consulta "frutas que terminan en um", afirmando que "manzana, plátano, fresa, tomate y coco" eran algunos de los ejemplos utilizados.
¿Se pueden manipular los motores de búsqueda de IA?
Existe la posibilidad de manipulación, algo que incluso se ha demostrado en los últimos meses. Además de generar respuestas incorrectas, los motores de búsqueda de IA también pueden verse influenciados por los datos con los que se entrenan.
La IA depende de los datos que recibe (por así decirlo) y requiere fuentes fiables desde el principio. Esto implica que existe la posibilidad de que la tecnología adquiera sesgos basados en su material de origen. Por ejemplo, algunas investigaciones sugieren que las herramientas de IA califican las fotos de mujeres de forma más sugerente que las de hombres, quizás porque muchos de los creadores de la tecnología son hombres, con perspectivas subjetivas.
Los estudios también han demostrado que el texto que ChatGPT y motores de IA similares rastrean podría usarse para manipularlo, utilizando texto oculto que podría devolverse al usuario final. También es posible que varios sitios web colaboren para intentar engañar o manipular una IA; si suficientes fuentes poco fiables dicen lo mismo, un modelo de IA podría aceptarlo como cierto e incorporarlo a sus resultados.
¿Los motores de búsqueda con IA proporcionan información actualizada en tiempo real?
Todos nos hemos acostumbrado a buscar en Google una noticia o un tema de actualidad y ver resultados publicados recientemente. La IA no funciona igual, así que ¿qué tan actualizada está la información?
¿Tiene la búsqueda mediante IA acceso a datos en tiempo real?
Los modelos de IA suelen entrenarse con una instantánea de internet en lugar de actualizar continuamente su conocimiento. Esto significa que no "ven" páginas web nuevas de forma inherente, como lo hace un motor de búsqueda tradicional como Google. Sin embargo, algunas herramientas de búsqueda con IA intentan superar esta limitación integrando búsquedas web en tiempo real.
Copilot de Microsoft (antes Bing AI) y Search Generative Experience (SGE) de Google intentan incorporar datos actualizados vinculando las respuestas de la IA con los resultados de búsqueda en tiempo real. En muchas búsquedas con IA, puede haber un desfase entre la publicación de nueva información y su reconocimiento por parte de las herramientas de búsqueda.
¿Qué tan actualizados están los datos en los resultados de búsqueda de IA?
La actualidad de los datos depende del modelo de IA. Algunos modelos solo utilizan los datos con los que fueron entrenados, lo que significa que estos podrían tener meses o incluso años de antigüedad. Por ejemplo, los datos del modelo de preentrenamiento de ChatGPT solo llegan hasta octubre de 2023. Esto representa una gran desventaja al buscar información sobre eventos actuales o nuevos descubrimientos científicos. Si, por ejemplo, se le preguntara a un motor de búsqueda de IA quiénes fueron los últimos ganadores de un premio, es posible que no disponga de la información más reciente.
¿La búsqueda mediante IA clasifica la información de forma objetiva?
La objetividad puede escasear en la era moderna de internet, y la IA no necesariamente soluciona este problema. En lugar de simplemente clasificar los resultados existentes, la IA genera activamente respuestas basadas en patrones de sus datos de entrenamiento y algoritmos de búsqueda. Esto crea un potencial de sesgo.
La forma en que la IA selecciona y resume la información no siempre es neutral. Si una IA ha sido entrenada con datos que se inclinan hacia una dirección determinada, sus resúmenes pueden reflejar ese sesgo, incluso de forma involuntaria.
Los desarrolladores trabajan en esto constantemente. El modelo más reciente de ChatGPT anunciaba una reducción significativa en la tasa de sesgos y alucinaciones, pero aún estamos en las primeras etapas de esta tecnología.
¿Los motores de búsqueda impulsados por IA suponen un riesgo para la privacidad?
Las herramientas de búsqueda basadas en IA procesan y generan respuestas activamente a partir de las consultas de los usuarios. Esta capa adicional de procesamiento plantea interrogantes sobre cómo se procesan y protegen los datos.
¿Los motores de búsqueda con IA rastrean tus datos?
Muchos motores de búsqueda con IA recopilan datos. La cantidad varía según la plataforma. Algunos almacenan las consultas para mejorar sus modelos de IA, mientras que otros afirman evitar el seguimiento a largo plazo. Las herramientas con IA suelen recopilar información para refinar las respuestas y personalizar los resultados. La gente se pregunta si Copilot es seguro y si SGE recopila datos. Son temas complejos.
Según Microsoft, «Copilot está basado en Microsoft Azure OpenAI Service y se ejecuta completamente en la nube de Azure. Azure OpenAI ofrece disponibilidad regional y filtrado responsable de contenido de IA». Copilot recopila datos, pero asegura que estos se almacenan de forma segura en la nube.
Es posible que las plataformas integren el comportamiento de búsqueda de la IA con los perfiles de usuario existentes. Esto significa que la actividad de búsqueda podría vincularse con otros hábitos en línea, lo que genera inquietudes sobre la seguridad de los datos y la publicidad dirigida.
¿Qué ocurre con tus búsquedas en plataformas basadas en inteligencia artificial?
Los datos de búsqueda no desaparecen automáticamente. Si bien los términos y condiciones pueden detallar que estos datos no se comparten directamente, pueden conservarse durante períodos prolongados para ayudar a perfeccionar los modelos de aprendizaje automático. Algunos motores de búsqueda con IA incluso utilizan consultas anteriores para generar respuestas futuras.
Si una herramienta de búsqueda con IA guarda la información introducida por el usuario, estos datos podrían analizarse para mejorar la precisión o entrenar futuras versiones del modelo. Si bien las empresas afirman que se elimina la información personal identificable, los usuarios preocupados por su privacidad aún podrían sentirse incómodos con el registro de su historial de búsqueda.
¿Los resultados de búsqueda de la IA se ven influenciados por los enlaces de afiliados y los anuncios?
La mayoría de las empresas se rigen por el afán de lucro. Tanto los motores de búsqueda como quienes les proporcionan datos (los editores) pueden utilizar enlaces de afiliados o anuncios en forma de contenido publicitario.
Por ejemplo, SGE de Google ya integra resultados generados por IA con su ecosistema publicitario. Microsoft Copilot hace algo similar al combinar respuestas de IA con enlaces promocionados. El riesgo reside en que los resúmenes generados por IA podrían dirigir sutilmente a los usuarios hacia contenido de pago sin que la distinción sea evidente.
Lo que nunca debes compartir con los motores de búsqueda de IA
Al igual que con cualquier publicación en línea, evite compartir demasiados datos personales. La regla general es no compartir información personal identificable . Como escribe Amanda Caswell en Tom's Guide : «Le conté a ChatGPT algo de lo que todavía me arrepiento; aquí hay 7 cosas que nunca deberías compartir» . Nunca debes compartir lo siguiente al interactuar con herramientas de búsqueda de IA (¡independientemente de la herramienta!):
1: Información personal identificable (PII) : todo esto está prohibido: tu nombre real, fecha de nacimiento, número de seguro social (SSN), dirección real, etc. No envíes nada que no quieras enviar a una dirección de correo electrónico desconocida al chatear con ChatGPT. Para limitar esta exposición, usa un nombre y una fecha de nacimiento ficticios si es necesario. He sido Helly R. más veces de las que me gustaría admitir.
2: Información financiera: números de tarjetas de crédito, cuentas bancarias, información fiscal.
3. Contraseñas: aunque pedirle a ChatGPT que cree una contraseña segura pueda parecer una buena idea, nunca lo es. Si necesitas usar una herramienta automatizada para crear una contraseña, asegúrate al menos de que provenga de una fuente confiable; te sugerimos usar nuestro generador de contraseñas . Además, infórmate sobre las claves de acceso y la autenticación multifactor como opciones de inicio de sesión más seguras.
4. Información médica: puede resultar tentador comunicarse con un asistente digital sobre su diagnóstico. Ya informamos sobre un proveedor de chatbots con IA que expuso 346 000 archivos de clientes, incluyendo documentos de identidad, currículos e historiales médicos . Si necesita interactuar con ChatGPT sobre su condición, evite mencionar que se trata de su propio diagnóstico. En lugar de exponer información confidencial en línea, finja que está realizando una investigación.
¿Son seguros para los niños los motores de búsqueda con inteligencia artificial?
Con un número creciente de jóvenes que utilizan herramientas de IA para hacer los deberes, navegar por internet y divertirse, los padres se hacen una pregunta importante: ¿Son seguros para los niños los buscadores con IA? Los buscadores tradicionales cuentan con controles parentales y filtros que ayudan a bloquear el contenido explícito (aunque no siempre han sido perfectos), pero las respuestas generadas por IA añaden una nueva capa de complejidad.
¿Es seguro Perplexity AI para niños?
El uso sin supervisión es un tema delicado y una decisión que corresponde a los padres. Perplexity AI genera respuestas basadas en patrones de sus datos de entrenamiento, lo que a veces puede producir contenido engañoso o inapropiado.
Aunque la plataforma afirma utilizar técnicas de filtrado, el texto generado por IA no siempre es predecible. A diferencia de los motores de búsqueda tradicionales, que simplemente bloquean ciertas páginas, una herramienta de IA aún podría generar contenido inapropiado basándose en las consultas del usuario.
¿La búsqueda mediante IA filtra el contenido inapropiado?
La mayoría de los motores de búsqueda con IA intentan filtrar el contenido explícito. Sin embargo, ningún sistema es infalible y pueden ocurrir errores. Google SGE y Microsoft Copilot cuentan con herramientas de moderación de contenido, pero la IA a veces genera respuestas que se escapan a los filtros.
Un problema importante es que la IA no «piensa» como los humanos. Si se le pregunta sobre un tema delicado, podría generar involuntariamente contenido inapropiado para niños, incluso si no ha sido entrenada específicamente para ello. Este es uno de los riesgos inherentes a su uso.
¿Cuál es el mejor (y más seguro) motor de búsqueda con IA?
Los usuarios de internet deben tomar una decisión. ¿En qué motor de búsqueda con IA confían? Algunas personas son muy cautelosas con respecto a sus datos y su uso, por lo que consultar los términos y condiciones es fundamental en este caso.
¿Qué motor de búsqueda con IA ofrece la mejor privacidad?
Si bien existen ventajas y desventajas, Perplexity AI permite la navegación anónima y solo recopila algunos datos de uso para mejorar los resultados. Podría decirse que es la mejor opción disponible en cuanto a privacidad.
Por otro lado, Google Search Console (SGE) y Microsoft Copilot integran la búsqueda con IA con los perfiles de usuario existentes. Es posible que las búsquedas se vinculen a datos publicitarios o cuentas personales. El motor de búsqueda Brave se ha diseñado para aumentar la privacidad, ya que genera las respuestas en el navegador del usuario en lugar de en un servidor.
El buscador web de ChatGPT también puede registrar las interacciones de los usuarios con cuentas gratuitas. Las opciones de IA más seguras son aquellas que no requieren iniciar sesión ni recopilan el historial de búsqueda.
¿Deberías confiar más en los motores de búsqueda de IA que en Google?
Los motores de búsqueda con IA son propensos a errores, presentando a veces información errónea o hechos inventados como si fueran ciertos. Además, son bastante nuevos y aún están en desarrollo, por lo que el futuro de las búsquedas podría ser muy diferente a medida que se incorporen nuevas funciones.
Si bien los resultados de búsqueda de Google también pueden estar sesgados (o influenciados por la publicidad), los usuarios pueden, al menos, contrastar información de varias fuentes antes de llegar a conclusiones. Para temas importantes que requieren conocimientos científicos o médicos, usar motores de búsqueda y consultar múltiples fuentes es una práctica segura.
Para quienes no tienen inconveniente en que se recopilen datos y simplemente desean una visión general de un tema, la IA suele ser una excelente opción.
Veredicto final: ¿deberías usar motores de búsqueda con inteligencia artificial?
Los usuarios siempre deben ser precavidos y leer detenidamente los términos y condiciones del buscador que utilizan, independientemente de si este utiliza inteligencia artificial o no. Las cuentas de Google y Microsoft pueden estar vinculadas a los datos, lo que permite a estas empresas obtener información más completa sobre los hábitos de los usuarios.
Los sesgos también pueden infiltrarse tanto en los motores de búsqueda tradicionales como en los de IA, y los usuarios deben estar atentos y preparados para ello. Cuando Google comenzó a implementar la IA para un público más amplio, recibió muchas críticas sobre la calidad de sus resultados de búsqueda. Es común ver discusiones en Reddit como esta: La IA ha empeorado tanto la búsqueda de Google que la gente se está pasando a TikTok y Reddit .
La búsqueda tradicional suele ser la mejor opción para temas médicos o científicos, pero en asuntos tan importantes como estos, siempre se debe verificar la fuente de la información. Para obtener una visión general rápida y un enfoque más conversacional, los motores de IA pueden ser una alternativa ideal.
En definitiva, la búsqueda mediante IA ya forma parte de tu vida o lo hará en el futuro. Al usarla, recuerda ser precavido con respecto a tu privacidad y priorizar la seguridad de tu dispositivo .