Un tribunal alemán ha dictaminado que Google puede ser considerado directamente responsable de las afirmaciones difamatorias generadas por sus análisis de IA. En esencia, el tribunal afirmó que recomendar a los usuarios que verifiquen los resultados de búsqueda de la IA no es suficiente para eximirlos de responsabilidad por el contenido de dichos resultados.
El Tribunal Regional de Múnich dictó una orden judicial preliminar contra Google después de que dos editores alemanes descubrieran que AI Overviews los presentaba falsamente como involucrados en estafas y "prácticas comerciales dudosas", a pesar de que los artículos enlazados no respaldaban esas afirmaciones.
La decisión podría tener repercusiones mucho más allá de Alemania. El tribunal dictaminó que Google puede ser considerado directamente responsable del contenido difamatorio generado por sus análisis basados en IA. El tribunal dejó de lado el habitual discurso de «es solo IA, no confíes demasiado en ella» y dejó algo claro: si creas un sistema que difama con seguridad a personas o empresas, puedes ser responsable de lo que dice, incluso cuando el contenido fue «generado» por la IA.
Las reseñas sobre IA no son sugerencias inofensivas. En este caso, el tribunal las consideró declaraciones de Google, con todas las implicaciones legales que ello conlleva.
Cuando los editores enviaron una carta de cese y desistimiento, Google no impidió de inmediato que aparecieran afirmaciones similares. Este detalle resultó crucial en el fallo. El tribunal señaló que, a diferencia de los resultados de búsqueda tradicionales, que simplemente muestran contenido de terceros, las Reseñas de IA generan «declaraciones independientes, nuevas y sustanciales».
Y dado que solo Google puede ajustar los modelos y la lógica que generan esas afirmaciones, solo Google puede impedir de forma fiable que el sistema repita las mismas falsedades o similares. En este caso, el tribunal dictaminó que Google puede ser considerado responsable.
Durante años, los motores de búsqueda han gozado de una amplia protección bajo el argumento de que cierto contenido dañino es inevitable al indexar la web abierta a gran escala. Mostrar un resultado de búsqueda no implica respaldarlo. El motor de búsqueda es un canal, no un editor.
Eso cambia cuando una descripción general de IA resume, reformula y, a veces, inventa datos, para luego publicarlos en la parte superior de los resultados de búsqueda.
Las funciones de resumen basadas en IA son una característica adicional, no esencial para el funcionamiento de la búsqueda. Sin embargo, su atractivo reside en la rapidez y la seguridad de sus respuestas, lo cual es precisamente lo que las hace peligrosas. Cuando estas respuestas son erróneas, muchos usuarios podrían no hacer clic para consultar las fuentes.
El fallo es preliminar y puede ser apelado, pero el mensaje es claro: los resultados de las búsquedas con IA no son una solución mágica que elimine la responsabilidad. Las cláusulas de exención de responsabilidad sobre posibles errores pueden no ser suficientes cuando un sistema se implementa a gran escala, crea contenido nuevo y está diseñado para generar confianza.
En cifras
Las reseñas de IA de Google funcionan con Gemini, el modelo de inteligencia artificial de Google. Al igual que otros sistemas de IA, puede generar respuestas seguras que son erróneas o que no están bien fundamentadas.
El centro de investigación Pew Research estudió los datos de navegación de cientos de usuarios y descubrió que cuando aparece una descripción general de IA en una página de resultados de Google, los clics en los resultados de búsqueda tradicionales disminuyen de alrededor del 15 % a aproximadamente el 8 %.
Un análisis del New York Times sobre las revisiones de IA reveló que eran precisas aproximadamente nueve de cada diez veces. Pero dado que Google procesa más de cinco billones de búsquedas al año, incluso un pequeño margen de error podría significar millones de respuestas incorrectas.
Y esos errores no siempre se deben a fuentes poco fiables. Incluso cuando Google enlaza a una página con la información correcta, su IA puede generar una respuesta falsa. Más de la mitad de las respuestas correctas se clasificaron como «sin fundamento», lo que significa que los sitios web citados por el análisis de la IA no respaldaban completamente la información que proporcionaban.
La principal lección aquí es verificar cuidadosamente las respuestas de búsqueda de la IA. No confíes en una respuesta solo porque se presente con seguridad e incluya enlaces.
Los usuarios pueden ser dirigidos hacia amenazas reales, o alejados de protecciones efectivas, simplemente porque un sistema de IA pareció convincente en una página de resultados de búsqueda.
Si encuentra resúmenes de IA falsos o difamatorios sobre usted o su empresa, documéntelos minuciosamente. Tome capturas de pantalla, guarde los términos de búsqueda, presente solicitudes de corrección y conserve un registro de la respuesta de la plataforma. O de la falta de respuesta.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft Protection detecta la actividad sospechosa antes de que se convierta en un problema.
