Un tribunal alemán ha dictaminado que Google puede ser considerado directamente responsable de las afirmaciones difamatorias generadas por sus resúmenes de IA. En esencia, el tribunal ha señalado que recomendar a los usuarios que comprueben los resultados de búsqueda generados por la IA no es suficiente para eximir a la empresa de responsabilidad por el contenido de dichos resultados.
El Tribunal Regional de Múnich dictó una medida cautelar contra Google después de que dos editoriales alemanas descubrieran que los resúmenes generados por IA las presentaban falsamente como implicadas en estafas y «prácticas comerciales dudosas», a pesar de que los artículos enlazados no respaldaban esas afirmaciones.
La sentencia podría tener repercusiones mucho más allá de Alemania. El tribunal ha dictaminado, en la práctica, que Google puede ser considerado directamente responsable de los contenidos difamatorios generados por sus resúmenes de IA. El tribunal ha hecho caso omiso del habitual argumento de que «solo es IA, no hay que fiarse demasiado» y ha dejado una cosa clara: si se crea un sistema que difama con total seguridad a personas o empresas, se puede ser responsable de lo que dice, incluso cuando el contenido haya sido «alucinado» por la IA.
Los resúmenes de IA no son simples sugerencias inofensivas. En este caso, el tribunal los consideró declaraciones propias de Google, con todas las implicaciones legales que ello conlleva.
Cuando los editores enviaron una carta de cese y desistimiento, Google no impidió de inmediato que siguieran apareciendo afirmaciones similares. Ese detalle resultó ser crucial en la sentencia. El tribunal señaló que, a diferencia de los resultados de búsqueda tradicionales, que se limitan a mostrar contenido de terceros, los resúmenes generados por IA producen «afirmaciones independientes, nuevas y sustantivas».
Y dado que solo Google puede modificar los modelos y la lógica que generan esas afirmaciones, solo Google puede impedir de forma fiable que el sistema repita las mismas falsedades o otras similares. En este caso, el tribunal consideró que Google puede ser considerado responsable.
Durante años, los motores de búsqueda han gozado de una amplia protección, basándose en el argumento de que, al indexar la web abierta a gran escala, es inevitable que aparezca algún contenido perjudicial. Mostrar un resultado de búsqueda no significa respaldarlo. El motor de búsqueda es un canal, no un editor.
La situación cambia cuando un resumen generado por IA sintetiza, reformula y, en ocasiones, inventa datos, para luego publicarlos en los primeros puestos de los resultados de búsqueda.
Los resúmenes generados por IA son una función adicional, no esencial para el funcionamiento de la búsqueda. Sin embargo, el atractivo de estos resúmenes radica en que ofrecen respuestas rápidas y seguras, y eso es precisamente lo que los hace peligrosos. Cuando esas respuestas son erróneas, es posible que muchos usuarios no hagan clic para comprobar las fuentes.
La sentencia es preliminar y puede ser objeto de recurso, pero el mensaje es claro: los resultados de búsqueda generados por la IA no son una varita mágica que haga desaparecer la responsabilidad. Las advertencias sobre posibles errores pueden no ser suficientes cuando un sistema se implementa a gran escala, genera contenido nuevo y está diseñado para inspirar confianza.
En cifras
Los resúmenes de IA de Google se basan en Gemini, el modelo de IA de Google. Al igual que otros sistemas de IA, puede generar respuestas que parecen fiables pero que son erróneas o carecen de fundamento.
Pew Research analizó los datos de navegación de cientos de usuarios y descubrió que, cuando aparece un resumen de IA en una página de resultados de Google, los clics en los resultados de búsqueda tradicionales bajan de alrededor del 15 % a aproximadamente el 8 %.
Un análisis del *New York Times* sobre las respuestas de IA reveló que estas eran correctas aproximadamente nueve de cada diez veces. Sin embargo, dado que Google procesa más de cinco billones de búsquedas al año, incluso un pequeño índice de error podría suponer millones de respuestas erróneas.
Y esos errores no siempre se deben a fuentes poco fiables. Incluso cuando Google enlaza a una página con la información correcta, su IA puede seguir dando una respuesta errónea. Más de la mitad de las respuestas correctas se clasificaron como «sin fundamento», lo que significa que los sitios web citados por la función «Resumen de la IA» no respaldaban plenamente la información que proporcionaba.
La principal lección que hay que aprender de esto es que hay que verificar siempre las respuestas de búsqueda generadas por la IA. No te fíes de una respuesta solo porque se presente con seguridad e incluya enlaces.
Los usuarios pueden verse abocados hacia amenazas reales o alejados de protecciones eficaces, simplemente porque un sistema de inteligencia artificial les ha parecido convincente en una página de búsqueda.
Si encuentras resúmenes generados por IA que contengan información falsa o difamatoria sobre ti o tu empresa, documenta todo minuciosamente. Haz capturas de pantalla, guarda los términos de búsqueda, envía solicitudes de corrección y conserva constancia de la respuesta de la plataforma. O de la falta de ella.
Los estafadores no necesitan hackearte. Solo necesitan que hagas clic una vez.
Malwarebytes Identity Theft detecta actividades sospechosas antes de que se conviertan en un problema.
