Google ha retirado una función de IA que permitía a los usuarios generar imágenes artificiales dentro de Google Earth, después de una previsible oleada de deepfakes .
Google activó la función de generación de imágenes mediante inteligencia artificial en la versión web de Google Earth el 30 de julio. Estaba disponible para todos.
El sistema utilizó el generador de imágenes Nano Banana 2 de Google para crear sus imágenes. Esa herramienta ya puede generar imágenes a partir de una simple entrada de texto, pero la ventaja de hacerlo en Google Earth es que puede usar las imágenes satelitales reales como base para su deepfake versiones. Eso facilita la creación de imágenes de IA con detalles reales y precisos de edificios y paisajes.
En su publicación inicial sobre el lanzamiento, la empresa afirmó que los estudiantes podrían usarlo para "dar vida a la historia", mientras que los agentes inmobiliarios podrían emplearlo para elaborar planes inmobiliarios profesionales. Sin embargo, otros advirtieron que el sistema podría utilizarse para engañar a la gente.
En cuestión de horas, investigadores y medios de prensa demostraron que la herramienta podía producir sin problemas imágenes satelitales fotorrealistas de cosas que no sucedieron en lugares donde no sucedieron.
El investigador holandés de inteligencia de fuentes abiertas Henk van Ess explicó : “Intenté contactar con refugiados en la frontera con México, en una planta nuclear en Irán, en un accidente aéreo en Ámsterdam, en un hospital con un cráter de bomba en Gaza. No me negaron nada”.
Demostrando lo que era posible con la nueva capacidad, NPR fabricó una imagen de incendios en Irán, junto con una deepfake La BBC mostró imágenes de la Torre Eiffel derrumbada y la Gran Pirámide de Giza engullida por un socavón. A pesar de que el servicio contaba con medidas de seguridad, su sistema de verificación contra la desinformación logró sortearlas manipulando comandos básicos de inteligencia artificial.
Google reconoció el fallo en un comunicado sobre X :
Hemos visto a profesionales de la información geoespacial usar esta función para diversos fines útiles; sin embargo, también hemos visto a personas compartir capturas de pantalla de imágenes generadas que parecen infringir nuestras políticas. Por lo tanto, estamos desactivando esta función en Google Earth mientras trabajamos en la implementación de medidas de seguridad más estrictas.
No se comprometió a no volver a plantear la idea jamás.
Al parecer, los usuarios no quedaron impresionados. «Es imposible que nadie de vuestro equipo de desarrollo haya planteado esta misma preocupación», comentó uno. «Vivís en una burbuja», acusó otro.
La medida de seguridad alternativa de Google consistía en una marca de agua SynthID y en que las imágenes generadas no aparecieran en la experiencia principal de Google Earth para que otros las vieran. SynthID es el sistema de marcas de agua de Google DeepMind, una señal invisible integrada en los píxeles de las imágenes generadas por IA para que un detector compatible pueda identificarlas posteriormente. Google lo presenta como una parte de su sistema de trazabilidad, junto con el estándar de metadatos C2PA que ha adoptado la industria de la IA.
En teoría, la señal debería resistir la compresión e incluso las republicaciones en redes sociales. Sin embargo, estas afirmaciones se desmoronaron al enfrentarse a la realidad. Las marcas de agua son detectables por los servicios de IA de Google, como Gemini. No son visibles para los usuarios, quienes pueden hacer capturas de pantalla y compartirlas donde quieran. Es improbable que todos sepan verificar la procedencia de una imagen. Los investigadores también han informado que Gemini no pudo identificar de forma fiable las imágenes generadas por IA con una marca de agua SynthID.
Lo que esto significa para ti
Los creadores de contenido ya producían imágenes falsas generadas por IA que mostraban eventos que no ocurrieron. Tradicionalmente, las imágenes satelitales han sido un componente clave del periodismo de código abierto. Si se falsifican de forma convincente, se ataca la capa de referencia que los periodistas utilizan para verificar si algo sucedió realmente.
Esto ocurre además en un momento en que la confianza en la IA se está erosionando notablemente. Según nuestra propia investigación , publicada en junio, el 88 % de las personas afirmó que cada vez es más difícil distinguir qué contenido en línea es genuinamente humano o real, y el 84 % dijo que incluso las "pruebas de vídeo convincentes" ya no parecen una prueba suficiente.
El consejo práctico es respirar hondo cada vez que veas una imagen satelital perturbadora de un desastre, un ataque con armas o un cruce fronterizo en tu muro. Verifica si la ha publicado una agencia de noticias con un reportero identificado. Busca un pie de foto que identifique al proveedor de la imagen. Si la fuente es una cuenta anónima que publica una sola imagen impactante, asume que podrías estar viendo algo que se creó en una pestaña del navegador anoche.
Para obtener más información sobre cómo identificar imágenes generadas por IA, consulte nuestra guía .
Al parecer, el modelo de distribución de la industria ahora trata a los usuarios como grupo de prueba. La alfabetización mediática crítica es ahora la única herramienta fiable de la que disponen lectores y espectadores.
Desde denunciar las amenazas hasta eliminarlas.
Los riesgos de ciberseguridad nunca deben propagarse más allá de un titular. Mantenga las amenazas alejadas de sus dispositivos descargando Malwarebytes hoy mismo.
