Google hat eine KI-Funktion zurückgenommen, die es Nutzern ermöglichte, künstliche Bilder in Google Earth zu generieren, nachdem es erwartungsgemäß zu einer Flut von Reaktionen gekommen war. deepfakes Die
Google hat die KI-gestützte Bildgenerierungsfunktion in der Webversion von Google Earth am 30. Juli aktiviert. Sie stand allen Nutzern zur Verfügung.
Das System nutzte Googles Bildgenerator Nano Banana 2 zur Bilderzeugung. Dieses Tool kann zwar bereits Bilder aus einfacher Texteingabe generieren, der Vorteil der Verwendung in Google Earth liegt jedoch darin, dass es die realen Satellitenbilder als Grundlage nutzen kann. deepfake Versionen. Das erleichtert die Erstellung von KI-Bildern mit realistischen und präzisen Gebäude- und Landschaftsdetails.
In ihrem ersten Blogbeitrag zum Start hieß es, Schüler könnten damit „Geschichte lebendig werden lassen“, während Immobilienmakler es zur Erstellung professioneller Immobilienpläne nutzen könnten. Andere warnten jedoch davor, dass das System zur Irreführung von Menschen missbraucht werden könne.
Innerhalb weniger Stunden demonstrierten Forscher und Presseorgane, dass das Tool problemlos fotorealistische Satellitenbilder von Dingen erzeugen konnte, die nicht an Orten stattfanden, an denen sie auch nicht stattfanden.
Der niederländische Open-Source-Intelligence-Forscher Henk van Ess erklärte : „Ich habe es bei Flüchtlingen an der mexikanischen Grenze, einem Atomkraftwerk im Iran, einem Unfallort in Amsterdam und einem Krankenhaus mit einem Bombenkrater in Gaza versucht. Nichts wurde abgelehnt.“
Um zu demonstrieren, was mit der neuen Funktion möglich war, erstellte NPR ein gefälschtes Bild von Bränden im Iran, zusammen mit einem deepfake Washington, D.C., stand unter Wasser. Die BBC zeigte Bilder eines eingestürzten Eiffelturms und der von einem Erdloch verschluckten Cheops-Pyramide. Obwohl der Dienst über gewisse Schutzmechanismen verfügte, konnte der Anti-Desinformations-Dienst „Verify“ der BBC diese durch Manipulation einfacher KI-Abfragen umgehen.
Google räumte das Versagen in einer Stellungnahme ein. X :
„Wir haben gesehen, dass Geodatenexperten diese Funktion für eine Reihe nützlicher Zwecke nutzen. Gleichzeitig haben wir aber auch festgestellt, dass Nutzer Screenshots von generierten Bildern teilen, die offenbar gegen unsere Richtlinien verstoßen. Daher schalten wir diese Funktion in Google Earth vorübergehend ab, während wir an der Implementierung strengerer Schutzmaßnahmen arbeiten.“
Es wurde keine Zusage gegeben, die Idee nie wieder aufzugreifen.
Die Nutzer zeigten sich offenbar wenig beeindruckt. „Es besteht absolut keine Chance, dass nicht jeder in eurem Entwicklerteam genau diese Bedenken geäußert hat“, kommentierte einer. „Ihr lebt völlig in eurer eigenen Welt“, warf ein anderer ihm vor.
Googles Ausweichlösung bestand aus einem SynthID-Wasserzeichen und der Tatsache, dass generierte Bilder in der Hauptansicht von Google Earth nicht sichtbar waren. SynthID ist das Wasserzeichensystem von Google DeepMind – ein unsichtbares Signal, das in die Pixel KI-generierter Bilder eingebettet wird, sodass es später von einem kompatiblen Detektor erkannt werden kann. Google positioniert es als eine Hälfte seines Provenienz-Stacks, neben dem C2PA-Metadatenstandard, auf den sich die KI-Branche im Allgemeinen geeinigt hat.
Theoretisch soll das Signal auch nach Komprimierung und erneutem Hochladen in sozialen Medien erhalten bleiben. In der Praxis erwiesen sich diese Behauptungen jedoch als falsch. Die Wasserzeichen sind zwar von Googles KI-Diensten wie Gemini erkennbar, für Nutzer jedoch nicht sichtbar. Diese können Screenshots der Bilder erstellen und diese beliebig teilen. Es ist unwahrscheinlich, dass jeder die Herkunft eines Bildes überprüft. Forscher berichteten zudem, dass Gemini KI-generierte Bilder mit einem SynthID-Wasserzeichen nicht zuverlässig identifizieren konnte.
Was das für Sie bedeutet
Content-Ersteller produzierten bereits gefälschte KI-Bilder, die Ereignisse zeigten, die nicht stattgefunden hatten. Satellitenbilder sind traditionell ein wichtiger Bestandteil des Open-Source-Journalismus. Wer sie überzeugend fälscht, greift die Referenzebene an, die Journalisten nutzen, um zu überprüfen, ob etwas tatsächlich passiert ist.
Dies geschieht zudem zu einer Zeit, in der das Vertrauen in KI messbar schwindet. Laut unserer eigenen, im Juni veröffentlichten Studie gaben 88 % der Befragten an, es werde immer schwieriger zu erkennen, welche Online-Inhalte tatsächlich von Menschen stammen oder real sind. 84 % sagten sogar, dass selbst „überzeugende Videobeweise“ nicht mehr als Beweis gelten.
Der praktische Rat lautet: Atmen Sie tief durch, wenn Ihnen ein verstörendes Satellitenbild einer Katastrophe, eines Waffeneinsatzes oder eines Grenzübergangs in den sozialen Medien begegnet. Prüfen Sie, ob es von einer Nachrichtenagentur mit namentlich genanntem Reporter veröffentlicht wurde. Achten Sie auf eine Bildunterschrift, die den Bildanbieter ausweist. Handelt es sich um einen anonymen Account, der lediglich ein einzelnes, eindrucksvolles Bild veröffentlicht hat, gehen Sie davon aus, dass Sie möglicherweise eine Zusammenstellung sehen, die gestern Abend in einem Browser-Tab erstellt wurde.
Weitere Informationen zur Erkennung von KI-Bildern finden Sie in unserem Leitfaden .
Das gängige Vertriebsmodell der Branche behandelt Nutzer offenbar als Testgruppe. Kritische Medienkompetenz ist derzeit das einzige verlässliche Werkzeug, das Lesern und Zuschauern zur Verfügung steht.
Von der Meldung von Bedrohungen bis zu deren Beseitigung.
Cybersecurity-Risiken sollten nie über eine Schlagzeile hinausgehen. Laden Sie noch heute Malwarebytes herunter, um Bedrohungen von Ihren Geräten fernzuhalten.
