Ein deutsches Gericht hat entschieden, dass Google direkt für diffamierende Behauptungen haftbar gemacht werden kann, die von seinen KI-Übersichten generiert werden. Im Wesentlichen urteilte das Gericht, dass der Hinweis an die Nutzer, KI-Suchergebnisse zu überprüfen, nicht ausreicht, um eine Haftung für den Inhalt dieser Ergebnisse auszuschließen.
Das Landgericht München erließ eine einstweilige Verfügung gegen Google, nachdem zwei deutsche Verlage festgestellt hatten, dass sie in den KI-Zusammenfassungen fälschlicherweise als in Betrugsfälle und „zwielichtige Geschäftspraktiken“ verwickelt dargestellt wurden, obwohl die verlinkten Artikel diese Behauptungen nicht stützten.
Das Urteil könnte weit über Deutschland hinaus Auswirkungen haben. Das Gericht stellte im Grunde fest, dass Google direkt für diffamierende Inhalte haftbar gemacht werden kann, die von seinen KI-Übersichten generiert werden. Das Gericht wies die übliche Argumentation „Es ist nur KI, man darf ihr nicht allzu sehr vertrauen“ zurück und machte eines klar: Wer ein System entwickelt, das Menschen oder Unternehmen selbstbewusst diffamiert, kann für dessen Aussagen haftbar gemacht werden – selbst wenn die Inhalte von der KI „erfunden“ wurden.
KI-Übersichten sind keine harmlosen Vorschläge. In diesem Fall hat das Gericht sie als Googles eigene Aussagen gewertet, mit allen rechtlichen Konsequenzen, die damit einhergehen.
Als die Verlage eine Unterlassungsaufforderung schickten, verhinderte Google nicht umgehend, dass ähnliche Behauptungen weiterhin angezeigt wurden. Dieses Detail erwies sich bei der Urteilsfindung als entscheidend. Das Gericht stellte fest, dass KI-Übersichten im Gegensatz zu herkömmlichen Suchergebnissen, die lediglich Inhalte Dritter auflisten, „unabhängige, neue und substanzielle Aussagen“ generieren.
Und da nur Google die Modelle und die Logik anpassen kann, auf deren Grundlage diese Aussagen entstehen, kann auch nur Google zuverlässig verhindern, dass das System dieselben oder ähnliche Unwahrheiten wiederholt. In diesem Fall befand das Gericht, dass Google haftbar gemacht werden kann.
Seit Jahren genießen Suchmaschinen weitreichenden Schutz, da man davon ausgeht, dass sich bestimmte schädliche Inhalte bei der groß angelegten Indizierung des offenen Internets nicht vermeiden lassen. Die Anzeige eines Suchergebnisses bedeutet nicht, dass dieses befürwortet wird. Die Suchmaschine ist ein Kanal, kein Herausgeber.
Das ändert sich, wenn eine KI-Übersicht Fakten zusammenfasst, umformuliert und manchmal sogar erfindet, um sie dann ganz oben in den Suchergebnissen anzuzeigen.
KI-Zusammenfassungen sind eine Zusatzfunktion, die für die Funktionsweise der Suche nicht unbedingt erforderlich ist. Der Reiz von KI-Zusammenfassungen liegt jedoch in ihren schnellen, überzeugenden Antworten – und genau das macht sie so gefährlich. Wenn diese Antworten falsch sind, klicken viele Nutzer möglicherweise nicht weiter, um die Quellen zu überprüfen.
Das Urteil ist vorläufig und kann angefochten werden, doch die Botschaft ist klar: Die Suchergebnisse einer KI sind kein Wundermittel, das jegliche Haftung aufhebt. Haftungsausschlüsse bezüglich möglicher Fehler reichen möglicherweise nicht aus, wenn ein System in großem Maßstab eingesetzt wird, neue Inhalte erstellt und darauf ausgelegt ist, als vertrauenswürdig zu gelten.
Die Zahlen
Die Google AI-Übersichten basieren auf Gemini, dem KI-Modell von Google. Wie andere KI-Systeme auch kann es überzeugende Antworten liefern, die falsch oder unzureichend begründet sind.
Pew Research hat die Surfdaten von Hunderten von Nutzern ausgewertet und festgestellt, dass die Klickrate auf herkömmliche Suchergebnisse von etwa 15 % auf etwa 8 % sinkt, wenn auf einer Google-Suchergebnisseite eine KI-Übersicht angezeigt wird.
Eine Analyse der „AI Overviews“ durch die New York Times ergab, dass diese in etwa neun von zehn Fällen korrekt waren. Da Google jedoch jährlich mehr als fünf Billionen Suchanfragen verarbeitet, könnte selbst eine geringe Fehlerquote Millionen falscher Antworten bedeuten.
Und diese Fehler sind nicht immer auf unzuverlässige Quellen zurückzuführen. Selbst wenn Google auf eine Seite mit den richtigen Informationen verlinkt, kann seine KI dennoch eine falsche Antwort liefern. Mehr als die Hälfte der korrekten Antworten wurde als „unbegründet“ eingestuft, was bedeutet, dass die von der KI-Übersicht zitierten Websites die bereitgestellten Informationen nicht vollständig untermauerten.
Die wichtigste Erkenntnis dabei ist, dass man die Suchergebnisse der KI immer noch einmal überprüfen sollte. Man sollte einer Antwort nicht einfach deshalb vertrauen, weil sie selbstbewusst präsentiert wird und Links enthält.
Nutzer können zu echten Bedrohungen geleitet oder von wirksamen Schutzmaßnahmen abgehalten werden, nur weil ein KI-System auf einer Suchseite überzeugend klang.
Sollten Sie falsche oder diffamierende KI-Zusammenfassungen über sich selbst oder Ihr Unternehmen finden, dokumentieren Sie diese sorgfältig. Machen Sie Screenshots, speichern Sie die Suchbegriffe, reichen Sie Berichtigungsanträge ein und bewahren Sie die Antworten der Plattform auf. Oder das Ausbleiben einer Antwort.
Betrüger müssen sich nicht in dein System hacken. Es reicht schon, wenn du einmal darauf klickst.
Malwarebytes Identity Theft erkennt verdächtige Aktivitäten, bevor sie zu einem Problem werden.
