Niemiecki sąd orzekł, że firma Google może zostać pociągnięta do bezpośredniej odpowiedzialności za zniesławiające treści generowane przez jej funkcję „AI Overviews”. Zasadniczo sąd stwierdził, że samo poinformowanie użytkowników o konieczności weryfikacji wyników wyszukiwania generowanych przez sztuczną inteligencję nie wystarcza, by wyłączyć odpowiedzialność za treść tych wyników.
Sąd Krajowy w Monachium wydał nakaz tymczasowy przeciwko firmie Google po tym, jak dwaj niemieccy wydawcy odkryli, że podsumowania generowane przez sztuczną inteligencję fałszywie przedstawiały ich jako osoby zaangażowane w oszustwa i „wątpliwe praktyki biznesowe”, mimo że artykuły, do których prowadziły linki, nie potwierdzały tych zarzutów.
Ta decyzja może wywołać echo daleko poza granicami Niemiec. Sąd stwierdził w praktyce, że firma Google może zostać pociągnięta do bezpośredniej odpowiedzialności za treści zniesławiające generowane przez jej system AI Overviews. Sąd odrzucił typowe argumenty w stylu „to tylko sztuczna inteligencja, nie należy jej zbytnio ufać” i jasno dał do zrozumienia: jeśli stworzy się system, który bez wahania oczernia osoby lub firmy, można ponieść odpowiedzialność za to, co mówi, nawet jeśli treści te zostały „wymyślone” przez sztuczną inteligencję.
Podsumowania generowane przez sztuczną inteligencję nie są niewinnymi sugestiami. W tej sprawie sąd potraktował je jako oświadczenia samej firmy Google, ze wszystkimi konsekwencjami prawnymi, jakie się z tym wiążą.
Kiedy wydawcy wysłali wezwanie do zaprzestania naruszania praw, firma Google nie zapobiegła natychmiast pojawianiu się podobnych treści. Ten szczegół okazał się kluczowy dla wydanego orzeczenia. Sąd zauważył, że w przeciwieństwie do tradycyjnych wyników wyszukiwania, które po prostu wyświetlają treści stron trzecich, podsumowania generowane przez sztuczną inteligencję zawierają „niezależne, nowe i merytoryczne stwierdzenia”.
A ponieważ tylko Google może dostosować modele i logikę leżącą u podstaw tych stwierdzeń, tylko Google jest w stanie skutecznie zapobiec powtarzaniu przez system tych samych lub podobnych nieprawdziwych informacji. W tej sprawie sąd uznał, że Google można pociągnąć do odpowiedzialności.
Od lat wyszukiwarki internetowe korzystają z szerokiej ochrony w oparciu o założenie, że podczas indeksowania otwartej sieci na dużą skalę nie da się całkowicie uniknąć niektórych szkodliwych treści. Wyświetlenie wyniku wyszukiwania nie oznacza poparcia dla niego. Wyszukiwarka jest jedynie kanałem, a nie wydawcą.
Sytuacja zmienia się, gdy system AI Overview podsumowuje, przeformułowuje, a czasem nawet wymyśla fakty, a następnie umieszcza je na szczycie wyników wyszukiwania.
Podsumowania generowane przez sztuczną inteligencję stanowią dodatkową funkcję, która nie ma zasadniczego wpływu na działanie wyszukiwarki. Jednak ich atrakcyjność polega na szybkich i pewnych odpowiedziach, co właśnie czyni je niebezpiecznymi. Gdy odpowiedzi te są błędne, wielu użytkowników może nie kliknąć linku, aby sprawdzić źródła.
Orzeczenie ma charakter wstępny i może zostać zaskarżone, ale sygnał jest jasny: wyniki wyszukiwania generowane przez sztuczną inteligencję nie są magicznym środkiem, który sprawia, że odpowiedzialność znika. Zastrzeżenia dotyczące ewentualnych błędów mogą okazać się niewystarczające, gdy system jest wdrażany na szeroką skalę, tworzy nowe treści i ma budzić zaufanie.
Liczby
Przeglądy Google AI są oparte na Gemini, modelu sztucznej inteligencji firmy Google. Podobnie jak inne systemy oparte na sztucznej inteligencji, może on generować pewne odpowiedzi, które są błędne lub słabo uzasadnione.
Instytut Pew Research przeanalizował dane dotyczące przeglądania stron internetowych setek użytkowników i stwierdził, że gdy na stronie wyników wyszukiwania Google pojawia się podsumowanie generowane przez sztuczną inteligencję, odsetek kliknięć w tradycyjne wyniki wyszukiwania spada z około 15% do około 8%.
Analiza serwisów „AI Overviews” przeprowadzona przez „New York Times” wykazała, że były one trafne w około dziewięciu na dziesięć przypadków. Jednak biorąc pod uwagę, że Google przetwarza ponad pięć bilionów zapytań rocznie, nawet niewielki wskaźnik błędów może oznaczać miliony błędnych odpowiedzi.
A te błędy nie zawsze wynikają z niewiarygodnych źródeł. Nawet jeśli Google odsyła do strony zawierającej prawidłowe informacje, jego sztuczna inteligencja może nadal generować błędną odpowiedź. Ponad połowa poprawnych odpowiedzi została sklasyfikowana jako „niepoparta dowodami”, co oznacza, że strony internetowe przytoczone przez AI Overview nie potwierdzały w pełni podanych informacji.
Najważniejsza lekcja z tego wynika, że należy dokładnie sprawdzać wyniki wyszukiwania generowane przez sztuczną inteligencję. Nie należy ufać odpowiedzi tylko dlatego, że jest przedstawiona w przekonujący sposób i zawiera linki.
Użytkownicy mogą zostać nakierowani na rzeczywiste zagrożenia lub odciągnięci od skutecznych zabezpieczeń tylko dlatego, że system oparty na sztucznej inteligencji brzmiał przekonująco na stronie wyników wyszukiwania.
Jeśli natrafisz na fałszywe lub zniesławiające streszczenia wygenerowane przez sztuczną inteligencję, dotyczące Ciebie lub Twojej firmy, dokładnie je udokumentuj. Zrób zrzuty ekranu, zapisz wyszukiwane hasła, złóż wnioski o poprawienie treści i zachowaj dokumentację odpowiedzi platformy. Albo jej braku.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Malwarebytes Identity Theft wykrywa podejrzaną aktywność, zanim stanie się ona problemem.
