W tym tygodniu w podcaście Lock and Code…
W maju ubiegłego roku ostrzeżenie dotyczące sztucznej inteligencji nadeszło z nieoczekiwanej strony: z Państwowego Muzeum Auschwitz-Birkenau.
W publicznym poście opublikowanym w mediach społecznościowych muzeum ostrzegło przed Facebook , które wykorzystuje generatywną sztuczną inteligencję do tworzenia fałszywych wizerunków osób zmarłych w Holokauście. Chociaż do generowania fałszywych obrazów wykorzystywano sztuczną inteligencję, osoby na tych zdjęciach były niekiedy prawdziwe. Posiadały one prawdziwe imiona i nazwiska, miejsca urodzenia oraz historie deportacji, które wcześniej udostępniło samo Państwowe Muzeum Auschwitz-Birkenau. Ich twarze pochodziły z prawdziwych, zachowanych fotografii, które najprawdopodobniej zostały wykorzystane do stworzenia fałszywych obrazów.
Innymi słowy, ktoś – albo grupa osób w sieci – tworzyła deepfake'i dotyczące Holokaustu.
Jak podało muzeum w Auschwitz na swojej stronie internetowej:
„To nie są prawdziwe zdjęcia ofiar. Są to cyfrowe kreacje, często stylizowane lub wygładzone, które niosą ze sobą ryzyko przekształcenia pamięci w fikcyjne przedstawienie. Historia Auschwitz jest dobrze udokumentowana. Zmiana jej wizualnej dokumentacji za pomocą obrazów generowanych przez sztuczną inteligencję powoduje zniekształcenie, niezależnie od intencji”.
Kilka miesięcy później opinia publiczna dowiedziała się, o co w tym wszystkim chodziło: o pieniądze.
Dochodzenie przeprowadzone przez BBC ujawniło istnienie międzynarodowej sieci Facebook , które publikują obrazy generowane przez sztuczną inteligencję, aby zarabiać na ich potencjalnej popularności w sieci. Problem ten nazywany jest czasem „AI slop”, ale wiąże się z nim poważna zachęta finansowa. Gdy konta tworzące tego typu obrazy zostaną zaproszone do programu monetyzacji treści Facebook, mogą zarabiać 1000 dolarów miesięcznie za publikowanie dowolnych treści, które generują kliknięcia.
Jak ustaliła stacja BBC, na Facebook oznacza to, że kilka kont publikuje generowane przez sztuczną inteligencję zdjęcia dotyczące Holokaustu. Jak podała stacja BBC:
„Spamerzy wykorzystujący sztuczną inteligencję opublikowali fałszywe zdjęcia, które rzekomo pochodzą z [Auschwitz], takie jak zdjęcie więźnia grającego na skrzypcach czy kochanków spotykających się przy ogrodzeniu – zdjęcia te zebrały dziesiątki tysięcy polubień i udostępnień”.
Ekonomiczne aspekty kłamstwa są dziś bardzo namacalne. Ludzie mogą wykorzystywać sztuczną inteligencję do tworzenia fałszywych obrazów, które sprawiają, że ludzie czują się dobrze w obliczu strasznych wydarzeń lub boją się rzeczy, które nie są prawdą, i mogą na tym zarabiać, dopóki nie zostaną zablokowani przez same platformy wielkich firm technologicznych, co w tym przypadku stało się wyłącznie dzięki śledztwu BBC. W rzeczywistości to właśnie tego rodzaju bierność platform mediów społecznościowych skłoniła rząd niemiecki i wiele instytucji upamiętniających Holokaust do wysłania na początku tego roku listu otwartego, w którym zwrócono się o lepszą kontrolę i ograniczenia dotyczące tego rodzaju treści.
Jak ostrzegli sygnatariusze w swoim liście, korzyści ekonomiczne płynące z fałszowania historii przez te konta stanowią zbyt duże ryzyko, by można było na to pozwolić. Pełną treść listu można przeczytać tutaj.
Dzisiaj w podcaście „Lock and Code”, prowadzonym przez Davida Ruiza, rozmawiamy z Clarą Mansfeld, historyczką zajmującą się komunikacją cyfrową w jednej z instytucji, które podpisały list otwarty – Fundacji Hamburskich Miejsc Pamięci i Ośrodków Edukacyjnych upamiętniających ofiary zbrodni nazistowskich. W trakcie rozmowy Mansfeld porusza kwestie cyfrowego dostępu do historii, manipulacji faktami za pomocą obrazów generowanych przez sztuczną inteligencję oraz zagrożenia, przed jakim staje społeczeństwo, gdy coraz trudniej jest ocenić, co jest prawdą.
„Co się stanie, gdy naszą pierwszą myślą przy każdym historycznym zdjęciu będzie pytanie: »Czy to w ogóle jest prawdziwe, czy to dzieło sztucznej inteligencji?« Nie sądzę, żebyśmy w pełni uświadomili sobie, co to oznacza dla nas jako społeczeństwa”.
Włącz się dzisiaj, aby wysłuchać całej rozmowy.
Pokaż notatki i napisy końcowe:
Muzyka intro: „Spellbound” autorstwa Kevina MacLeoda (incompetech.com)
Na licencji Creative Commons: Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Muzyka outro: „Good God” autorstwa Wowa (unminus.com)
Słuchajcie —Malwarebytes tylko mówi o cyberbezpieczeństwie, ale także je zapewnia.
Chroń się przed atakami internetowymi, które zagrażają Twojej tożsamości, plikom, systemowi i bezpieczeństwu finansowemu, korzystającz naszejekskluzywnej oferty Malwarebytes Premium dla słuchaczy Lock and Code.
