W tym tygodniu w podcaście Lock and Code…
W maju ubiegłego roku ostrzeżenie dotyczące sztucznej inteligencji nadeszło z nieoczekiwanej strony: z Państwowego Muzeum Auschwitz-Birkenau.
Muzeum opublikowało w mediach społecznościowych ostrzeżenie o Facebook Konto wykorzystujące sztuczną inteligencję generatywną do tworzenia fałszywych wizerunków osób, które zginęły w Holokauście. Pomimo wykorzystania sztucznej inteligencji do generowania fałszywych obrazów, osoby na tych zdjęciach były czasami prawdziwe. Miały prawdziwe nazwiska, miejsca urodzenia i historie deportacji, którymi wcześniej podzieliło się Państwowe Muzeum Auschwitz-Birkenau. Miały prawdziwe twarze uchwycone na prawdziwych, zachowanych fotografiach, które prawdopodobnie zostały wykorzystane w celu wygenerowania fałszywych obrazów.
Innymi słowy, ktoś – albo grupa osób w sieci – tworzyła deepfake'i dotyczące Holokaustu.
Jak podało muzeum w Auschwitz na swojej stronie internetowej:
„To nie są prawdziwe zdjęcia ofiar. Są to cyfrowe kreacje, często stylizowane lub wygładzone, które niosą ze sobą ryzyko przekształcenia pamięci w fikcyjne przedstawienie. Historia Auschwitz jest dobrze udokumentowana. Zmiana jej wizualnej dokumentacji za pomocą obrazów generowanych przez sztuczną inteligencję powoduje zniekształcenie, niezależnie od intencji”.
Kilka miesięcy później opinia publiczna dowiedziała się, o co w tym wszystkim chodziło: o pieniądze.
Śledztwo BBC wykazało istnienie międzynarodowej sieci Facebook Konta publikujące obrazy generowane przez sztuczną inteligencję, aby zarabiać na ich potencjalnej popularności. To problem czasami nazywany „sztuczną manipulacją”, ale wiąże się z nim istotna zachęta. Kiedy konta tworzące tego typu obrazy są zapraszane do… Facebook Dzięki programowi monetyzacji treści mogą zarobić 1000 dolarów miesięcznie za publikowanie dowolnych treści, które uzyskają kliknięcia.
I dalej Facebook BBC ustaliło, że oznacza to kilka kont publikujących obrazy Holokaustu generowane przez sztuczną inteligencję. Jak donosi BBC:
„Spamerzy wykorzystujący sztuczną inteligencję opublikowali fałszywe zdjęcia, które rzekomo pochodzą z [Auschwitz], takie jak zdjęcie więźnia grającego na skrzypcach czy kochanków spotykających się przy ogrodzeniu – zdjęcia te zebrały dziesiątki tysięcy polubień i udostępnień”.
Ekonomiczne aspekty kłamstwa są dziś bardzo namacalne. Ludzie mogą wykorzystywać sztuczną inteligencję do tworzenia fałszywych obrazów, które sprawiają, że ludzie czują się dobrze w obliczu strasznych wydarzeń lub boją się rzeczy, które nie są prawdą, i mogą na tym zarabiać, dopóki nie zostaną zablokowani przez same platformy wielkich firm technologicznych, co w tym przypadku stało się wyłącznie dzięki śledztwu BBC. W rzeczywistości to właśnie tego rodzaju bierność platform mediów społecznościowych skłoniła rząd niemiecki i wiele instytucji upamiętniających Holokaust do wysłania na początku tego roku listu otwartego, w którym zwrócono się o lepszą kontrolę i ograniczenia dotyczące tego rodzaju treści.
Jak ostrzegli sygnatariusze w swoim liście, korzyści ekonomiczne płynące z fałszowania historii przez te konta stanowią zbyt duże ryzyko, by można było na to pozwolić. Pełną treść listu można przeczytać tutaj.
Dzisiaj w podcaście „Lock and Code”, prowadzonym przez Davida Ruiza, rozmawiamy z Clarą Mansfeld, historyczką zajmującą się komunikacją cyfrową w jednej z instytucji, które podpisały list otwarty – Fundacji Hamburskich Miejsc Pamięci i Ośrodków Edukacyjnych upamiętniających ofiary zbrodni nazistowskich. W trakcie rozmowy Mansfeld porusza kwestie cyfrowego dostępu do historii, manipulacji faktami za pomocą obrazów generowanych przez sztuczną inteligencję oraz zagrożenia, przed jakim staje społeczeństwo, gdy coraz trudniej jest ocenić, co jest prawdą.
„Co się stanie, gdy naszą pierwszą myślą przy każdym historycznym zdjęciu będzie pytanie: »Czy to w ogóle jest prawdziwe, czy to dzieło sztucznej inteligencji?« Nie sądzę, żebyśmy w pełni uświadomili sobie, co to oznacza dla nas jako społeczeństwa”.
Włącz się dzisiaj, aby wysłuchać całej rozmowy.
Pokaż notatki i napisy końcowe:
Muzyka intro: „Spellbound” autorstwa Kevina MacLeoda (incompetech.com)
Na licencji Creative Commons: Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Muzyka outro: „Good God” autorstwa Wowa (unminus.com)
Słuchajcie— Malwarebytes nie tylko mówimy o cyberbezpieczeństwie, my je zapewniamy.
Chroń się przed atakami online, które zagrażają Twojej tożsamości, plikom, systemowi i finansom dzięki naszej ekskluzywnej ofercie Malwarebytes Premium Security dla nasłuchiwaczy Lock and Code .
