Tech bros od lat pragną osiągnąć nieśmiertelność. Dopóki tego nie osiągną, ich planem awaryjnym może być dalsze publikowanie bzdur w mediach społecznościowych z zaświatów.
30 grudnia 2025 r. firma Meta uzyskała patent amerykański nr 12513102B2: Symulacja użytkownika systemu sieci społecznościowej przy użyciu modelu językowego. Opisuje on system, który szkoli sztuczną inteligencję na podstawie postów, komentarzy, czatów, wiadomości głosowych i polubień użytkownika, a następnie wdraża bota, który odpowiada na wiadomości, prywatne wiadomości, a nawet symulowane połączenia audio lub wideo.
Zgłoszone w listopadzie 2023 r. przez dyrektora technicznego Meta, Andrew Boswortha, wydaje się to dość nieszkodliwe. Być może niektórzy ludzie wykorzystaliby tę funkcję do publikowania swoich gorących opinii politycznych podczas snu.
Jeśli jednak przyjrzeć się temu bliżej, patent ten staje się nie tylko absurdalny, ale wręcz przerażający. Został zaprojektowany do użytku nie tylko po śmierci, ale nawet po pogrzebie.
Z patentu:
„Model językowy może być wykorzystywany do symulowania użytkownika, gdy użytkownik jest nieobecny w systemie sieci społecznościowej, na przykład gdy użytkownik robi sobie dłuższą przerwę lub gdy użytkownik nie żyje”.
Rzecznik Meta powiedział Business Insider, że firma nie planuje podejmować żadnych działań w związku z patentem. Firmy technologiczne mają zwyczaj zgłaszania dziwacznych pomysłów, które nigdy nie zostają zrealizowane. Jednak liczba użytkowników Facebook utknęła w martwym punkcie i prawdopodobnie firma potrzebuje jak największego zaangażowania użytkowników. Wiemy już, że firma uwielbia pomysł „użytkowników” AI, którzy podobno zostali przetestowani pod koniec 2024 r., ku irytacji ludzkich użytkowników.
Gdyby firma zdecydowała się wprowadzić tę technologię, oznaczałoby to odejście od jej własnej polityki upamiętniania, która zakłada zachowanie kont bez zmian. Jednym z powodów, dla których firma może nie chcieć przekroczyć tej granicy, jest fakt, że świat po prostu nie jest gotowy na rozmowy z zmarłymi za pośrednictwem sztucznej inteligencji. Inne firmy rozważały, a nawet testowały podobne systemy. W 2020 roku Microsoft opatentował chatbota, który umożliwiałby rozmowę z wersjami zmarłych osób stworzonymi przez sztuczną inteligencję; jednak dyrektor generalny firmy uznał to za niepokojące i projekt nigdy nie wszedł do produkcji. W 2022 roku Amazon zaprezentował Alexę naśladującą głos zmarłej babci na podstawie mniej niż minutowego nagrania audio, przedstawiając to jako zachowanie wspomnień. Ten projekt również nigdy nie został wdrożony.
Niektóre projekty, które zostały zrealizowane, sprawiły, że ludzie żałowali, że w ogóle powstały. Aplikacja startupu 2Wai pierwotnie oferowała możliwość zachowania bliskich osób w postaci awatarów AI. Użytkownicy nazwali ją „koszmarem” i „demonem”. Wydaje się, że firma przeniosła się teraz na bezpieczniejsze grunty, takie jak awatary społecznościowe i osobiste trenerzy AI.
Prawne pole minowe
Inną rzeczą, która może hamować rozwój Meta, są kwestie prawne. Nic dziwnego, że w przypadku tak nowatorskiej koncepcji nie ma jednolitych ram prawnych w Stanach Zjednoczonych dotyczących wykorzystania sztucznej inteligencji do reprezentowania osób zmarłych. Kilka stanów uznaje prawo do wizerunku po śmierci, chociaż stany takie jak Nowy Jork ograniczają je do osób, których głosy i wizerunki mają wartość komercyjną (zazwyczaj oznacza to osoby znane). Kalifornijska ustawa AB 1836 dotyczy jednak konkretnie generowanych przez sztuczną inteligencję imitacji osób zmarłych.
Meta musiałaby również ostrożnie poruszać się po obszarze europejskiego prawa. Pod presją organów regulacyjnych firma musiała wstrzymać szkolenia AI dotyczące europejskich użytkowników w 2024 r., ale mimo to uruchomiła je w marcu ubiegłego roku. Następnie w lipcu ubiegłego roku odmówiła podpisania kodeksu postępowania GPAI UE (jako jedyna duża firma zajmująca się sztuczną inteligencją). Relacje Meta z organami regulacyjnymi UE są w najlepszym razie napięte.
Europejskie ogólne rozporządzenie o ochronie danych (RODO) nie obejmuje danych osób zmarłych, ale art. 85 francuskiej ustawy o ochronie danych pozwala każdemu na pozostawienie instrukcji dotyczących przechowywania, usuwania i przekazywania swoich danych osobowych po śmierci. Artykuł 50 unijnej ustawy o sztucznej inteligencji (która w pełni wejdzie w życie w sierpniu tego roku) będzie również wymagał od systemów sztucznej inteligencji ujawniania, że są one oparte na sztucznej inteligencji, a firmy, które nie zastosują się do tego wymogu, będą podlegały karom w wysokości do 15 mln euro lub 3% światowego obrotu.
Miejmy nadzieję, że Meta naprawdę odłoży tę sprawę do szuflady „to, że możemy coś zrobić, nie oznacza, że powinniśmy to robić” i pozwoli dawnym użytkownikom mediów społecznościowych spocząć w pokoju.
Nie tylko informujemy o zagrożeniach – pomagamy chronić Twoje media społecznościowe.
Ryzyko związane z cyberbezpieczeństwem nie powinno nigdy wykraczać poza nagłówki gazet. Chroń swoje konta w mediach społecznościowych, korzystając zMalwarebytes Identity Theft .
