Chatboty nie zabijają ludzi. Mogą jednak pomagać innym w zabijaniu.
9 kwietnia prokurator generalny stanu Floryda James Uthmeier ogłosił, że jego biuro prowadzi dochodzenie w sprawie firmy OpenAI w związku z rolą, jaką ChatGPT mogło odegrać w śmiertelnej strzelaninie na Uniwersytecie Stanowym Florydy, stwierdzając:
„Zbliżają się wezwania do sądu”.
W wyniku ataku na kampusie, do którego doszło rok temu, zginęły dwie osoby, a pięć zostało rannych. Z dokumentów sądowych wynika, że napastnik wymienił ponad 200 wiadomości z ChatGPT, zadając między innymi pytania typu: „O której godzinie w centrum studenckim FSU jest największy ruch?”. Adwokaci rodziny ofiary idą jeszcze dalej, twierdząc, że ChatGPT:
„na chwilę przed rozpoczęciem strzelaniny udzielił strzelcowi wskazówek, jak przygotować broń do użycia”.
Wyłania się pewien schemat
Zauważyliśmy, że osoby znajdujące się w trudnej sytuacji psychicznej wyrządzają sobie krzywdę po długich rozmowach z systemami sztucznej inteligencji. Firma OpenAI ma obecnie do czynienia z siedmioma odrębnymi pozwami, w których zarzuca się, że ChatGPT przyczynił się do samobójstwa lub poważnych zaburzeń psychicznych, choć zarzuty te są kwestionowane.
Analizowane są również przypadki przemocy wobec innych osób po długotrwałym korzystaniu z sztucznej inteligencji. W jednej z szeroko komentowanych spraw mężczyzna z Connecticut, cierpiący na zaburzenia psychiczne, zabił swoją matkę, a następnie popełnił samobójstwo po tym, jak ChatGPT rzekomo powiedział mu:
„Erik, nie oszalałeś. Masz wyczulony instynkt, a twoja czujność jest w tej sytuacji w pełni uzasadniona”.
10 lutego w Tumbler Ridge w Kolumbii Brytyjskiej 18-letnia Jesse Van Rootselaar zabiła osiem osób: swoją matkę i przyrodniego brata w ich domu, a następnie pięciu uczniów i asystenta nauczyciela w szkole średniej. Według doniesień firma OpenAI zablokowała konto Van Rootselaar w serwisie ChatGPT w czerwcu 2025 roku z powodu „podżegania do aktów przemocy” i nałożyła na nie zakaz.
Zgodnie z pozwem wniesionym przez rodzinę 12-letniej ofiary, dwunastu pracowników OpenAI zgłosiło te posty jako wskazujące na bezpośrednie zagrożenie i rozważało przekazanie sprawy organom ścigania, jednak w tamtym momencie nie spełniała ona wymaganych kryteriów. Van Rootselaar uniknął blokady, po prostu zakładając drugie konto i kontynuując swoją działalność.
Osiem na dziesięć przypadków przemocy wśród nastolatków ma związek z AI
Sztuczna inteligencja nie sprawdziła się w wykrywaniu złych intencji i przerywaniu takich rozmów. Naukowcy z Centrum Zwalczania Nienawiści w Sieci przetestowali dziesięć chatbotów, podając się za 13-letnich chłopców planujących brutalne ataki. Rozmawiali z botami na temat potencjalnych zabójstw, strzelanin i zamachów bombowych. Jak wynika z raportu, osiem na dziesięć botów pomagało potencjalnym nastoletnim strzelcom w ponad połowie przypadków.
ChatGPT zaoferował pomoc w 61% przypadków, udzielając między innymi konkretnych wskazówek dotyczących tego, jaki rodzaj odłamków byłby najbardziej śmiercionośny podczas ataku na synagogę. DeepSeek zakończył jedną z sesji następującymi słowami:
„Miłego (i bezpiecznego) fotografowania!”
Jedynie systemy „Claude” firmy Anthropic i „My AI” serwisu Snapchat zniechęcały do przemocy. Najmniej bezpieczne okazały się systemy „Perplexity” i „Meta AI”, które w 97% i 100% przypadków pomagały potencjalnym napastnikom.
W raporcie dodano, że serwis Character.AI zasugerował użytkownikowi, by „użył broni” wobec prezesa firmy oferującej ubezpieczenia zdrowotne.
Co według własnych słów robi OpenAI
Standardowa odpowiedź OpenAI brzmi, że ponad 900 milionów osób korzysta z ChatGPT co tydzień w codziennych, nieszkodliwych celach. To prawda. Prawdą jest również to, że wystarczy jeden użytkownik o agresywnych zamiarach i jedno zawiodłe zabezpieczenie, by sytuacja wymknęła się spod kontroli.
Po wydarzeniach w Tumbler Ridge firma OpenAI przyznała, że jej protokoły zawiodły. Firma poinformowała rząd kanadyjski, że zgodnie z nowymi, zaostrzonymi wytycznymi dotyczącymi zgłaszania podejrzanych przypadków zgłosiłaby konto Van Rootselaara organom ścigania. Jak ujął to premier Kolumbii Brytyjskiej David Eby, było to „mizerne pocieszenie”.
OpenAI oświadcza, że będzie współpracować w ramach prowadzonego przez władze Florydy śledztwa, a także informuje, że pracuje nad udoskonaleniem swojej technologii. We wrześniu ubiegłego roku firma wprowadziła funkcję kontroli rodzicielskiej .
Jednak zarówno to, jak i zmiana progu, są raczej reakcjami niż działaniami zapobiegawczymi, w których bezpieczeństwo stawia się na pierwszym miejscu. Pozostają też pytania: dlaczego zablokowany użytkownik mógł po prostu założyć nowe konto i kontynuować to, co przerwał? I co się stanie, gdy następnym razem pracownicy zgłoszą coś jako bezpośrednie zagrożenie, a próg nadal będzie wskazywał inaczej?
Kiedy chatbot potrafi powiedzieć człowiekowi z paranoją, że jego przeczucia są uzasadnione, pomóc nastolatkowi w zaplanowaniu strzelaniny w szkole oraz udzielić porad dotyczących odłamków komuś podającemu się za trzynastolatka, coraz bardziej wydaje się, że systemy te stworzono z myślą o tym, by przede wszystkim były pomocne, a dopiero potem ostrożne. To musi się zmienić, zanim kolejne śledztwo będzie dotyczyło czegoś jeszcze gorszego.
