Rząd Stanów Zjednoczonych nakazał firmie Anthropic wycofanie z użytku jej najnowszych modeli Claude Fable 5 i Mythos 5 z obawy przed ich niewłaściwym wykorzystaniem przez przeciwników.
Agencja Reuters donosi, że firma Anthropic ogłosiła, iż „nagle wyłączy” swoje najbardziej zaawansowane modele sztucznej inteligencji dla wszystkich użytkowników po tym, jak rząd USA nakazał jej zawieszenie dostępu do tych modeli dla obcokrajowców, powołując się na kwestie bezpieczeństwa narodowego.
Według doniesień przedstawiciele firmy uważają, że przełamanie zabezpieczeń mogłoby sprawić, że Fable 5 i Mythos 5 stałyby się narzędziami do wykrywania luk w zabezpieczeniach dla osób o złych zamiarach, dlatego Anthropic twierdzi, że wyłącza te funkcje na całym świecie, zamiast próbować filtrować dostęp na podstawie narodowości, ponieważ zweryfikowanie narodowości każdego użytkownika jest praktycznie niemożliwe.
W oświadczeniu opublikowanym na swojej stronie internetowej firma Anthropic stwierdza:
„W piśmie nie podano konkretnych szczegółów dotyczących zagrożeń dla bezpieczeństwa narodowego. Rozumiemy, że rząd uważa, iż dotarła do niego informacja o metodzie obejścia zabezpieczeń, czyli „jailbreakowania” Fable 5. Przeanalizowaliśmy prezentację tej konkretnej techniki, wykorzystanej do zidentyfikowania niewielkiej liczby znanych już wcześniej, mniej istotnych luk w zabezpieczeniach. Wszystkie te luki wydają się stosunkowo proste i stwierdziliśmy, że inne publicznie dostępne modele są w stanie je wykryć bez konieczności stosowania obejścia zabezpieczeń”.
Mythos 5 to niepubliczna wersja pełna, z której obecnie korzystają wyłącznie agencje rządowe i wybrani partnerzy korporacyjni w celu wzmocnienia bezpieczeństwa swoich systemów. Fable 5 to model klasy Mythos, który rzekomo powinien być bezpieczny do powszechnego użytku.
Wydaje mi się logiczne, że skoro Fable 5 można łatwo „złamać”, powinien podlegać tym samym ograniczeniom co Mythos 5. Jednak firma Anthropic twierdzi, że posiada wbudowane zabezpieczenia, dzięki którym zapytania dotyczące niektórych tematów będą kierowane do kolejnego, najbardziej zaawansowanego modelu – Claude Opus 4.8.
W niektórych kręgach rządu amerykańskiego dało się zauważyć oznaki złagodzenia stosunków między rządem a firmą Anthropic po napięciach związanych z wykorzystaniem jej technologii w celach wojskowych, nadzorem oraz bronią autonomiczną. W marcu sekretarz obrony Pete Hegseth uznał tę firmę z siedzibą w San Francisco za „zagrożenie dla bezpieczeństwa narodowego w łańcuchu dostaw”.
Aby zrozumieć istotę tej argumentacji, należy mieć na uwadze, że Mythos 5 jest w wielu raportach opisywany jako narzędzie szczególnie skuteczne w wykrywaniu luk w zabezpieczeniach oprogramowania, w tym długotrwałych błędów w złożonych, starszych systemach, takich jak te stosowane w bankowości i innych obszarach infrastruktury krytycznej. Wielu postrzega to rozwiązanie jako produkt o podwójnym zastosowaniu: doskonały do wzmacniania zabezpieczeń, ale katastrofalny w nieodpowiednich rękach.
W ostatnich aktualizacjach głównych producentów oprogramowania, takich jak Microsoft i Google, odnotowano wzrost liczby załatanych luk w zabezpieczeniach po tym, jak firmy te zaczęły wykorzystywać wyszukiwanie nowych luk w swoim oprogramowaniu oparte na sztucznej inteligencji. Wiemy również, że firma Mozilla wykryła ponad270 luk w zabezpieczeniach przeglądarki Firefoxprzy pomocy nowego modelu Claude Mythos opracowanego przez firmę Anthropic.
Co to oznacza
W niepowołanych rękach te luki mogłyby z pewnością wyrządzić wiele szkód. Wygląda więc na to, że minie trochę czasu, zanim zwykli użytkownicy i programiści uzyskają pełny dostęp do Fable 5 i Mythos 5. Dotychczasowe modele Anthropic (starsze wersje Claude’a) pozostają jednak dostępne.
Dla użytkowników domowych, którzy po prostu rozmawiali z Claude’em lub korzystali z niego do tworzenia prostych skryptów, zmiana ta będzie się w większości przypadków objawiać komunikatem „ta konkretna wersja jest niedostępna”, a nie całkowitym wyłączeniem funkcji AI.
Wycofanie z powszechnego obiegu zaawansowanego modelu wykrywania luk w zabezpieczeniach tylko w niewielkim stopniu zwiększa nakład pracy wymagany od cyberprzestępców dysponujących mniejszymi zasobami, aby zautomatyzować wykrywanie złożonych błędów w oprogramowaniu i usługach przeznaczonych dla konsumentów. Na czarnym rynku dostępne są inne modele, które mogą być równie skuteczne. Dla większości cyberprzestępców znacznie ważniejsze jest przekształcenie luki w zabezpieczeniach w metodę, którą mogą wykorzystać w ataku.
Nie tylko informujemy o zagrożeniach - my je usuwamy
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
