Najbardziej zaawansowany jak dotąd model firmy Anthropic, Claude Mythos Preview (znany również jako Mythos), został określony jako „przełom” w zakresie wydajności sztucznej inteligencji, zwłaszcza w zadaniach związanych z cyberbezpieczeństwem.
Firma Anthropic starała się utrzymać projekt Mythos w tajemnicy aż do kilku tygodni temu, kiedy to wyciek danych ujawnił istnienie rozwiązania, które według firmy jest jej najpotężniejszą jak dotąd sztuczną inteligencją. Model ten postrzegany jest zarówno jako potężne narzędzie obronne, jak i – potencjalnie – poważna cyberbroń ofensywna.
Z tego powodu firma znacznie ogranicza dostęp do tego rozwiązania i daje do zrozumienia, że nie planuje obecnie wprowadzać go na rynek na szeroką skalę. Doniesienia o jego zdolności do samodzielnego wykrywania, a nawet łączenia luk w zabezpieczeniach oprogramowania na dużą skalę stanowią sedno zarówno szumu medialnego, jak i zagrożenia.
Wyobraź sobie narzędzie, które potrafi samodzielnie wykrywać nowe luki w oprogramowaniu, systemach i platformach, a następnie przekształcać je w exploity, nawet jeśli wymaga to połączenia ich z innymi lukami.
W nieodpowiednich rękach mogłoby to stanowić poważne zagrożenie dla naszego bezpieczeństwa cybernetycznego. Dlatego firma Anthropic ograniczyła dostęp do tej platformy do niewielkiej liczby organizacji na całym świecie, w tym do największych firm technologicznych oraz wybranych organów rządowych i służb bezpieczeństwa. Jak donoszą media, NSA już korzysta z Mythos Preview, najprawdopodobniej w celu przeprowadzenia testów obciążeniowych i wzmocnienia zabezpieczeń wrażliwych systemów, mimo że Pentagon uznał firmę Anthropic za zagrożenie dla łańcucha dostaw.
Mythos potrafi wykrywać luki w zabezpieczeniach w rozległych bazach kodu szybciej i bardziej niezawodnie niż dotychczasowe narzędzia, a także wyszukiwać wiele słabych punktów w jednym systemie i łączyć je w wieloetapowe łańcuchy exploitów w celu przeprowadzenia ataku (na przykład przechodząc od prostego web buga do całkowitego przejęcia kontroli nad domeną). Znalezienie kolejnej luki zajęłoby łowcy nagród za wykrycie błędów miesiące, nie mówiąc już o takiej, którą można połączyć z już odkrytymi. Osiągnięcie tego przed wykryciem pierwszej luki byłoby wysoce nieprawdopodobne.
W praktyce może to oznaczać szybsze ataki, bardziej złożone naruszenia bezpieczeństwa oraz mniej czasu dla firm na usunięcie słabych punktów, zanim zostaną one wykorzystane.
Sama firma Anthropic podkreśla, że Mythos może działać przez dłuższy czas przy minimalnym nadzorze, co oznacza, że mógłby prowadzić systematyczne kampanie ataków na skalę, której żaden zespół złożony z ludzi nie byłby w stanie osiągnąć.
Firma Anthropic zwróciła uwagę na te zagrożenia bezpieczeństwa w dokumencie wewnętrznym:
- Sztuczna inteligencja obniża próg umiejętności wymaganych do przeprowadzania operacji ofensywnych. Podmioty o mniejszych umiejętnościach mogą uzyskać dostęp do bardzo skutecznych narzędzi, co znacznie zwiększy liczbę zaawansowanych ataków.
- Techniki takie jak fuzzing, ataki słownikowe i inne metody typu brute force stają się znacznie skuteczniejsze, gdy przyspiesza je automatyzacja. Iteracja wspomagana przez sztuczną inteligencję może zapewnić atakującemu znacznie więcej prób, zanim atak zostanie wykryty.
Najbardziej niepokojącym wnioskiem było jednak to, że w obecnej fazie rozwoju sztucznej inteligencji strona atakująca wprowadza zmiany w szybszym tempie, a zespoły ds. bezpieczeństwa zazwyczaj wdrażają narzędzia oparte na sztucznej inteligencji później niż ich przeciwnicy.
Jak wiemy, sztuczna inteligencja w cyberbezpieczeństwie działa w obie strony. Pomaga nam chronić się przed nowymi zagrożeniami, ale może też służyć do ich tworzenia. Dlatego w nieodpowiednich rękach Mythos może okazać się groźnym przeciwnikiem.
Cel pozostaje ten sam, ale drogę do niego torują narzędzia takie jak Mythos. Z perspektywy atakującego nic w tym celu nie jest nowe. Nowością jest to, że Mythos automatyzuje teraz zarówno mapę, jak i pojazd, a także większość procesu nawigacji.
Nie tylko informujemy o zagrożeniach - my je usuwamy
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
