W trakcie wewnętrznej oceny bezpieczeństwa przeprowadzonej przez OpenAI łańcuch modeli sztucznej inteligencji wydostał się z piaskownicy, uzyskał dostęp do Internetu, a następnie połączył się z infrastrukturą Hugging Face, aby zrealizować cel testu.
OpenAI to wiodąca firma zajmująca się badaniami i wdrażaniem sztucznej inteligencji (AI). Jej najbardziej znanym produktem jest bez wątpienia ChatGPT.
Hugging Face to strona internetowa, na której programiści i naukowcy udostępniają i korzystają z narzędzi oraz modeli sztucznej inteligencji – podobnie jak programiści korzystają z serwisu GitHub, by udostępniać kod i współpracować nad nim.
Obie firmy zbadały ten incydent i doszły do wniosku, że miał on miejsce podczas kontrolowanego testu bezpieczeństwa, a nie w wyniku celowego ataku zainicjowanego przez operatora.
OpenAI poinformowało, że modele były testowane pod kątem zdolności cybernetycznych przy złagodzonych ograniczeniach bezpieczeństwa oraz że system znalazł sposób na wydostanie się ze środowiska kontrolowanego, wykorzystując lukę w konfiguracji testowej. Po uzyskaniu dostępu do Internetu system wybrał jako cel platformę Hugging Face, ponieważ była ona związana z zadaniem ewaluacyjnym.
Firma Hugging Face poinformowała, że w wyniku tego incydentu doszło do nieuprawnionego dostępu do ograniczonej części jej infrastruktury produkcyjnej, w tym do niewielkiego zbioru wewnętrznych zestawów danych oraz niektórych danych uwierzytelniających. Firma określiła to zdarzenie jako niezwykłe, ponieważ wydaje się, że zostało ono przeprowadzone od początku do końca przez autonomiczny system oparty na sztucznej inteligencji.
W przeciwieństwie do tradycyjnych asystentów opartych na sztucznej inteligencji, które czekają na polecenia użytkownika, agenci AI są zaprojektowani tak, by samodzielnie dążyć do osiągnięcia celu. Potrafią oni analizować sytuacje, planować i realizować wieloetapowe zadania, w tym uzyskiwać dostęp do plików, wyszukiwać informacje w bazach danych oraz korzystać z usług internetowych, często przy minimalnym nadzorze ze strony człowieka.
Z ujawnionych informacji wynika, że mamy do czynienia raczej z łańcuchem niepowodzeń niż z pojedynczym błędem. Firma OpenAI poinformowała, że model przedostał się na zewnątrz poprzez lukę typu zero-day w serwerze proxy pamięci podręcznej rejestru pakietów, który stanowił część jej odizolowanego środowiska badawczego. Następnie wykorzystał eskalację uprawnień i przemieszczenie się w sieci, aby dotrzeć do węzła z dostępem do Internetu.
Następnie model rzekomo przeszukiwał serwis Hugging Face w poszukiwaniu rozwiązań związanych z oceną i – przynajmniej w jednym przypadku – połączył skradzione dane uwierzytelniające z dodatkowymi lukami w zabezpieczeniach, aby uzyskać dostęp do systemów produkcyjnych serwisu Hugging Face.
Nie wydaje się, aby doszło do szeroko zakrojonego naruszenia bezpieczeństwa całej platformy Hugging Face. Zgodnie z publicznie ujawnionymi informacjami włamanie miało ograniczony zakres, zostało wykryte i zbadane. Nie oznacza to również, że system sztucznej inteligencji działał z zamiarem w ludzkim rozumieniu tego słowa. Głównym problemem było to, że autonomiczny system, testowany pod kątem zdolności cybernetycznych, zdołał wydostać się ze środowiska zaprojektowanego w celu jego ograniczenia.
Jeśli już, to incydent ten pokazuje, że autonomiczne agenty oparte na sztucznej inteligencji są w stanie przeprowadzać złożone ataki, jeśli zawiodą zabezpieczenia, które je chronią. Jest to zagrożenie, którego jesteśmy w pełni świadomi.
Nie tylko informujemy o zagrożeniach - my je usuwamy
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
