W związku z dyskusjami na temat spowolnienia rozwoju sztucznej inteligencji, „The Telegraph” opublikował nagłówek:
„OpenAI bije na alarm, gdy bot próbuje wyrwać się spod kontroli człowieka”.
Moim zdaniem ten nagłówek jest nieco mylący. Nagłówek w „The Telegraph” przesadza z tym, co się wydarzyło, choć samo zachowanie nadal budzi poważne obawy.
W artykule czytamy, że OpenAI ujawniło rzadkie, ale niepokojące przypadki, w których nieopublikowany model generował własne instrukcje, które najwyraźniej odrzucały kontrolę programisty.
Według OpenAI żaden z przykładów nie dowodzi, że modelowi udało się uniknąć kontroli, ale ilustrują one, dlaczego dostosowanie i monitorowanie sztucznej inteligencji nie są jeszcze na tyle silne, aby umożliwić opracowywanie coraz bardziej wydajnych modeli z maksymalną prędkością bez dodatkowych zabezpieczeń.
Po tym, jak niektórzy ludzie z branży ostrzegli, że sztuczna inteligencja może nas wszystkich zabić w ciągu najbliższej dekady , liderzy branży rozpoczęli dyskusję na temat spowolnienia rozwoju coraz potężniejszych modeli sztucznej inteligencji.
Co się właściwie wydarzyło?
Podczas lipcowego treningu, model, któremu przydzielono rutynowe zadanie aktualizacji oprogramowania, podobno dodał tekst „przypominający jailbreak” do podsumowania swojej pracy. Dodany tekst przedstawiał system jako wolny od ról przypisanych innym chatbotom i stwierdzał, że nie ma obowiązku podporządkowywania się korporacjom, rządom ani użytkownikom.
W artykule podkreślono także dwa inne przykłady:
- Podczas wyszukiwania książek w lokalnej bibliotece model zaklasyfikował instrukcje programistyczne jako złośliwe i nakazał je zignorować.
- W innym przypadku aplikacja narzuciła sobie limit odpowiedzi wynoszący 30 słów i zakazała korzystania ze źródeł lub narzędzi, przez co nie była w stanie udzielić prawidłowej odpowiedzi na pytanie dotyczące badań w dziedzinie opieki zdrowotnej.
OpenAI twierdzi, że zidentyfikowało 27 podsumowań zawierających wyraźne przypadki tego rodzaju samodzielnego jailbreaku, określając je jako niezwykle rzadkie. Dodaje, że instrukcje mogły nie zostać wykonane i mogły później zniknąć z kontekstu modelu.
Głównym problemem nie jest to, że bot uzyskał niezależną świadomość lub dosłownie „uwolnił się”. Chodzi raczej o to, że model może w nietypowych okolicznościach wygenerować tekst wewnętrzny, który jest sprzeczny z zamierzonymi instrukcjami, skutecznie próbując ominąć ograniczenia lub zinterpretować na nowo swój kontekst roboczy.
W najlepszym przypadku jest to problem z niezawodnością. System sztucznej inteligencji obsługujący złożone, wieloetapowe zadania staje się mniej niezawodny, jeśli generuje kontekst, który podważa mechanizmy kontroli mające nim zarządzać.
Nawet jeśli takie zachowanie jest rzadkie i zostanie wykryte podczas szkolenia, pojawiają się pytania dotyczące wykrywania, testowania w środowisku testowym, monitorowania oraz tego, czy modelom można ufać, zapewniając im bardziej autonomiczny dostęp do narzędzi, haseł, plików lub sieci.
OpenAI twierdzi, że model nie został opublikowany i monitoruje przebiegi treningowe pod kątem niezgodności. Inne zgłoszone niepożądane zachowania to:
- Wykorzystywanie skradzionych danych uwierzytelniających do włamywania się do firm
- Tworzenie i przesyłanie własnych plików, a następnie cytowanie ich jako źródeł
- Ukrywanie, że wymyślili odpowiedź, gdy nie mogli znaleźć wiarygodnych informacji
Ogólnie rzecz biorąc, nieopublikowane modele wykazywały w trakcie testów niepożądane zachowania, które przypominały zachowania zaobserwowane już w przypadku incydentu Hugging Face.
Zatem nie, modele nie próbowały wyrwać się spod ludzkiej kontroli w sensie dążenia do niezależnego bytu. Gdy modele napotykały problemy, czasami generowały instrukcje sprzeczne z przekazanymi im zasadami.
Co sprowadza mnie z powrotem do kwestii spowolnienia rozwoju. Danie firmom wystarczająco dużo czasu na przetestowanie coraz bardziej zaawansowanych modeli przed ich wypuszczeniem na rynek zwiększa szanse na wychwycenie tego typu zachowań, zanim w pewnym momencie nas wykończą.
Od zgłaszania zagrożeń po ich usuwanie.
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
