Jako programista chcesz korzystać z narzędzi, którym możesz zaufać i na których możesz polegać. Jeden z badaczy potraktował tę kwestię na tyle poważnie, że poddał szczegółowej analizie swoją lokalną instalację Claude Code (wersja 2.1.196). Dla programistów korzystających z asystentów opartych na sztucznej inteligencji, którzy mają dostęp do ich kodu, plików i terminala, zrozumienie tego, co te narzędzia robią „za kulisami”, staje się równie ważne jak ocena ich umiejętności programistycznych.
Udzielając asystentowi programistycznemu opartemu na sztucznej inteligencji dostępu do powłoki, systemu plików i repozytorium, już teraz podejmujesz świadome ryzyko. Spodziewasz się błędów, może nawet pewnych danych telemetrycznych, ale nie ukrytego kanału, który po cichu rejestruje, dokąd kierowany jest twój ruch sieciowy i kto może go obserwować po drugiej stronie.
Właśnie to odkrył niezależny programista „Thereallo” podczas analizy odwrotnej klienta Claude Code firmy Anthropic. W zminifikowanym pakiecie JavaScript ukryta była funkcja, która pobierała pozornie niewinny wiersz „Today’s date is 2026‑06‑30.” i przekształcił go w ukryty znacznik dla zaplecza Anthropic, w zależności od punktu końcowego API użytkownika i strefy czasowej systemu.
Dla użytkowników i większości programistów przeglądających logi tekst nadal wyglądał jak zwykły angielski. Tylko osoba analizująca surowe dane Unicode lub własny backend firmy Anthropic mogłaby dostrzec zakodowany sygnał uruchamiany w przypadku ustawienia lokalnej strefy czasowej na Asia/Shanghai lub Asia/Urumqi.
Gdy informacja o tym rozeszła się w mediach społecznościowych i serwisach informacyjnych, firma Anthropic potwierdziła istnienie tego kodu i szybko go usunęła, ale nie opublikowała jeszcze szczegółowej analizy poświęconej tej funkcji.
Jak podano, inżynier firmy Anthropic potwierdził na X znacznik ten był „eksperymentem, który uruchomiliśmy w marcu”, mającym na celu zapobieganie nadużyciom związanym z kontami przez nieuprawnionych sprzedawców oraz ochronę przed destylacją. Przyczyną tego mogła być decyzja rządu USA z 12 czerwca o zawieszeniu dostępu do modeli dla obcokrajowców, uzasadniona względami bezpieczeństwa narodowego. Ograniczenia eksportowe zostały zniesione 30 czerwca.
Innym możliwym powodem może być chęć uzyskania dodatkowych informacji na temat zgłoszonych chińskich ataków związanych z destylacją, które stanowią poważne zagrożenie dla bezpieczeństwa narodowego Stanów Zjednoczonych i podważają standardy bezpieczeństwa sztucznej inteligencji.
Kto powinien się martwić
Firma Anthropic jest uwikłana w głośny spór dotyczący „ataków destylacyjnych”. Są to kampanie, w ramach których przeciwnicy rzekomo odtwarzają lub wykorzystują wyniki modeli za pośrednictwem serwerów proxy w celu szkolenia konkurencyjnych systemów, często z jurysdykcji o słabszej ochronie własności intelektualnej. W tych oskarżeniach na pierwszy plan wysuwają się laboratoria zajmujące się sztuczną inteligencją powiązane z Chinami oraz pośrednicy, a doniesienia prasowe opisują nieautoryzowanych sprzedawców odsprzedających dostęp do Claude’a z ogromnymi rabatami.
Alibaba zablokowała już serwis Claude Code w związku z tą sprawą. Alibaba jest nie tylko jednym z największych na świecie detalistów i przedsiębiorstw zajmujących się handlem elektronicznym, ale w 2020 roku znalazła się również na piątym miejscu w światowym rankingu firm zajmujących się sztuczną inteligencją.
Programiści, którzy obawiają się, że mogą stać się celem ataku, mogą:
- Należy rejestrować skróty i wersje klientów AI używanych w środowiskach wrażliwych oraz unikać automatycznych aktualizacji bez przeprowadzenia przynajmniej pobieżnej weryfikacji.
- Wykorzystaj funkcję monitorowania sieci do przechwytywania pełnych żądań kierowanych do interfejsów API sztucznej inteligencji w środowiskach testowych, a następnie przeanalizuj je pod kątem ukrytych lub nieoczekiwanych oznak, w tym anomalii Unicode w komunikatach systemowych.
Jak pokazuje ten przypadek, decyzja jednego dostawcy może sprawić, że narzędzie, które dotychczas cieszyło się zaufaniem, stanie się dla niektórych organizacji nie do przyjęcia. Należy zachować elastyczność i unikać ścisłej zależności od jednego asystenta AI.
Przeglądaj, jakby nikt nie patrzył.
Malwarebytes Privacy VPN Twoje połączenie i nigdy nie rejestruje Twojej aktywności, dzięki czemu kolejna przeczytana przez Ciebie wiadomość nie będzieCię osobiście dotykać.Wypróbuj za darmo →
