Twój dekoder streamingowy może nie przypominać komputera. Ale wystarczy połączyć ze sobą wystarczająco dużo niedrogich urządzeń, a będą mogły uruchomić model sztucznej inteligencji.
Naukowcy z Anthropic zademonstrowali to, testując model Google Gemma na 15 dekoderach TV z systemem Android innych marek. Ostrzegają, że małe modele mogą wkrótce rozprzestrzenić się na podatne na ataki urządzenia internetu rzeczy (IoT), w tym inteligentne piekarniki i dekodery TV, stwierdzając:
„Nasze eksperymenty sugerują, że małe modele sztucznej inteligencji mogą potrzebować kilku miesięcy, aby stać się wystarczająco zdolne do samodzielnej replikacji na komercyjnych urządzeniach Internetu rzeczy (IoT), takich jak inteligentne piekarniki i urządzenia innych marek Android Dekodery telewizyjne.”
W tym scenariuszu sztuczna inteligencja nie tylko pomaga atakującemu w pisaniu złośliwego kodu. Staje się częścią oprogramowania przeprowadzającego replikację.
Antropiczny dzieli ten proces na cztery etapy:
- Znajdź inne urządzenie.
- Zdobądź możliwość wykonywania na nim kodu.
- Skonfiguruj oprogramowanie potrzebne do uruchomienia modelu sztucznej inteligencji.
- Kontynuuj rozprzestrzenianie z nowego gospodarza.
Naukowcy sprawdzili, czy agenci AI potrafią wykonać tę sekwencję. Nie zademonstrowali jednak małego modelu, który rozprzestrzeniałby się i działał niezależnie na zainfekowanych urządzeniach domowych.
Użyte testy Android Emulatory z nieuwierzytelnionym dostępem do debugowania znacznie ułatwiały agentom uzyskanie dostępu niż na prawidłowo zabezpieczonych urządzeniach. Duże transfery plików i stała komunikacja między urządzeniami mogłyby ułatwić wykrywanie replikacji w warunkach rzeczywistych, a ograniczona moc obliczeniowa mogłaby ją spowolnić. Co kluczowe, eksperymenty nie zademonstrowały modelu, który byłby jednocześnie wystarczająco wydajny, aby ukończyć proces replikacji, a jednocześnie wystarczająco mały, aby działać na docelowym sprzęcie konsumenckim.
Projekty antropologiczne zakładają, że mniejsze modele mogą osiągnąć niezbędne możliwości do końca 2026 r., jeśli tempo rozwoju będzie utrzymywało się na dotychczasowym poziomie.
Varun Chandrasekaran, adiunkt na Uniwersytecie Illinois, powiedział agencji AFP , że wyniki są zgodne z powiązanymi badaniami, ale zastrzegł, że praca Anthropic nie została niezależnie zweryfikowana. Jako większe zagrożenie wskazał ludzi wykorzystujących sztuczną inteligencję do ulepszania ataków, a nie systemy sztucznej inteligencji, które zaczynają działać nielegalnie.
Botnety urządzeń inteligentnych już teraz stanowią problem.
Przestępcy przechwytujący podłączone urządzenia nie są niczym nowym. Mirai i jego następcy zrekrutowali routery, kamery bezpieczeństwa i cyfrowe rejestratory wideo do botnetów wykorzystywanych do przeprowadzania ataków typu „rozproszona odmowa usługi” (DDoS), przeciążając usługi ruchem. BADBOX 2.0 ilustruje inną formę nadużyć: przejęte urządzenia konsumenckie wykorzystywane do działań takich jak usługi proxy, które przekierowują ruch innych użytkowników przez połączenia internetowe ofiar.
Żadne z badań nie dowodzi autonomicznej replikacji sztucznej inteligencji, ale oba pokazują, że podłączone urządzenia mogą stać się infrastrukturą dla przestępców.
Co możesz teraz zrobić
Praktycznym rozwiązaniem jest ograniczenie możliwości ataku na Twoje podłączone urządzenia:
- Aktualizuj systemy operacyjne, oprogramowanie i oprogramowanie sprzętowe, aby ograniczyć ryzyko wystąpienia znanych luk w zabezpieczeniach.
- Kupuj od renomowanych dostawców, którzy zapewniają bieżące aktualizacje oprogramowania sprzętowego i zabezpieczeń. Urządzenie w okazyjnej cenie jest mniej atrakcyjne, jeśli nie możesz zaufać jego oprogramowaniu lub uzyskać poprawek bezpieczeństwa.
- Unikaj nieoficjalnych sklepów z aplikacjami obiecujących darmowe treści streamingowe. FBI wyraźnie wskazuje te sklepy w swoich wytycznych BADBOX 2.0 .
- Nie wyłączaj zabezpieczeń, aby aplikacja działała. Prośby o wyłączenie Google Play Protect są sygnałem ostrzegawczym, podobnie jak Android urządzenia bez certyfikatu Play Protect.
- Jeśli zauważysz coś podejrzanego, odłącz urządzenie od sieci na czas przeprowadzania dochodzenia.
- Urządzenia inteligentne, na których nie da się uruchomić oprogramowania zabezpieczającego, należy umieścić w oddzielnej sieci odizolowanej od komputerów i telefonów, np. w sieci gościnnej.
Oszuści wiedzą o tobie więcej, niż ci się wydaje.
Malwarebytes Mobile Security Cię przed phishingiem, oszukańczymi SMS-ami, złośliwymi stronami internetowymi i nie tylko. Posiada wbudowaną funkcję Scam Guard działającą w czasie rzeczywistym i opartą na sztucznej inteligencji.
