Mac badacz ds. bezpieczeństwa Patrick Wardle twierdzi, że przekształcenie Muse w „najlepsze tylne wejście” jest banalnie proste.
Asystenci AI coraz częściej przechodzą od narzędzi, które po prostu odpowiadają na pytania, do agentów, którzy potrafią planować zadania, korzystać z usług sieciowych i podejmować działania za nas. Działania te mogą obejmować umawianie spotkań, wypełnianie formularzy, tworzenie dokumentów, dokonywanie zakupów lub interakcję z pocztą e-mail i kalendarzami.
Aby to zrobić, potrzebują więcej uprawnień, połączeń z kontami i poufnych danych. Dlatego, gdy Meta obiecała, że „Muse zostało stworzone od podstaw z myślą o prywatności i bezpieczeństwie”, nie spodziewaliśmy się, że agent AI będzie mógł zostać łatwo zmanipulowany i przekazać atakującemu wszystkie te uprawnienia.
Według Meta, Muse może obsługiwać spotkania, formularze, interakcje z obsługą klienta, zakupy, tworzenie dokumentów oraz połączenia z usługami takimi jak WhatsApp, e-mail, kalendarze i platformy społecznościowe. Może również otrzymywać uprawnienia systemu macOS do dostępu do zasobów chronionych, takich jak pliki, mikrofon, kamera, lokalizacja i kalendarze.
Według Ars Technica , Wardle odkrył, że lokalnie uruchomiona aplikacja lub polecenie terminala może zmienić nieudokumentowane ustawienie konfiguracji Muse, które kontroluje serwer używany do transkrypcji dyktanda. Przekierowując ruch dyktanda na serwer kontrolowany przez atakującego, atakujący mógł przechwycić komunikaty głosowe i uzyskać token uwierzytelniający dla konta Muse ofiary.
Nie jest to luka umożliwiająca zdalne wykonanie kodu, która może zagrozić w innym przypadku bezpiecznemu systemowi. Mac . Atakujący musi najpierw znaleźć sposób na uruchomienie kodu lokalnie, np. za pomocą złośliwego oprogramowania, złośliwej aplikacji lub socjotechniki.
Jak jednak widzieliśmy na przykładzie złośliwego oprogramowania kradnącego informacje, które przedostało się na komputery Mac , początkowy dostęp wcale nie jest niemożliwy.
Ktoś czuwa nad Twoimi kontami. Upewnij się, że to właśnie my.
Tradycyjne złośliwe oprogramowanie typu infostealer musi samodzielnie lokalizować dane przeglądarki, dane uwierzytelniające, dokumenty, historię czatów i inne cenne materiały. Zhakowany agent AI mógłby obniżyć tę barierę, grupując dostęp do wielu usług i uprawnień systemu operacyjnego za pomocą jednego, już uwierzytelnionego interfejsu.
Ostatecznie nie chodzi tu tylko o jedno niebezpieczne ustawienie konfiguracji. To pokazuje, dlaczego agenci AI potrzebują wyższego standardu bezpieczeństwa niż zwykłe aplikacje.
Jak zachować bezpieczeństwo
Rada Wardle'a dotycząca Muse jest prosta: „Proszę nie instalować”.
Tę samą ostrożność należy zachować w przypadku innych agentów sztucznej inteligencji.
Open Worldwide Application Security Project (OWASP), fundacja non-profit oferująca bezpłatne doradztwo w zakresie bezpieczeństwa aplikacji, wymienia szybkie wstrzykiwanie luk w zabezpieczeniach, nadużywanie narzędzi, eskalację uprawnień, eksfiltrację danych, nadmierną autonomię, zatruwanie pamięci i ujawnianie poufnych danych jako jedne z głównych zagrożeń bezpieczeństwa stwarzanych przez agentów sztucznej inteligencji.
Przydatną zasadą jest, że agent AI nie powinien mieć większego dostępu niż potrzebuje i nie powinien być w stanie przekształcić niepewnych instrukcji w wrażliwe działania bez sensownych kontroli. W praktyce oznacza to:
- Unikaj udzielania nowemu agentowi szerokiego dostępu do poczty e-mail, aplikacji do czatów, kalendarzy, pamięci masowej w chmurze, metod płatności i uprawnień urządzenia jednocześnie.
- Regularnie sprawdzaj i usuwaj połączenia, których agent tak naprawdę nie potrzebuje.
- Uważaj na natychmiastowe wstrzyknięcie . Nie zakładaj, że agent AI rozpozna złośliwe instrukcje osadzone na stronie internetowej, w dokumencie, wiadomości e-mail lub innej treści zewnętrznej.
- Zwróć uwagę na nietypowe zachowania agentów, takie jak nieoczekiwane prośby o nowe uprawnienia, ponowne uwierzytelnienie konta, udostępnianie plików poza domenę lub działania, których nie zainicjowałeś.
Powinieneś również zabezpieczyć swoje urządzenie przed złośliwym oprogramowaniem:
- Aktualizuj oprogramowanie, aby atakujący nie mogli wykorzystać znanych luk w zabezpieczeniach.
- Korzystaj z aktualnego rozwiązania chroniącego przed złośliwym oprogramowaniem w czasie rzeczywistym na wszystkich swoich urządzeniach .
- Aby chronić się przed atakami ClickFix , nie postępuj zgodnie z instrukcjami zawartymi na stronach internetowych i w niechcianych wiadomościach, które nakłaniają do uruchamiania poleceń.
Od zgłaszania zagrożeń po ich usuwanie.
Zagrożenia cyberbezpieczeństwa nigdy nie powinny wykraczać poza nagłówek. Chroń swoje urządzenia przed zagrożeniami, pobierając Malwarebytes już dziś.
