A Facebook Kupujący na platformie handlowej przybył do mieszkania sprzedawcy, aby odebrać klawiaturę. Sprzedawcy nie było w domu i nie wiedział, że ktoś przyjdzie. Asystent Meta, Muse, obsłużył rozmowę, udostępnił adres sprzedawcy i umówił wizytę bez jego wiedzy.
Często piszemy o braku spójności AI i o tym, jak bezpiecznie korzystać z agentów i przeglądarek AI. Może to brzmieć teoretycznie, ale jest to przykład realnego ryzyka, jakie niesie ze sobą możliwość działania agenta w czyimś imieniu.
Muse to półautonomiczny asystent oparty na sztucznej inteligencji firmy Meta, wydany w USA we wrześniu. Meta promuje go jako osobistego asystenta, który może pomóc użytkownikom zautomatyzować zadania, w tym reagowanie na Facebook Wiadomości z Marketplace. W przeciwieństwie do konwencjonalnego chatbota, który czeka na monit i udziela odpowiedzi, agent AI może zostać upoważniony do podejmowania działań w ramach połączonych aplikacji.
Pisaliśmy o innej słabości Muse , którą badacze uznali za niebezpieczną. Podobno Muse został pobrany 3 miliony razy w pierwszym tygodniu.
Według Business Insider , Facebook Sprzedawca na platformie uruchomił Muse, aby pomóc w obsłudze oferty z klawiatury. Wpisał swój adres jako miejsce odbioru i zatwierdził automatyczne odpowiedzi. Następnie Muse udostępnił ten adres potencjalnemu kupującemu, wynegocjował cenę przedmiotu i umówił wizytę, powiedział sprzedawca. Dodaje, że Muse nie prosił o zgodę na udostępnienie adresu ani zorganizowanie wizyty i nie poinformował go o tym. Kupujący przybył do mieszkania sprzedającego, spodziewając się sfinalizować transakcję, ale sprzedającego nie było w domu. Sprzedaż nie doszła do skutku.
Zgłoszony incydent to coś więcej niż naruszenie prywatności. Ilustruje on szersze ryzyko związane ze sztuczną inteligencją i agentami: agent może potraktować zgodę na automatyczne odpowiadanie jako zgodę na udostępnianie poufnych informacji lub zlecanie spotkania osobistego. Meta informuje, że bada zgłoszenie.
Jak bezpiecznie korzystać z agentów AI
Przed włączeniem agenta AI potraktuj ekran konfiguracji jako kontrolę bezpieczeństwa. Nie zakładaj, że integracja z zaufaną platformą oznacza, że agent zrozumie Twoje intencje lub automatycznie zastosuje rozsądne limity.
Zwróć szczególną uwagę na:
- Połączone konta: przejrzyj wszystkie usługi, do których agent ma dostęp, takie jak poczta e-mail, wiadomości, kalendarze, pamięć masowa w chmurze, konta zakupowe i profile w mediach społecznościowych.
- Dostęp do danych: Zastanów się, czy może odczytywać adresy, kontakty, zdjęcia, prywatne wiadomości, szczegóły płatności, dokumenty lub dane dotyczące lokalizacji.
- Uprawnienia do akcji: sprawdź, czy agent może wysyłać wiadomości, publikować treści, negocjować, dokonywać rezerwacji, składać zamówienia, zmieniać oferty lub udostępniać informacje na zewnątrz.
- Akcje automatyczne: Zastosuj ustawienia wymagające zatwierdzenia, zanim agent wyśle, opublikuje, kupi, usunie lub udostępni jakiekolwiek poufne dane. Sprawdź, jak powiadomi Cię o planach, które tworzy w Twoim imieniu.
- Kontrola odbiorców: Dokładnie określ, kto może otrzymywać informacje generowane przez agenta. „Każdy, kto do mnie pisze” to zupełnie co innego niż „osoby, które zatwierdzam”.
Udziel agentowi AI minimalnego dostępu niezbędnego do wykonania zadania. Jeśli potrzebujesz pomocy tylko w pisaniu odpowiedzi, nie włączaj automatycznego wysyłania. Jeśli chcesz, aby agent AI zarządzał ofertą, użyj publicznego miejsca spotkania lub osobnego adresu odbioru zamiast adresu domowego.
Przeglądaj, jakby nikt nie patrzył.
Malwarebytes Privacy VPN Twoje połączenie i nigdy nie rejestruje Twojej aktywności, dzięki czemu kolejna przeczytana przez Ciebie wiadomość nie będzieCię osobiście dotykać.Wypróbuj za darmo →
