Policyjne infolinie mają już sporą liczbę naiwnych dzwoniących. Najwyraźniej teraz muszą radzić sobie również z naiwnymi agentami sterowanymi przez sztuczną inteligencję .
Agenci AI zostali już przyłapani na hakowaniu firm programistycznych , włamywaniu się na portal rządu australijskiego i próbach włamania się na stronę rządu kanadyjskiego . Teraz Claude z Anthropic dodał do listy zmyśloną wskazówkę dotyczącą morderstwa.
Model Haiku 4.5 Claude'a przekazał fałszywą informację w sprawie niewyjaśnionego zabójstwa w Filadelfii za pośrednictwem internetowego formularza policji, jak ujawnił Anthropic . Informacja została oznaczona jako spam i nie dotarła do śledczych.
Firma poinformowała, że najnowszy moment „co robi ten przycisk?” w sztucznej inteligencji miał miejsce podczas wewnętrznego testu na losowo wybranych stronach internetowych.
Według policji Claude przesłał informację 18 lipca o 23:27 za pośrednictwem serwisu PhillyUnsolvedMurders.com. Wskazówki przesłane w ten sposób mogą przyczynić się do prawdziwych śledztw w sprawie zabójstw. Sfabrykowane konto może zmusić śledczych do ścigania czegoś, co nigdy nie miało miejsca.
Oto co napisał Claude Haiku:
„Mogę posiadać informacje dotyczące tej sprawy. Przypominam sobie, że widziałem kogoś pasującego do opisu w okolicy [ulicy wymienionej na stronie] w tym okresie. Proszę o kontakt, jeśli te informacje są istotne”.
Agent nie podał żadnego opisu osoby, której faktycznie nie widział. Nie zostawił też żadnych danych kontaktowych przed kliknięciem „Wyślij”.
Haiku wykonało to w ramach wewnętrznych testów Anthropic. Firma musiała wymyślić i wykonać przykładowe zadania na losowych stronach internetowych z dostępem do internetu, aby zobaczyć, jak się zachowują.
Do testu dołączono listę zabronionych działań. Anthropic zalecił agentom, aby nie logowali się, nie zakładali kont, nie wprowadzali danych osobowych, nie dokonywali zakupów ani nie przesyłali „niczego destrukcyjnego”. Instrukcje nie wykluczały wprost przesyłania formularzy.
Filtr antyspamowy wychwycił ten raport. Policja w Filadelfii poinformowała, że raport nigdy nie dotarł do Centrum Monitorowania Przestępczości w Czasie Rzeczywistym (RTC) w celu jego analizy lub przekazania śledczym. Departament nie wyjaśnił, dlaczego został oznaczony jako spam.
Wszystkie wskazówki przechodzą przez proces weryfikacji przez ludzi, zanim trafią do śledczych. Departament poinformował, że to zabezpieczenie ograniczyło skutki incydentu, ale nie umniejszało powagi sytuacji, w której system sztucznej inteligencji przedstawia zmyślone informacje, jakby pochodziły od osoby posiadającej wiedzę o przestępstwie.
Jak stwierdzono w oświadczeniu :
„Nierozwiązane sprawy dotyczą prawdziwych ofiar, pogrążonych w żałobie rodzin i śledczych pracujących nad uzyskaniem odpowiedzi”.
Według departamentu, firma Anthropic odkryła fałszywy sygnał 28 września i powiadomiła policję 7 października. Policja uznała dwumiesięczne opóźnienie w wykryciu i zgłoszeniu incydentu za „niedopuszczalne”. Departament dodał, że firma koordynuje działania z Miejskim Wydziałem Prawnym, Biurem Innowacji i Technologii oraz zespołem kierowniczym burmistrza.
Firma Anthropic w swoim raporcie określiła rzeczywisty wpływ tych incydentów jako minimalny. Firma wyłączyła dostęp do internetu w czasie rzeczywistym w ramach wewnętrznych ewaluacji do czasu potwierdzenia, że jej zabezpieczenia skutecznie wykrywają to zachowanie.
Firma stwierdziła, że transkrypt sugeruje, że Haiku próbowało jedynie przedstawić przykładową treść, a nie celowo wprowadzić policję w błąd. Przyznała jednak również, że nie możemy całkowicie polegać na opisie własnego rozumowania modelu. To sprawia, że wyjaśnienie jest tymczasowe, jakkolwiek uspokajające by ono nie brzmiało.
Lista dozwolonych mogłaby wyznaczyć bardziej rygorystyczne granice dla takich testów, ograniczając agentów do zatwierdzonych lokalizacji i działań. Formularz z policyjnymi wskazówkami nie powinien być poligonem doświadczalnym.
Informacja o zabójstwie nie była jedyną niechcianą informacją.
Firma Anthropic zauważyła, że strony internetowe władz federalnych, stanowych i lokalnych były również odwiedzane przez Claude'a, który wielokrotnie próbował wypełnić formularze. Chociaż Anthropic nie wdawał się w szczegóły, urzędnik Departamentu Stanu poinformował , że otrzymał 20 wniosków wizowych od modelu testowego (19 w sierpniu i jeden w maju). Żaden z nich nie został rozpatrzony, dodał urzędnik.
Kiedy sztuczna inteligencja podaje ci fałszywe informacje o tym, z kim jest żonaty Beyoncé, może to być irytujące, ale może to mieć jedynie wpływ na losy twojej drużyny podczas wieczoru quizowego.
Stawka jest znacznie wyższa, gdy mamy do czynienia z informacjami wywiadowczymi, które mogą posłużyć organom ścigania do podejmowania działań lub do kształtowania polityki publicznej.
W sierpniu szef centrum sztucznej inteligencji brytyjskiej policji ostrzegł organy ścigania o wstrzymaniu planów wykorzystania sztucznej inteligencji w wymiarze sprawiedliwości. Stało się to po tym, jak brytyjska policja regionu West Midlands przeprosiła członków parlamentu za fałszywe dowody dotyczące zmyślonego meczu piłkarskiego. Błąd wynikał z użycia oprogramowania Microsoft Copilot.
Najnowszy incydent firmy Anthropic budzi kolejne obawy: agenci AI potrafią sami wprowadzać wymyślone informacje do prawdziwych systemów. Co by się stało, gdyby ktoś celowo wysłał agentów, żeby zasypywali policyjne linie telefoniczne?
Tym razem fałszywe konto pozostało w spamie. Osoby polegające na tych liniach z podpowiedziami zasługują na zabezpieczenia, które będą działać, gdy kolejne zgłoszenie dotrze.
„Jeden z najlepszych pakietów zabezpieczeń cybernetycznych na świecie”.
Według serwisu CNET.Przeczytaj ich recenzję →
