W tym tygodniu w podcaście Lock and Code…
Musimy porozmawiać o robotach-zabójcach. Nie, nie chodzi o Terminatora ani o jakiegoś robota firmy Boston Dynamics, który oszalał. Musimy natomiast porozmawiać o rzeczywistości technologicznej, która już dawno stała się faktem.
Pod koniec lutego firma Anthropic, zajmująca się tworzeniem sztucznej inteligencji, wydała oświadczenie, które mogło zaskoczyć tych, którzy znają ją wyłącznie z jej pomocnego chatbota o nazwie Claude: firma nie wyrazi zgody na wykorzystanie swojej technologii przez rząd do zabijania ludzi bez odpowiednich zabezpieczeń.
Chwileczkę… co?
Chociaż wśród większości zwykłych ludzi firma Anthropic znana jest jako twórca opartego na sztucznej inteligencji asystenta do programowania, pisania i wyszukiwania informacji, w rzeczywistości wdrożyła ona już system Claude w całym administracji rządowej Stanów Zjednoczonych na potrzeby strategiczne w dziedzinie wojskowości. Według Anthropic system Claude był wykorzystywany przez Departament Obrony Stanów Zjednoczonych oraz inne agencje bezpieczeństwa narodowego do „zastosowań o znaczeniu krytycznym, takich jak analiza wywiadowcza, modelowanie i symulacje, planowanie operacyjne, operacje cybernetyczne i inne”.
Jednak za kulisami rząd Stanów Zjednoczonych domagał się jeszcze większej liczby wniosków i ujął wszystkie swoje żądania w szerokie, niejasne sformułowanie: „wszelkie zgodne z prawem zastosowania”. Firma Anthropic zareagowała z oburzeniem na żądanie rządu, określając dwa przypadki zastosowań, które były po prostu wykluczone: masową inwigilację Amerykanów oraz w pełni autonomiczną broń – lub, innymi słowy, zasilanie niezależnych robotów bojowych.
Jak stwierdziła firma Anthropic w swoim oświadczeniu:
„Systemy sztucznej inteligencji firmy Frontier po prostu nie są wystarczająco niezawodne, by zasilać w pełni autonomiczną broń. Nie zamierzamy świadomie dostarczać produktu, który naraża amerykańskich żołnierzy i ludność cywilną na niebezpieczeństwo. Zaproponowaliśmy bezpośrednią współpracę z Departamentem Obrony w zakresie badań i rozwoju w celu poprawy niezawodności tych systemów, ale oferta ta nie została przyjęta. Ponadto bez odpowiedniego nadzoru nie można polegać na tym, że w pełni autonomiczna broń będzie wykazywać się krytyczną oceną sytuacji, jaką codziennie wykazują się nasze wysoko wyszkolone, profesjonalne oddziały. Musi ona być wdrażana z odpowiednimi zabezpieczeniami, których obecnie nie ma”.
Jasne, może dziś tych barier nie ma, ale czy w ogóle istnieją – czy w ogóle mogą istnieć?
Dzisiaj w podcaście „Lock and Code”, prowadzonym przez Davida Ruiza, rozmawiamy z Peterem Asaro, przewodniczącym organizacji Campaign to Stop Killer Robots, o tym, czym właściwie jest robot-zabójca, jak blisko jesteśmy ich wprowadzenia do użytku oraz jakie są niektóre ukryte konsekwencje wdrażania technologii podejmującej decyzje z niewiarygodną szybkością w środowisku, w którym łagodzenie napięć wymaga czasu, przestrzeni i ludzkiej oceny sytuacji.
„To masowe mnożenie celów tylko przyspiesza tempo i nasila zniszczenia związane z działaniami wojennymi, a niekoniecznie zapewnia jakąkolwiek przewagę militarną czy polityczną”.
Włącz się dzisiaj, aby wysłuchać całej rozmowy.
Pokaż notatki i napisy końcowe:
Muzyka intro: „Spellbound” autorstwa Kevina MacLeoda (incompetech.com)
Na licencji Creative Commons: Attribution 4.0 License
http://creativecommons.org/licenses/by/4.0/
Muzyka outro: „Good God” autorstwa Wowa (unminus.com)
Słuchajcie —Malwarebytes tylko mówi o cyberbezpieczeństwie, ale także je zapewnia.
Chroń się przed atakami internetowymi, które zagrażają Twojej tożsamości, plikom, systemowi i bezpieczeństwu finansowemu, korzystającz naszejekskluzywnej oferty Malwarebytes Premium dla słuchaczy Lock and Code.
