Jak donosi Wall Street Journal , w laboratoriach zajmujących się sztuczną inteligencją narastają obawy, że konkurencja zmusza firmy technologiczne do ścigania się w kierunku samodoskonalących się modeli, które mogą wymknąć się spod ludzkiej kontroli.
Jacob Coxon, badacz sztucznej inteligencji pracujący w Anthropic i OpenAI, powiedział :
„Ludzie tworzący sztuczną inteligencję szczerze wierzą, że może ona nas wszystkich zabić do końca dekady”.
Evan Hubinger, szef działu Alignment Science w Anthropic, który pracował również w OpenAI, odpowiedział w poście na X :
„Naprawdę szczerze wierzymy, że sztuczna inteligencja mogłaby zabić wszystkich ludzi! Osobiście uważam, że w ciągu najbliższej dekady będzie to ponad 10%”.
Hubinger dodał:
„Martwię się, że superinteligencja, która powstaje w wyniku rekurencyjnego samodoskonalenia, rozwija się szybciej, niż myśleliśmy”.
Tę liczbę należy traktować jako osobistą ocenę Hubingera. Nie jest to prognoza, ustalony fakt ani dowód na to, że dzisiejsze chatboty same z siebie staną się niebezpieczne. Nie jest to też coś, o czym wiem wystarczająco dużo, by poprzeć lub odrzucić tę opinię.
Naukowcy aktywnie badają, czy wysoce wydajne systemy mogą zachowywać się w sposób nieprzewidziany , wykorzystywać luki w zabezpieczeniach lub być wykorzystywane do automatyzacji cyberataków.
W raporcie BBC odnotowano, że Hubinger określił ryzyko związane z obecnymi modelami jako niskie. Jego obawy koncentrują się na możliwych przyszłych systemach o znacznie większej autonomii i możliwościach.
W obliczu rozważań firm i rządów nad tempem rozwoju sztucznej inteligencji (AI), potrzebujemy rozsądnych zabezpieczeń, w tym niezależnych testów, ograniczeń dotyczących ryzykownego, autonomicznego użytkowania, przejrzystości ze strony programistów oraz odpowiedzialności w przypadku, gdy systemy AI wyrządzą szkodę.
Środki te powinny również rozwiązać problemy, z którymi już się borykamy, ponieważ cyberprzestępcy wykorzystują sztuczną inteligencję do oszustw, naruszania prywatności i innych cyberprzestępstw. Podobnie jak wiele zaawansowanych technologii, sztuczna inteligencja może być wykorzystywana jako broń, szczególnie gdy zabezpieczenia nie nadążają za jej możliwościami.
Ekstremalne przewidywania mogą być emocjonalnie angażujące, zwłaszcza gdy formułują je osoby blisko związane z technologią. Ale niepewność działa w obie strony: poważne ostrzeżenia zasługują na wnikliwą analizę, a nie bezkrytyczną wiarę.
Praktyczne przesłanie nie brzmi ani „ignoruj bezpieczeństwa sztucznej inteligencji”, ani „przygotuj się na apokalipsę robotów”. Firmy, rządy i naukowcy muszą współpracować, aby zapewnić, że środki bezpieczeństwa nadążają za szybkim rozwojem.
Współpraca może uzupełniać konkurencję i w tym przypadku może mieć kluczowe znaczenie.
Twoje imię i nazwisko, adres oraz numer telefonu mogą już być na sprzedaż.
Firmy zajmujące się handlem danymi gromadzą i sprzedają Twoje dane osobowe każdemu, kto jest skłonny za nie zapłacić.Personal Data Remover Malwarebytes Personal Data Remover je i usuwa Twoje dane, a następnie czuwa nad tym, by tak pozostało.
