Unia Europejska (UE) rozpoczęła egzekwowanie kluczowych części ustawy o sztucznej inteligencji, co ma natychmiastowe i widoczne konsekwencje dla chatbotów, deepfakes i innych systemów sztucznej inteligencji (AI) przeznaczonych dla konsumentów.
Od 2 sierpnia prawdopodobnie zauważysz więcej etykiet „to jest sztuczna inteligencja”, jaśniejsze zasady dotyczące zaawansowanych modeli bazowych oraz nowe sposoby składania skarg przez użytkowników i badaczy, gdy systemy zaczynają szwankować.
Ustawa o sztucznej inteligencji przeszła od teorii do praktyki w trzech głównych obszarach:
- Modele sztucznej inteligencji ogólnego przeznaczenia (GPAI): Nowe Biuro ds. sztucznej inteligencji w Brukseli, wspólnie z krajowymi organami regulacyjnymi, może teraz egzekwować przepisy dotyczące dostawców modeli sztucznej inteligencji ogólnego przeznaczenia (pomyślmy o dużych modelach językowych i innych modelach podstawowych, na których opiera się wiele narzędzi).
- Obowiązki przejrzystości: Zasady przejrzystości wchodzą w życie w przypadku systemów interaktywnych i treści generowanych przez sztuczną inteligencję: chatboty muszą informować, że są botami, a syntetyczne dźwięki, obrazy, wideo i tekst muszą być oznaczone jako wygenerowane przez sztuczną inteligencję lub zmanipulowane.
- Zakazane zastosowania sztucznej inteligencji: Zestaw zastosowań sztucznej inteligencji stwarzających „niedopuszczalne ryzyko” jest teraz formalnie zakazany, a egzekwowanie go leży w gestii Biura ds. Sztucznej Inteligencji, organów krajowych i Europejskiego Inspektora Ochrony Danych w instytucjach UE.
Należy pamiętać, że treści wygenerowane i opublikowane przed 2 sierpnia nie muszą być objęte wsteczną etykietą, ale wszystko, co zostało opublikowane w tym dniu lub później, podlega tym zasadom, nawet jeśli zostało wygenerowane wcześniej.
Z perspektywy bezpieczeństwa dążenie do przejrzystości wynikające z ustawy o sztucznej inteligencji nie ma na celu zakazania sztucznej inteligencji, a raczej ma na celu pozbawienie jej najlepszego kamuflażu: udawania człowieka.
Niedopełnienie obowiązków przejrzystości może skutkować karami finansowymi w wysokości do 15 milionów euro (17,3 miliona dolarów amerykańskich) lub 3% światowego rocznego obrotu (w zależności od tego, która kwota jest wyższa), co powinno być na tyle znaczącą kwotą, aby zwrócić uwagę dużych dostawców.
Aby egzekwowanie prawa stało się czymś więcej niż tylko papierowym tygrysem, Biuro ds. Sztucznej Inteligencji uruchomiło narzędzia skierowane do osób, które dostrzegają problemy od wewnątrz lub jako użytkownicy:
- Narzędzie do składania skarg: Osoby prywatne i organizacje mogą zgłaszać domniemane naruszenia ustawy o sztucznej inteligencji przez dostawców lub użytkowników systemów sztucznej inteligencji nadzorowanych przez Biuro ds. sztucznej inteligencji.
- Narzędzie sygnalisty: Osoby zawodowo związane z dostawcami lub wdrażającymi sztuczną inteligencję otrzymują anonimowy kanał umożliwiający im zgłaszanie potencjalnych naruszeń, które mogą zagrozić prawom podstawowym, zdrowiu lub zaufaniu publicznemu.
- Kanał składania skarg w dół łańcucha dostaw: Firmy tworzące rozwiązania w oparciu o modele GPAI mogą zgłaszać podejrzenia naruszeń ze strony dostawców bazowych modeli.
Tworzy to formalną ścieżkę zgłaszania problemów systemowych: takich jak niebezpieczne zachowania modeli, ignorowanie ustaleń zespołu redakcyjnej kontroli lub wdrażanie rozwiązań, które po cichu przekraczają granice prawne związane z manipulacją lub dyskryminacją.
Zakazy dotyczące treści „nudifier” i treści obraźliwych
Biuro ds. Sztucznej Inteligencji wprowadziło wyraźne zakazy dla systemów sztucznej inteligencji generujących niechciane treści o charakterze seksualnym lub intymnym (w tym aplikacje umożliwiające nagość ) oraz materiały prezentujące wykorzystywanie seksualne dzieci.
Dla ofiar tych nadużyć to coś więcej niż symboliczny krok. Daje on organom regulacyjnym i organom ścigania jasną podstawę prawną do ścigania zarówno dostawców, jak i użytkowników takich systemów w UE, zamiast próbować wcisnąć ich do starszych, mniej szczegółowych przepisów.
Przepisy te zaczną obowiązywać od 2 grudnia 2026 r., a przedsiębiorstwa będą miały czas na dostosowanie swoich systemów do wymogów lub wycofanie ich z rynku UE.
Niestety, nie powstrzyma to całkowicie nadużyć. Atakujący nadal będą korzystać z nieoznakowanych narzędzi i infrastruktury spoza UE. Podnosi to jednak poprzeczkę dla legalnych usług i utrudnia głównym platformom ignorowanie ryzyka związanego z oszukańczymi funkcjami opartymi na sztucznej inteligencji.
Ustawa o sztucznej inteligencji (AI Act) nie sprawi, że AI będzie bezpieczna z dnia na dzień, ale zmienia domyślne podejście z „wszystko ujdzie” na „musisz przestrzegać kilku podstawowych zasad, jeśli działasz w UE”. Dla użytkowników to krok w kierunku systemów AI, które przynajmniej można rozpoznać i zakwestionować, zamiast pozwolić, by niewidzialna technologia po cichu kształtowała nasze doświadczenia online.
Oszuści nie muszą włamują się do twojego komputera. Wystarczy, że raz klikniesz.
Malwarebytes Identity Theft wykrywa podejrzaną aktywność, zanim stanie się ona problemem.
