UE chce nadzorować niebezpieczną AI. Co może zrobić Bruksela?

Wiceprzewodnicząca Komisji Europejskiej Henna Virkkunen przekonuje, że unijne prawo pozwala reagować na zagrożenia ze strony coraz bardziej zaawansowanej sztucznej inteligencji. Bruksela pyta firmy technologiczne o bezpieczeństwo i zgodność rozwiązań z regulacjami, choć tempo rozwoju nowych modeli wywołuje spory o skuteczność kontroli.

Unijny akt o sztucznej inteligencji wprowadza podejście zależne od poziomu ryzyka. Odmiennym wymogom podlegają systemy stosowane w wrażliwych dziedzinach, a innym narzędzia o mniejszym wpływie na użytkowników. Istotne są zarówno procedury obowiązujące przed uruchomieniem usługi, jak i nadzór w okresie jej działania. Odpowiedzialność nie kończy się na jednorazowym teście wykonanym w laboratorium.

Virkkunen argumentuje, że europejskie regulacje uwzględniają również ryzyko przyszłych, potężniejszych modeli. Reuters odnotował jej wypowiedź w związku z nasilającą się debatą o możliwości utraty kontroli nad zaawansowanymi systemami i o odpowiedzialności firm. Komisarz odrzuciła zarzut, że prawo już teraz jest przestarzałe, choć nie ogłoszono tym samym końca problemów związanych z egzekwowaniem regulacji.

Komisja zwróciła się do ponad 30 firm technologicznych z różnych krajów, również spoza UE, z pytaniami o bezpieczeństwo i zgodność z obowiązkami. Takie żądania informacji pozwalają administracji poznać praktyki producentów i ewentualnie rozpocząć dalsze postępowania. Samo wysłanie pisma nie oznacza jednak stwierdzenia naruszenia przepisów ani nałożenia kary.

Przepisy przewidują potencjalnie wysokie sankcje finansowe, sięgające w określonych przypadkach do 7 proc. globalnego rocznego obrotu przedsiębiorstwa. Aby je zastosować, konieczne jest jednak ustalenie naruszenia i przeprowadzenie właściwej procedury. Duże liczby robią wrażenie, ale o praktycznej skuteczności regulacji zdecyduje przede wszystkim możliwość udowodnienia niezgodnego działania.

W debacie pojawia się również pomysł nowej daniny cyfrowej od dużych firm, rozważany w kontekście przyszłego budżetu Unii na lata 2028–2034. To jednak odrębny temat: polityka podatkowa i budżetowa nie jest tym samym co wymogi bezpieczeństwa AI. Łączenie ich w jedną decyzję mogłoby wprowadzać czytelników w błąd.

Kontrolowanie systemów AI jest trudniejsze niż sprawdzanie tradycyjnego produktu. Zachowanie modelu zależy od danych, aktualizacji, sposobu użycia i interakcji z innymi narzędziami. Z tego powodu oceny bezpieczeństwa wymagają powtarzania, udziału niezależnych ekspertów oraz dokumentowania błędów wykrywanych po wdrożeniu.

Dla użytkowników najważniejsze będzie, czy wymagania przełożą się na przejrzystość, szybsze zgłaszanie incydentów i możliwość dochodzenia praw. Firmy potrzebują z kolei przewidywalnych reguł, aby inwestować bez ryzyka nagłej zmiany interpretacji przepisów. Ostateczny bilans działań Brukseli poznamy z konkretnych kontroli, a nie samych zapewnień o gotowości. Dla polskich przedsiębiorstw korzystających z zagranicznych dostawców modeli szczególnie istotna stanie się dokumentacja ryzyka, rozdzielenie obowiązków podmiotu wdrażającego i producenta oraz możliwość uzyskania jasnych informacji o ograniczeniach systemu. Sama zgodność formalna nie usuwa wszystkich pomyłek algorytmów; ważna pozostaje odpowiedzialność człowieka za decyzje podejmowane z ich wykorzystaniem.