Banki pod lupą za AI. Ryzyko wykracza poza cyberataki

Regulatorzy finansowi zaczynają traktować sztuczną inteligencję nie tylko jako narzędzie zwiększające efektywność banków, lecz także jako możliwe źródło kryzysu operacyjnego. Reuters informuje o rosnącej presji nadzorczej w USA i Europie. Najbardziej niepokojący scenariusz dotyczy sytuacji, w której autonomiczne systemy działają szybko, na ogromną skalę, a ludzie tracą możliwość skutecznego zatrzymania błędnych decyzji.

Bankowość od dekad automatyzuje ocenę ryzyka, wykrywanie nadużyć i rozliczanie transakcji. Nowa fala AI różni się jednak od starszych modeli zakresem działania. System agentowy może otrzymać cel, korzystać z wielu narzędzi, pobierać informacje i wykonywać zadania bez każdorazowej zgody człowieka. W kontrolowanym środowisku oznacza to wzrost wydajności. W skali banku pojawia się jednak pytanie, kto odpowiada za sekwencję działań, jeśli algorytm popełni błąd lub zostanie zmanipulowany danymi z zewnątrz. Samo przekonanie dostawcy, że model jest bezpieczny, nie wystarcza jako dowód.

Według Reutersa amerykańskie instytucje nadzorcze interesują się wykorzystaniem systemów agentowych, technologiami rozwijanymi za granicą oraz procedurami wyłączania niebezpiecznych rozwiązań. W Europie podobne pytania dotyczą odporności na cyberataki i zdolności do odtworzenia podstawowych funkcji banku. To zmiana akcentu: coraz mniej chodzi o to, czy AI oszczędza czas i pieniądze, a coraz bardziej o to, co bank zrobi w dniu, w którym nowy system przestanie działać zgodnie z przewidywaniami.

Najłatwiej wyobrazić sobie pomyłkę w komunikacie do klienta lub niewłaściwe zakwalifikowanie pojedynczej płatności. Niebezpieczeństwo rośnie, gdy podobne błędy mogą równocześnie dotknąć tysiące rachunków. Model podejmujący decyzje w oparciu o niepełne dane może nieprawidłowo ocenić przepływy pieniężne, wysłać fałszywy sygnał o zagrożeniu lub przeciwnie — przeoczyć realne nadużycie. Jeśli wiele instytucji korzysta z podobnych technologii i dostawców, lokalna awaria może nabrać charakteru szerszego zaburzenia operacyjnego. Nie musi to być jeszcze kryzys płynności, aby mocno uderzyć w zaufanie.

Szczególnym problemem jest złożoność współczesnych systemów finansowych. Bank zwykle nie działa na jednej bazie danych, lecz na sieci aplikacji, z których część powstała wiele lat temu. Nowy model AI może być podłączony do narzędzi analizujących dokumenty, systemów kontroli transakcji lub zewnętrznych usług chmurowych. Każde dodatkowe połączenie zwiększa liczbę punktów potencjalnej awarii. Ryzyko nie dotyczy tylko jakości samego modelu; powstaje też w komunikacji między systemami i w tym, jak szybko człowiek potrafi rozpoznać problem.

Procedura awaryjnego zatrzymania systemu powinna wydawać się oczywista. W praktyce bank musi jednak wiedzieć, co dokładnie zostanie wyłączone i jakie operacje mogą być kontynuowane. Algorytm uczestniczący w identyfikowaniu oszustw nie jest tym samym co silnik wspomagający decyzje kredytowe czy automatyzacja obsługi klientów. Zatrzymanie każdego z nich ma inne skutki. Jeśli automatyzacja została wdrożona bez odpowiednich alternatywnych procesów, nawet technicznie poprawne wyłączenie oprogramowania może sparaliżować pracę zespołu.

Nadzór słusznie zaczyna więc wymagać nie tylko dokumentacji modelu, ale również testów odporności i planów ciągłości działania. Bank powinien potrafić wskazać, jakie dane wykorzystuje algorytm, kto zatwierdza zmianę jego konfiguracji, w jakim czasie można cofnąć błędną decyzję i jak odtworzyć stan sprzed incydentu. Te pytania mają znaczenie nawet wtedy, gdy technologia działa poprawnie przez wiele miesięcy. Duże ryzyko operacyjne ujawnia się często dopiero w nietypowych, trudnych do wcześniejszego przewidzenia warunkach.

Banki konkurują ze sobą na rynku usług, ale mogą jednocześnie korzystać z tych samych platform chmurowych, modeli podstawowych i narzędzi bezpieczeństwa. Z punktu widzenia pojedynczej instytucji zewnętrzny dostawca może być najlepszym wyborem kosztowym. W wymiarze systemowym koncentracja tworzy jednak wspólną zależność. Awaria dużej platformy, nieudana aktualizacja lub naruszenie mechanizmu uwierzytelniania mogłyby uderzyć w wiele instytucji jednocześnie. Dlatego pytanie o niezależną możliwość odtworzenia usług staje się coraz ważniejsze.

Reuters wskazuje, że europejscy regulatorzy interesują się również zdolnością odzyskania działania w sytuacjach skrajnych, w tym przez rozwiązania niesprowadzające wszystkiego do jednej warstwy informatycznej. Nie oznacza to nakazu rezygnacji z nowoczesnych technologii. Chodzi o zachowanie alternatywnych ścieżek funkcjonowania i ograniczenie ryzyka, że ten sam problem jednocześnie zablokuje kilka kluczowych usług: przelewy, obsługę kart, ocenę ryzyka czy dostęp klientów do ich pieniędzy.

Dla klientów skutki mogą pojawiać się stopniowo. Banki będą zapewne dokładniej dokumentować decyzje wspierane przez AI, wzmacniać kontrolę jakości odpowiedzi automatycznych doradców i precyzować granice użycia danych. Część procesów może przez to trwać dłużej niż obiecywano w najbardziej optymistycznych prezentacjach automatyzacji. Nie jest to jednak wyłącznie koszt biurokratyczny: czas przeznaczony na kontrolę może zmniejszyć prawdopodobieństwo awarii, która unieruchomiłaby usługi na znacznie dłużej.

Polska stoi przed podobnym dylematem jak inne rynki. Krajowe banki mają duże doświadczenie w płatnościach elektronicznych i cyfrowej obsłudze klientów, ale ich przewaga konkurencyjna nie znosi konieczności nadzoru nad modelami i dostawcami. Firmy powinny rozdzielać rozwiązania wspomagające pracownika od systemów mogących podejmować samodzielne decyzje o skutkach finansowych. Im większa autonomia, tym silniejsza potrzeba audytu, testów i przejrzystej odpowiedzialności.

Regulacja nie powinna automatycznie blokować użytecznych narzędzi. AI może pomagać w szybszym wykrywaniu oszustw, poprawiać analizę dokumentów i odciążać pracowników od rutyny. Warunkiem pozostaje jednak możliwość zweryfikowania jej pracy i odzyskania kontroli w razie błędu. Największą porażką byłaby sytuacja, w której bank wdroży technologię tak głęboko, że nie będzie już w stanie działać bez niej, a równocześnie nie będzie potrafił wyjaśnić jej decyzji. Właśnie takie ryzyka nowa fala zainteresowania nadzorców ma ograniczać.

Długoterminowo wygrają te instytucje, które potraktują bezpieczeństwo nie jako koszt do odłożenia, lecz jako część produktu. Klient nie musi wiedzieć, jaki model działa w tle jego aplikacji, ale powinien móc liczyć, że bank ochroni jego środki i utrzyma dostęp do podstawowych usług także podczas awarii. Wyścig na kolejne funkcje AI będzie więc współistniał z mniej widowiskowym wyścigiem na odporność infrastruktury. To właśnie ten drugi może zdecydować, czy technologia wzmocni sektor finansowy, czy stanie się nowym kanałem rozprzestrzeniania kryzysów.