Wystarczy krótka próbka głosu i kilka zdjęć, by stworzyć nagranie, na którym polityk mówi rzeczy, których nigdy nie powiedział. W kampanii wyborczej albo podczas kryzysu bezpieczeństwa taki materiał może zdobyć setki tysięcy wyświetleń, zanim pojawi się oficjalne sprostowanie.
Fałsz może być szybszy niż państwo
Największym problemem deepfake nie jest sama jakość technologii, ale tempo rozpowszechniania. Nagranie może pojawić się późnym wieczorem, podczas ciszy wyborczej albo w chwili napięcia międzynarodowego i przez kilkadziesiąt minut funkcjonować bez wiarygodnej odpowiedzi instytucji.
W polityce to wystarczy, by wywołać panikę, ruch na rynkach, falę agresji w sieci albo przekonanie, że polityk podjął określoną decyzję.
AI Act zwiększa przejrzystość legalnego obiegu treści, ale oszust albo zagraniczna operacja wpływu nie musi respektować unijnych zasad. Dlatego równie ważne są procedury szybkiego potwierdzania autentyczności komunikatów.
Państwo i partie polityczne będą potrzebowały stałych kanałów weryfikacji, a media – zdolności do bardzo szybkiego sprawdzania materiałów audio i wideo.
Źródła
- Ministerstwo Cyfryzacji – AI Act i obowiązki dotyczące deepfake
- UODO – aktualności dotyczące sztucznej inteligencji i bezpieczeństwa danych
Formaty reklamowe wewnątrz artykułu
Reklamy wplecione między akapity najlepiej działają w układzie poziomym lub prostokątnym.
