Od dostępności i kreatywności po oszustwa finansowe i kradzież tożsamości – różnica nie leży w technologii, lecz w intencji. Żyjemy w cyfrowym świecie, który nigdy nie zasypia. W ciągu zaledwie kilku lat nasze nawyki zmieniły się – od czatów grupowych i udostępniania zdjęć przeszliśmy do nieustannego strumienia treści wideo. Krótkie klipy, kanały społecznościowe i platformy streamingowe łączą się obecnie w jedno, ciągłe doświadczenie oglądania online.
Jednocześnie treści generowane przez sztuczną inteligencję, znane jako deepfake’i, po cichu przeszły od roli widowiska do roli infrastruktury. To, co kiedyś wydawało się nowinką lub czymś zarezerwowanym dla klipów, które stają się hitami internetowymi, i oczywistych mistyfikacji, jest obecnie częścią codziennej produkcji wideo. Dzisiejsze deepfake’i są często subtelne, zaprojektowane tak, by płynnie wtapiać się w filmy, które ludzie już oglądają, co utrudnia odróżnienie tego, co jest prawdziwe, od tego, co fałszywe. Ta płynność i znak zapytania dotyczący autentyczności mają znaczenie, ponieważ treści wideo stały się domyślnym sposobem, w jaki ludzie się uczą, relaksują i podejmują decyzje. W sierpniu 2025 roku YouTube stanowił 13,4 procent całego czasu spędzonego przed telewizorem w Stanach Zjednoczonych. W Wielkiej Brytanii organy regulacyjne podają, że 41 procent oglądania YouTube odbywa się już na telewizorach. Na całym świecie streaming nadal zwiększa swój udział w domowym korzystaniu z telewizji, wprowadzając algorytmy „co obejrzeć dalej”, sugerowane filmy, kolejki automatycznego odtwarzania i reklamy ukierunkowane bezpośrednio do salonów.
W czym więc tkwi problem? Ludzie instynktownie ufają temu, co widzą i słyszą. I choć deepfake’i nie są z natury złośliwe, filmy i nagrania audio generowane przez sztuczną inteligencję potrafią przekonująco naśladować prawdziwych ludzi, sprawiając, że fałszywe informacje wydają się autentyczne i emocjonalnie przekonujące. Zacierają one granice między rzeczywistością a fikcją, a także otwierają nowe możliwości dla oszustw – realizowanych szybciej i z większym oddziaływaniem niż kiedykolwiek wcześniej.
Jak oszustwa oparte na deepfake’ach ukrywają się na widoku
Narzędzia, z których korzystają twórcy oparte na sztucznej inteligencji do klonowania głosu, syntetycznej narracji, automatycznej edycji i kompozycji wizualnej, są obecnie standardowymi funkcjami wielu popularnych platform i procesów produkcyjnych.
Najnowsze globalne badanie firmy Adobe wykazało, że 86 procent twórców wykorzystuje generatywną sztuczną inteligencję na którymś etapie swojego procesu twórczego. Analitycy spodziewają się, że coraz większa część wychodzących komunikatów marketingowych będzie generowana syntetycznie, co umożliwi perswazję na dużą skalę, dostarczaną szybciej i przy mniejszej liczbie ludzkich wąskich gardeł.
W praktyce sprawia to, że deepfake’i są trudniejsze do wykrycia. Film może wyglądać zwyczajnie, podczas gdy dźwięk został sklonowany. Znajomy głos może być połączony z materiałem archiwalnym. Zmontowany fragment wywiadu może czerpać wiarygodność od prawdziwej osoby, nie pokazując nigdy jej twarzy. Większość tych technik nie jest z natury szkodliwa, ale przestępcy nauczyli się wykorzystywać je w złych zamiarach, łącząc je z narracjami oszukańczymi, które wydają się osobiste i wiarygodne. Przestępcy nie potrzebują miliona wyświetleń. Potrzebują odpowiedniego odbiorcy w odpowiednim momencie.
Jak chronimy ludzi przed oszustwami z wykorzystaniem deepfake’ów
W drugiej połowie 2025 roku firma Norton wprowadziła proaktywne wykrywanie na urządzeniu złośliwego dźwięku generowanego przez sztuczną inteligencję w treściach wideo na platformach takich jak YouTube, Facebook, Instagram, X, TikTok, Vimeo, Twitch i DailyMotion. Zaczęliśmy od udostępnienia tej funkcji na komputerach PC z AI we współpracy z producentami chipów, takimi jak Intel i Qualcomm, gdzie przetwarzanie na urządzeniu umożliwia analizę dźwięku bez wysyłania wrażliwych danych do chmury. Od tego czasu funkcja ta została rozszerzona również na tradycyjne komputery PC z wyższej półki, dzięki czemu ta wczesna ochrona stała się dostępna dla szerszego grona odbiorców.
Jednocześnie udostępniliśmy wstępną wersję opartego na chmurze systemu wykrywania manipulacji wideo i rozpoczęliśmy gromadzenie danych telemetrycznych, aby z czasem poprawić dokładność i zasięg wykrywania. Dzisiaj, podczas targów Consumer Electronics Show (CES) w Las Vegas, prezentujemy wczesną zapowiedź kolejnego etapu rozwoju tej ochrony: wykrywanie manipulacji wideo bezpośrednio na urządzeniu dla komputerów PC z AI, we współpracy z firmą Intel.
Wykorzystując procesor Intel Panther Lake oraz nasze nowe, będące w fazie rozwoju narzędzie do analizy obrazu, jesteśmy teraz w stanie skanować materiały wideo i wykrywać złośliwe deepfake’i znanych osób publicznych, wykorzystywane przez przestępców w kampaniach oszustw.
Można to zrobić bezpośrednio na urządzeniu, co zapewnia szybszą i bardziej prywatną ochronę – to nowy standard w branży. Z czasem nasza technologia ma zostać rozszerzona, aby wykrywać nie tylko celebrytów i znane osoby – pomoże ona również chronić przed bardziej niszczycielskimi oszustwami, takimi jak podszywanie się pod członków rodziny.
Co pokazują wstępne dane
Na chwilę obecną wyróżniają się dwa wzorce. Największy udział w zablokowanych w Internecie filmach oszukańczych wykorzystujących deepfake ma serwis YouTube, a następnie Facebook i X. Ponadto ryzyko jest większe w przypadku dłuższych sesji oglądania niż krótkich klipów. Odpowiada to dzisiejszym zwyczajom konsumpcji treści wideo, zwłaszcza na telewizorach i komputerach, gdzie dłuższy czas oglądania daje oszustom więcej okazji do przekonywania odbiorców, a także odzwierciedla dominującą pozycję serwisu YouTube jako domyślnego miejsca docelowego dla długich filmów oglądanych na podstawie rekomendacji.
W ujęciu krajowym największy udział w przechwyconych filmach oszukańczych wykorzystujących technologię deepfake mają Stany Zjednoczone, a następnie Niemcy, Wielka Brytania, Kanada i Australia. Wszystkie pozostałe kraje łącznie stanowią większy udział niż jakikolwiek pojedynczy rynek. Dane te pokazują, gdzie nasze zabezpieczenia przechwyciły oszustwa, a nie gdzie ogólne ryzyko związane z deepfake’ami jest najwyższe. Na wyniki wpływają dostępność funkcji oraz regionalne wzorce użytkowania. W miarę upowszechniania się tej technologii będziemy dodawać wskaźniki ryzyka dla poszczególnych użytkowników, aby zapewnić szerszy kontekst.
Spośród wszystkich danych szczególnie ważny jest jeden szczegół: większość oszustw z wykorzystaniem deepfake’ów została wykryta w czasie rzeczywistym, podczas odtwarzania. Pojawiły się one w ramach normalnego oglądania, a nie jako pliki do pobrania, załączniki czy linki wysyłane osobno. Oznacza to, że oszukańcze deepfake’i ukrywają się na widoku, wplecione w normalne korzystanie z treści wideo. Wydają się rutynowe i znajome, nie zakłócają odbioru i służą jako mechanizm dostarczania treści w ramach szerszej próby kradzieży pieniędzy.
Nasza ochrona przed deepfake’ami została stworzona, by powstrzymać te oszustwa finansowe, które powodują największe szkody – ale chroni ona również przed innymi rodzajami oszustw, grupując je w szerszą kategorię oszustw. Większość zablokowanych filmów należała do tej grupy, a tuż za nią plasowały się oszustwa finansowe i związane z kryptowalutami.
Deepfake’i są neutralne. Intencja już nie.
W sieci jest znacznie więcej filmów generowanych przez sztuczną inteligencję i tworzonych przy pomocy deepfake’ów niż treści będących jawnymi oszustwami. Techniki deepfake są obecnie szeroko stosowane do legalnych celów, w tym w zakresie dostępności, lokalizacji, wydajności edycji i twórczej ekspresji.
Sama obecność deepfake’ów nie stanowi ryzyka. Ryzyko pojawia się, gdy możliwości deepfake’ów łączą się z konkretnym zamiarem: pilnymi prośbami o pieniądze, obietnicami gwarantowanych zysków, presją na szybkie działanie lub instrukcjami, by przenieść rozmowy lub płatności poza platformę.
Nasza telemetria skupia się właśnie na tym nakładaniu się: na materiałach wspomaganych przez deepfake’i, które jednocześnie stanowią oszustwo.
Większość wykrytych przypadków mieści się w szerokiej kategorii zmanipulowanych mediów – często są to klipy oparte na głosie, zaprojektowane tak, by brzmieć autorytatywnie, znajomo lub uspokajająco. W mniejszym, wyraźnie oznaczonym zbiorze dominującymi tematami pozostają finanse, inwestycje i kryptowaluty.
W miarę jak deepfake’i stają się normą w produkcji medialnej, właściwym sposobem oceny ryzyka jest analiza zachowania i skutków, a nie to, czy wykorzystano sztuczną inteligencję lub narzędzia deepfake.
Co sugerują sygnały
Wyraźnie wyłania się kilka motywów.
Po pierwsze, oszuści podążają za zainteresowaniem. Oszustwa z wykorzystaniem deepfake’ów pojawiają się wszędzie tam, gdzie ludzie spędzają czas na oglądaniu filmów. Jeśli potrafią wtopić się w zwykłe playlisty na głównych platformach, nie potrzebują masowego zasięgu. Wiarygodność ma większe znaczenie niż skala.
Po drugie, finanse pozostają główną przynętą. Dominują porady inwestycyjne, schematy handlowe i konkursy z nagrodami. Odzwierciedla to szersze trendy w reklamie cyfrowej, gdzie ukierunkowane przez sztuczną inteligencję wezwania do działania coraz częściej pojawiają się w serwisach społecznościowych i telewizji internetowej.
Po trzecie, deepfake’i zyskują na popularności, ponieważ korzystanie ze sztucznej inteligencji jest powszechne. Przy tak wysokim stopniu adopcji tych narzędzi przez twórców grupy przestępcze w naturalny sposób korzystają z tych samych rozwiązań. Różnica polega na intencji, a nasze wykrywanie skupia się wyłącznie na oszustwach opartych na deepfake’ach.
Co ludzie mogą zrobić już teraz
Nie ufaj samemu filmowi. Jeśli pojawia się prośba o przelanie pieniędzy lub podanie poufnych informacji, zatrzymaj się i zweryfikuj to za pomocą oficjalnej strony internetowej lub kanału kontaktowego, który sam znajdziesz.
Ignoruj naciski na pilność i wyłączność. Oferty ograniczone czasowo, odliczania i sformułowania typu „tylko dla subskrybentów” to typowe taktyki oszustw z wykorzystaniem deepfake’ów.
Słuchaj uważnie dźwięku. Wiele oszustw z wykorzystaniem deepfake’ów opiera się na sklonowanych głosach. Zwracaj uwagę na nienaturalne tempo, brakujące pauzy lub niedopasowane tło dźwiękowe.
Zgłoś oszustwo i nie przejmuj się tym dalej. Zgłaszanie pomaga platformom szybciej obniżyć ranking treści oszukańczych opartych na deepfake’ach i chroni innych. Oszustwa rozprzestrzeniają się, gdy ludzie je udostępniają, dlatego zgłaszanie ma znaczenie.
Jak ważną rolę odgrywa obecnie zaawansowana technologia
Jednocześnie technologie obronne rozwijają się równie szybko. W firmie Gen wykorzystujemy i udoskonalamy sztuczną inteligencję (AI), aby przeciwdziałać oszustwom opartym na AI poprzez ochronę przed deepfake wbudowaną w nasze produkty Norton i Avast, w tym rozwiązania analizujące zarówno sygnały dźwiękowe, jak i wizualne pod kątem oznak manipulacji. Obejmuje to wykrywanie syntetycznych głosów oraz identyfikowanie subtelnych niespójności wizualnych wskazujących na cyfrową modyfikację. Wstępna weryfikacja koncepcji na targach CES stanowi pierwszy krok w kierunku zastosowania naszej technologii do wykrywania znanych osób publicznych, gdzie zweryfikowane dane referencyjne sprawiają, że wykrywanie jest bardziej niezawodne.
Gdy wykryty zostanie podejrzany o oszustwo deepfake, nasze produkty nie ograniczają się jedynie do jego oznaczenia. Zapewniają one wskazówki kontekstowe, pomagając użytkownikom zrozumieć, co widzą i jakie kroki należy podjąć dalej. Celem nie jest oznaczanie każdego filmu zmodyfikowanego przez sztuczną inteligencję jako niebezpiecznego, ale skupienie się na intencjach i szkodliwości oraz interweniowanie, gdy zmanipulowane media są wykorzystywane do oszukiwania, wywierania presji lub popełniania oszustw. Ponieważ deepfake’i coraz bardziej płynnie wtapiają się w codzienny obieg treści, tego rodzaju zabezpieczenia pomagają przywrócić równowagę, zwracając uwagę na momenty, w których zaufanie najłatwiej poddać się manipulacji.
Deepfake’i działają, ponieważ dostosowują to, co słyszymy, do tego, czego oczekujemy zobaczyć. Dźwięk niesie ze sobą ciepło, autorytet lub poczucie pilności, ale to obraz często stanowi ostateczny dowód. Znajoma twarz lub wizerunek zaufanej marki mogą w ciągu kilku sekund rozwiać wątpliwości, nawet jeśli sama treść komunikatu nie ma większego sensu. Przedstawiane jako wywiady lub poradniki, oszustwa te wydają się pomocne, a nie szkodliwe. Dlatego wykrywanie manipulacji wizualnej staje się równie ważne jak analiza syntetycznego dźwięku, zwłaszcza że kampanie oszukańcze coraz częściej opierają się na rozpoznawalnych twarzach, aby zyskać natychmiastową wiarygodność. Właśnie dlatego niemal wszystkie wykryte przez nas przypadki mają miejsce podczas odtwarzania, a nie w wyniku ręcznych kontroli. Ochrona musi działać tam, gdzie skupia się uwaga.
Deepfake’i są obecnie częścią współczesnej produkcji medialnej i to się nie zmieni. Pytanie nie brzmi, czy wykorzystywana jest technologia deepfake, ale czy służy ona do przeprowadzenia oszukańczego działania.
Jest to nasze pierwsze oparte na danych zestawienie filmów oszukańczych wykorzystujących deepfake’i, obejmujące różne platformy i kraje. Wyznacza ona punkt odniesienia i przenosi dyskusję z poziomu anegdot na poziom rozpoznawalnych wzorców. W miarę wzrostu popularności tej technologii będziemy nadal wskazywać, gdzie ludzie faktycznie napotykają oszustwa z wykorzystaniem deepfake’ów i jakie przynęty kosztują ich prawdziwe pieniądze.
Źródło zdjęć: depositphotos.com
Materiał przygotowany przez CORE - Norton, Avast i AVG w Polsce