Kiedy twarz wydaje się znajoma, ale osoba nie jest prawdziwa. Historia deepfake’ów, którą wydaje ci się, że znasz.
Spis treści
- Dlaczego szukaliśmy „VIP-ów” w fałszywych filmach
- VIP-y, którzy nie istnieją
- Od deepfake’ów z celebrytami do farm awatarów
- Zaufanie syntetyczne, nowa inżynieria społeczna
- Zaskakujący zwrot akcji: czasami wideo jest prawdziwe, a tylko dźwięk służy jako broń
- Uwaga na temat zatrudnionych aktorów
- Praktyczne wskazówki: jak chronić się przed filmami oszukańczymi
- Podsumowanie
Kiedy większość ludzi słyszy słowo „deepfake”, wyobraża sobie sfałszowaną twarz.
Ważny niuans: twarz deepfake nie oznacza automatycznie oszustwa, a oszustwo wcale nie wymaga twarzy deepfake. Obrazy mogą być przydatną wskazówką, ale rozpoznawanie syntetycznych mediów staje się coraz bardziej złożone, a uproszczone oceny typu „wygląda na fałszywe” są coraz mniej wiarygodne. Dlatego opieramy się na wielu sygnałach, w tym analizie audio i transkrypcji, aby wnioskować o intencjach i zachowaniu.
Łączenie terminu „deepfake” z oszustwem ma sens – jest to najbardziej widoczna część problemu i stało się kulturowym skrótem oznaczającym oszustwo. Jednak w rzeczywistych kampaniach oszukańczych twarz jest często tylko opakowaniem. Siłą napędową jest zazwyczaj przekaz, w tym scenariusz, wezwanie do działania, presja i obietnica.
Dlatego nasze wykrywanie zaczyna się tam, gdzie tkwi perswazja: w treści, zwłaszcza w dźwięku. Filmy oszukańcze często wykorzystują w kółko te same slogany, takie jak „gwarantowane zyski”, „dostęp ograniczony czasowo”, „zostałeś wybrany”, „działaj, zanim będzie za późno”. Nawet jeśli grafika wygląda na dopracowaną, nawet jeśli materiał filmowy wydaje się znajomy, dźwięk może zdradzić intencje.
Kontynuując badania nad tym, co sprawia, że deepfake jest oszustwem, zaczęliśmy zadawać kolejne pytanie, które zmieniło to, czego szukaliśmy:
Gdy film zostanie już oznaczony jako treść oszukańcza na podstawie naszej analizy dźwięku i treści, jakie twarze wciąż pojawiają się w tych oszukańczych filmach?
Odpowiedź brzmiała nie tylko „znane osoby”.
W rzeczywistości była to grupa nieistniejących VIP-ów.
Dlaczego szukaliśmy „VIP-ów” w fałszywych filmach
W ekosystemach oszustw powtarzalność rzadko jest przypadkowa. Przestępcy optymalizują to, co działa, a następnie skalują to.
Zamiast więc pytać „kim jest ta osoba?”, zapytaliśmy „jak często ta twarz pojawia się w filmach oznaczonych jako oszustwa i gdzie się pojawia?”. Jeśli ten sam prezenter jest wielokrotnie wykorzystywany jako nośnik scenariuszy oszustw, ta powtarzalność staje się sygnałem ponownego wykorzystania, koordynacji i industrializacji.
Aby to zrobić, nasz proof of concept pobiera filmy oznaczone jako oszustwa, wyodrębnia twarze, generuje zwarte deskryptory wizualne, a następnie grupuje je według podobieństwa. Najczęściej występujące tożsamości w tym zestawie oznaczonym jako oszustwo stają się „VIP-ami”, czyli twarzami, które pojawiają się niezwykle często w treściach oszukańczych. Używamy tutaj twarzy jako dodatkowego sygnału do grupowania i przyspieszenia, aby połączyć powiązane filmy oszukańcze i wykryć skalę. Uzupełnia to analizę audio i transkrypcji, nie jest to jednak główny czynnik decydujący o tym, czy film jest oszustwem.
Spodziewaliśmy się typowego wyniku: listy zdominowanej przez znane osoby publiczne, pod które oszuści często się podszywają.
I rzeczywiście, te twarze tam są. Osoby publiczne, takie jak Elon Musk, stały się powracającą przynętą w oszustwach związanych z inwestycjami, konkursach z nagrodami i narracjach o „wyjątkowych okazjach”.
Jednak najważniejszym odkryciem było to, co pojawiło się obok celebrytów będących celem ataków.
VIP-y, którzy nie istnieją
Niektórzy z najczęściej pojawiających się „prezenterów” w filmach oszustw nie są prawdziwymi osobami.
Wyglądają jak zwykli prezenterzy: przyjazny wyraz twarzy, neutralny styl, prezentacja gotowa do kamery. Mówią wyraźnie, emanują pewnością siebie i często pojawiają się dokładnie w takim formacie, któremu ludzie nauczyli się ufać: spokojny komentarz, segment w stylu wiadomości, profesjonalna rekomendacja, swobodna rekomendacja.
Są to jednak awatary AI, syntetyczni prezenterzy stworzeni z myślą o ponownym wykorzystaniu. Żeby było jasne, awatar AI nie oznacza automatycznie oszustwa; to, co sprawia, że ci konkretni prezenterzy są istotni, to fakt, że znaleźliśmy ich wielokrotnie w filmach już oznaczonych jako oszustwa na podstawie przekazu i zachowania.
Ogólnie rzecz biorąc, udowodnienie, że osoba na ekranie jest syntetyczna, może wymagać szczegółowej i kosztownej analizy, obejmującej takie elementy jak spójność synchronizacji ruchu warg, artefakty ruchu oraz inne techniki kryminalistyczne.
Nasze podejście jest inne: identyfikujemy i agregujemy powtarzające się tożsamości awatarów z filmów oznaczonych jako oszustwa, wykorzystując proste deskryptory wizualne i grupowanie podobieństw. Daje nam to szybszy i tańszy sposób rozpoznawania prezenterów-awatarów AI, którzy nie są jeszcze „znani”, ale już często pojawiają się w sieci.
Jesteśmy pewni tej klasyfikacji. Nie są to niejednoznaczne klipy „być może ulepszone”. Są to wyniki działania awatarów AI, a my widzieliśmy również łańcuch dostaw stojący za nimi, w tym usługi tworzenia awatarów otwarcie reklamowane na platformach freelancerskich, takich jak Fiverr.
Ma to znaczenie, ponieważ zmienia model zagrożenia.
Jeśli myślisz o deepfake’ach wyłącznie jako o „kimś podszywającym się pod celebrytę”, przegapisz większą zmianę: oszuści coraz częściej budują wiarygodność, nie podszywając się w ogóle pod nikogo.
Może to brzmieć jak drobna różnica, ale zmienia to motywacje.
- Deepfake z udziałem celebryty wywołuje oczywiste kontrowersje i jest łatwiejszy do zakwestionowania przez platformy i ofiary.
- Syntetyczny prezenter nie jest powiązany z żadną „prawdziwą osobą”, nie ma ofiary, która mogłaby złożyć skargę, ani osoby publicznej, która mogłaby obalić te treści.
- Ten sam syntetyczny prezenter może być wykorzystywany w nieskończoność, w różnych tematach i językach, przy minimalnych kosztach.
Krótko mówiąc, ci „VIP-owie” nie są sławni, ponieważ są rozpoznawalni, są VIP-ami, ponieważ stanowią zasoby operacyjne w produkcji oszustw.
Od deepfake’ów z celebrytami do farm awatarów
Podszywanie się pod celebrytów nadal istnieje i pozostanie atrakcyjne. Reputacja to potężny skrót do zaufania.
Jednak podszywanie się ma swoje wady. Jest to działanie głośne, łatwiejsze do zgłoszenia i bardziej ryzykowne dla oszustów. Może być również kruche – jedno obalenie może zniweczyć całą kampanię.
Syntetyczni prezenterzy zmniejszają to ryzyko. Nie trzeba naśladować konkretnej osoby, wystarczy wyglądać na tyle wiarygodnie, aby ktoś słuchał przez 20 sekund.
Dlatego model mentalny „farm awatarów” jest odpowiedni.
Zamiast tworzyć jednorazowe fałszerstwo, oszuści mogą uruchomić linię produkcyjną:
- Stworzyć lub nabyć syntetycznego prezentera, który wygląda na ogólnie godnego zaufania
- Generować scenariusze na dużą skalę, dostosowane do aktualnych trendów
- Zmieniać nagrania głosowe, napisy i nakładki wizualne
- Publikować, mierzyć zaangażowanie, a następnie publikować ponownie z niewielkimi zmianami
Ta linia produkcyjna jest skalowalna. Została zaprojektowana z myślą o eksperymentowaniu, iteracji i zasięgu.
I to działa, ponieważ większość oszustw nie wymaga kinowego realizmu. Wymagają one rozpędu.
Zaufanie syntetyczne, nowa inżynieria społeczna
Ludzie są zaprogramowani, by traktować twarze i głosy jako dowód społeczny. Pewny siebie prezenter może sprawić, że twierdzenie wydaje się mniej ryzykowne, nawet jeśli jest skandaliczne. Spokojny ton może sprawić, że poczucie pilności wydaje się „rozsądne”. Znajomy format może sprawić, że instrukcje nieznajomego wydają się normalnym kolejnym krokiem.
To jest podstawowa idea stojąca za syntetycznym zaufaniem.
Awatary AI nie starają się być zapadające w pamięć. Starają się być akceptowalne. Są zaprojektowane tak, aby przejść szybką weryfikację intuicyjną: „to wydaje się wiarygodne”, wystarczająco długo, aby skłonić do kliknięcia, pobrania, dokonania płatności lub wysłania wiadomości.
Dla oszustów to ulepszenie. Syntetyczny prezenter nie męczy się. Nie żąda wynagrodzenia. Nie ma moralnych zastrzeżeń. Można go generować w wielu językach, w nieskończonej liczbie wariantów i wdrażać równolegle na różnych platformach.
Na początku lejka marketingowego nadal można spotkać przynęty z udziałem celebrytów. Jednak pod spodem wiele treści oszukańczych przechodzi na sztucznych prezenterów, których łatwiej skalować.
Zaskakujący zwrot akcji: czasami wideo jest prawdziwe, a tylko dźwięk służy jako broń
Istnieje jeszcze jeden powód, dla którego wykrywanie oparte na dźwięku ma znaczenie: nie każde oszukańcze wideo opiera się na fałszywej twarzy.
Czasami przestępcy wykorzystują legalne nagrania, prawdziwy wywiad, prawdziwy tutorial, prawdziwą prezentację produktu i nakładają na nie oszukańczą reklamę. Obrazy mogą być autentyczne. Oszustwo tkwi w narracji, instrukcjach i wezwaniu do działania.
Ta technika daje oszustom dwie korzyści:
- Zmniejsza koszty produkcji, ponieważ mogą oni ponownie wykorzystać istniejące nagrania
- Zmniejsza podejrzliwość, ponieważ obrazy na pierwszy rzut oka wyglądają „normalnie”
Jeśli systemy obronne skupiają się wyłącznie na pytaniu „czy twarz wygląda na fałszywą?”, tego rodzaju przerobione treści mogą się przedostać. Dlatego traktujemy przekaz jako najważniejszy. Następnie, gdy treść zostanie oznaczona jako oszustwo, szukamy powtarzającej się infrastruktury wizualnej, która przenosi te komunikaty, w tym powracających prezenterów-awatarów generowanych przez AI.
Uwaga na temat zatrudnionych aktorów
Nie każdy powracający prezenter w treściach oszukańczych jest syntetyczny. Widzieliśmy również oszustwa, w których wykorzystuje się zatrudnionych aktorów lub zlecone filmy. Czasami jest to człowiek czytający scenariusz, czasami fragment nagrania z udziałem człowieka, który został później przerobiony z innym komentarzem lub nakładkami.
Innymi słowy: trend „farm awatarów” nie zastępuje wszystkich starych technik. Istnieje obok nich.
To również dlatego unikamy uproszczonych zasad typu „ta twarz jest fałszywa, więc to oszustwo”. Liczy się intencja i zachowanie. Twarze pomagają nam szybciej połączyć fakty jako sygnał, nie są one werdyktem.
Praktyczne wskazówki: jak chronić się przed filmami oszukańczymi
Jeśli film nakłania cię do wydania pieniędzy, podania danych logowania, pobrania plików lub pilnej weryfikacji, traktuj prezentera jako część opakowania, a nie dowód.
- Śledź działanie, a nie twarz.
Jeśli film nakłania do pilnego działania, zachowania tajemnicy lub natychmiastowej płatności, zatrzymaj się. Ta presja często jest oszustwem. - Zweryfikuj informacje poza platformą.
Poszukaj informacji na temat danego twierdzenia w niezależnych źródłach, a nie w linkach w opisie lub komentarzach. - Bądź podejrzliwy wobec „zbyt gładkiej” pewności.
Scenariusze oszustw często brzmią pewnie, ogólnikowo i dziwnie bezproblemowo, jakby ryzyko nie istniało. - Zwracaj uwagę na niezgodności.
Jeśli grafika wydaje się niezwiązana z treścią, a dźwięk wygląda na wklejony, potraktuj to jako znak ostrzegawczy. - Unikaj instalacji sugerowanych przez filmy.
„Zainstaluj to, aby zweryfikować”, „pobierz tę przeglądarkę”, „uruchom to polecenie” – to typowe drogi prowadzące do złośliwego oprogramowania i kradzieży danych uwierzytelniających. - Korzystaj z narzędzi ochronnych.
Narzędzia takie jak oparta na sztucznej inteligencji ochrona przed oszustwami firmy Norton oraz Avast Deepfake Guard mogą pomóc w wykryciu tego, co łatwo przeoczyć, w tym fałszywych nagrań audio w filmach oraz sygnałów oszustwa w sieci, SMS-ach i nie tylko.
Podsumowanie
Deepfake’i mogą trafiać na pierwsze strony gazet, ale to tylko część historii. Od podszywania się pod prawdziwe osoby po budowanie zaufania na dużą skalę – twarze, głosy, scenariusze, formaty – wszystko to można generować, ponownie wykorzystywać i optymalizować.
Oznacza to, że prawdziwą umiejętnością nie jest wykrywanie tego, co wygląda na fałszywe, ale rozpoznawanie, jak zachowują się oszuści.
Podążaj za presją. Kwestionuj obietnice. Weryfikuj poza daną chwilą.
Źródło zdjęć: depositphotos.com
Materiał przygotowany przez CORE - Norton, Avast i AVG w Polsce