Czym jest deepfake, dlaczego jest niebezpieczny i jak go rozpoznać?

Widzieliście jak królowa Elżbieta tańczy na stole w trakcie wygłaszania orędzia noworocznego? A może słuchaliście przemówienia Kim Dzong Una o demokracji lub podziwialiście Salvadora Dali opowiadającego o swojej śmierci (w którą nie wierzy)?

Te wszystkie zaskakujące filmy łączy jedno – są fałszywe. Deepfake jest zjawiskiem polegającym na tworzeniu i publikowaniu fałszywych informacji w formie filmów, nagrań audio i zdjęć. Coraz łatwiej się spotkać z takimi materiałami, dlatego przygotowaliśmy dla was poradnik dotyczący tworzenia, rozpoznawania i znajdywania filmów deepfake w Internecie.

Czym są fałszywe materiały deepfake

Deepfake – co to jest?

Deepfake to – najkrócej mówiąc – zdjęcie, materiał filmowy lub audio, który nie jest prawdziwy. Jest tworzony przez algorytmy na podstawie prawdziwych próbek głosu, dźwięku, filmów lub zdjęć, które są ze sobą łączone. Z wielu różnych miejsc algorytm pobiera wybrane informacje, by później połączyć je w jeden materiał. W efekcie powstaje coś nowego (fałszywego), co bazuje na zestawieniu różnych realnych danych.

Lecz nie tylko. Deepfake potrafi również „narysować” zdjęcie od zera, tworząc np. postacie i twarze ludzi, którzy nigdy nie istnieli.

Jaki jest cel takiego działania? Deepfake wykorzystuje się m.in. do wprowadzania błędnych informacji do Internetu (np. dotyczących wydarzeń politycznych), kradzieży hakerskich (m.in. podrabianie poleceń głosowych) oraz tworzenia pornografii (filmy z celebrytami – porn deepfake). Może być również używane do celów edukacyjnych i rozrywkowych.

Deepfake – jak to działa?

Są dwie metody tworzenia materiałów deepfake.

Pierwsza wykorzystuje dwa algorytmy. Pierwszy (enkoder) wyszukuje wspólne cechy dwóch obrazów (tych które mają zostać połączone w jeden), by potem drugi (dekoder) mógł przenieść je na nowy, fałszywy obraz. Przykładowo, jeżeli chcemy by aktor poruszał się tak jak my, enkoder nauczy się ruchu z filmu na którym tańczymy, a dekoder zamieni naszą twarz na twarz aktora i sprawi, że będzie ona się reagowała w ten sam sposób. Kluczem są tutaj wybrane cechy, które są kopiowane na nowy obraz (np. ruch ust, gesty, mimika).

Drugim sposobem są sieci Generative Adversarial Network (GAN), gdzie dwa algorytmy współpracują ze sobą. Pierwszy nazywany jest generatorem, bo korzystając z ogólnych informacji tworzy obrazy (np. obraz człowieka) określając kolejne jego cechy wyróżniające (człowiek ma ciało. Człowiek ma twarz. Człowiek ma oczy). Drugi algorytm to dyskryminator, który ocenia, czy dostarczone mu przez generator obrazy są prawdziwe czy nie.

W miarę upływu czasu oba algorytmy stają się coraz doskonalsze, ucząc się na kolejnych próbach, co nazywa się trenowaniem. Jeżeli generator zostanie wytrenowany tak, że dyskryminator nie rozpozna fałszywego zdjęcia (uzna je za prawdziwe), to proces można uznać za zakończony.

Zagrożenie deepfake – od kiedy istnieje?

Po raz pierwszy tego typu fałszywe informacje pojawiły się w 2017 roku. Wówczas użytkownik podpisujący się pseudonimem deepfake upublicznił na portalu Reddit kilka filmów pornograficznych, w których brali udział celebryci, m.in. Scarlett Johansson, Gal Gadot i Taylor Swift. Od tego czasu ta dziedzina mocno się rozwija, bo filmy deepfake może zrobić właściwie każdy.

Jak zrobić deepfake?

Jeżeli filmy deepfake może zrobić każdy, to czy można je również zrobić w domu? Zdecydowanie tak, ale ich jakość nie będzie idealna. Do ich stworzenia potrzebne są duże zasoby obliczeniowe i mocne karty graficzne.

To, co zazwyczaj mamy w domowych komputerach nie wystarczy, a sam proces tworzenia może potrwać nawet tygodniami. Jakość filmów też będzie pozostawiała wiele do życzenia – widoczne będą błędy, ruch ust może się nie zgadzać z dźwiękiem, a miejsca w których „stara” treść nakłada się z „nową” będą widoczne.

Jednak jeśli chcemy trochę „podrasować” zdjęcie lub nakręcić krótki film deepfake, program można ściągnąć bezpośrednio na smartfona. Bardzo prosta w obsłudze aplikacja w kilka chwil poprawi mankamenty urody, zamieni nas w wybranego celebrytę lub pozwoli przemówić naszemu psu ludzkim głosem.

Jak rozpoznać deepfake?

Filmy deepfake zrobione w sposób profesjonalny coraz trudniej rozpoznać. Początkowo algorytmy miały problem z podstawowymi zachowaniami (takimi jak np. mruganie oczami) i dzięki temu od razu było widoczne, kiedy film jest podróbką. Obecnie ten błąd został już naprawiony. Fałszywe postacie mrugają, ruszają się naturalnie, a także płynnie mówią. Czasami jednak mają problem z naturalnym ruchem oczu.

Zatem jak wykryć deepfake? Oto kilka rzeczy na które warto zwrócić uwagę oglądając materiał wideo:

1. Czy dźwięk jest zgodny z ruchem ust. Czasami nie udaje się dokładnie dopasować tych dwóch rzeczy i osoba na filmie porusza ustami zbyt późno w stosunku do dźwięku lub nie artykułuje słów w sposób prawidłowy.
2. Wszelkiego rodzaju zjawiska, które wydają się nienaturalne. Mowa tu m.in. o ułożeniu całego ciała lub głowy w stosunku do ciała, niewłaściwych refleksach świetlnych na przedmiotach, błędnym odbiciu światła w biżuterii itp. Wskazówką, że film jest sfałszowany może być również nienaturalny kolor skóry.
3. Jakość audio i wideo. Rozbieżność między tymi dwiema ścieżkami jest wskazówką pomagającą wykryć deepfake. Zazwyczaj to ścieżka audio ma gorszą jakość.
4. Nieprawidłowości między obrazami. Najczęściej pojawiają się na łączeniu ciała i głowy. Kiedy „dokleja się” głowę celebryty do innego filmu w okolicy szyi może się pojawić rozmycie. Inny rodzaj to przeskakujące klatki (brak ciągłości) i błędy ujęcia (inny kąt padania światła, jego rodzaj lub kierunek).
5. Zmiana hashtagu w trakcie trwania wideo – również może wskazywać na film deepfake.

Przy analizowaniu materiałów pod kątem deepfake warto oprzeć się również na własnych odczuciach. Czasami mamy wrażenie że coś „nie gra”. Tak dzieje się m.in. w przypadku, gdy emocje osoby pokazywanej na ekranie nie pokrywają się z tym, co mówi nam jej mimika czy ton głosu. To również jest wskazówka, że film mógł zostać zmanipulowany.

Deepfake po polsku – gdzie można spotkać?

Fałszywe materiały można znaleźć wszędzie tam, gdzie mogą one dotrzeć do szerokiej publiczności, czyli potencjalnych odbiorców deepfake. Wykop, Facebook, Instagram, TikTok i inne serwisy społecznościowe są pełne tego typu materiałów. To nie tylko zaskakujące wideo, ale również „podrasowane” zdjęcia i nagrania audio. Niektóre z profili wyglądających na autentyczne były w całości wypełnione materiałami deepfake!

To nie jedyne miejsca, gdzie można spotkać deepfake. Aplikacja na smartfona, która pozwala na dodawanie wąsów i brody na zdjęciu lub innych efektów specjalnych (np. postarzenie się o kilkadziesiąt lat) jest również oparta na tym mechanizmie. Może się więc okazać, że ostatnie zdjęcie, które dostaliście od znajomych jest nieco „podkolorowane”.

Deepfake – filmy nie tylko pornograficzne

Deepfake może być wykorzystywane na wiele sposobów, zarówno pozytywnych jak i negatywnych.

Filmy deepfake mogą mieć charakter żartobliwy lub rozrywkowy – widzieliście jak królowa Elżbieta tańczy na stole w trakcie orędzia noworocznego? Temu służy też większość przeróbek zdjęć, które robimy programem do deepfake na naszych smartfonach. Ma być zabawnie i wesoło.

Materiały deepfake mogą spełniać również funkcje edukacyjne, „wskrzeszając” nieżyjących już artystów, piosenkarzy czy muzyków. Niektóre muzea (m.in. Muzeum Salvadora Dali na Florydzie) korzystają z tej technologii. Dzięki niej turystów po swoich zbiorach oprowadza sam twórca, z którym można porozmawiać, a nawet zrobić sobie zdjęcie.

Nagrania deepfake można wykorzystywać w generatorach głosu – urządzeniach przeznaczonych dla osób, które straciły możliwość mówienia. Dzięki nim wciąż mogą porozmawiać z nami swoim głosem.

Niestety mamy do czynienia również z negatywnym wykorzystywaniem deepfake. Polityka jest przykładem, gdzie tego typu fałszywe informacje mogą powodować daleko idące, globalne konsekwencje, m.in. dyskredytować osoby publiczne, wpływać na giełdę, gospodarkę czy wyniki wyborów. Dobrze przygotowany film ułatwia też manipulowanie opinią społeczną. Postępujący rozwój technologii sprawi zaś, że pojawi się problem z rozróżnieniem materiałów prawdziwych od fałszywych. Stąd już krok do spadku zaufania społecznego i chaosu informacyjnego.

Filmy deepfake są szeroko rozpowszechnione w branży pornograficznej. Najczęściej zmiany polegają na zastąpieniu twarzy aktorki/aktora porno przez twarze celebrytów lub gwiazd filmowych, oczywiście bez ich zgody.

Koniecznie sprawdź przykłady filmów deepfake

Zagrożenie deepfake – realne dla każdego z nas

Deepfake to nie tylko problem amerykańskich aktorów i polityków. Fałszywe materiały mogą dotyczyć każdego z nas. Spreparowany film na którym dokonujemy przestępstwa lub znajdujemy się w niedwuznacznej sytuacji może stać się elementem szantażu i wymuszenia (albo zapłacisz, albo to ujawnimy). Jeżeli działacie w biznesie, deepfake może posłużyć do zdyskredytowania firmy wśród jej kontrahentów.

Wzrastająca liczba zmanipulowanych materiałów odbije się także na zaufaniu społecznym i wierze w przekazywane informacja. Jak zaufać czemukolwiek, gdy film, będący dowodem w sprawie przed sądem, może być nieprawdziwy, a newsy opisywać nieistniejące wydarzenia?

Walka z deepfake

Zalew fałszywych informacji jest tak duży, że wiele firm związanych z social media zdecydowało się walczyć z deepfake. Facebook i Twitter próbują wykrywać nieprawdziwe filmy i automatycznie je usuwać. Duże korporacje (m.in. Microsoft czy Amazon) inwestują w tworzenie oprogramowania, które w łatwy sposób będzie wykrywało zmanipulowane materiały. Nad rozwiązaniami pracują również naukowcy.

Jednak w sytuacji, gdy do stworzenia fałszywego filmu wystarcza aplikacja na smartfona, walka z deepfake jest walką z wiatrakami. Brakuje również regulacji prawnych, które ustalałby jakie konsekwencje grożą za manipulację informacjami lub wykorzystywanie czyjegoś wizerunku w taki sposób.

Podsumowanie

Deepfake jest coraz popularniejsze i coraz trudniejsze do odróżnienia od prawdy. Wynika to z doskonalącej się technologii, lepiej naśladującej ruch i gesty ludzkie. Programy do deepfake można wykorzystać w dobrym celu, tworząc materiały edukacyjne czy pomagając osobom po operacjach krtani, ale są one także narzędziem hakerów, szantażystów i trolli internetowych.

Dlatego jeżeli znów traficie na jakiś zaskakujący filmik w sieci, najpierw sprawdźcie czy przypadkiem nie został zmanipulowany. Być może to co oglądacie nigdy się nie wydarzyło!

A Ty? Weryfikujesz wszystkie informacje znalezione w sieci?

Daj znać w komentarzu czy też kiedyś dałeś się nabrać na materiały deepfake.

___

Artykuł powstał dzięki CORE – polskiemu dystrybutorowi antywirusów AVAST i AVG. Wykorzystaj najlepszy antywirus Avast Ultimate. Jeden antywirus zapewni ochronę wszystkim Twoim urządzeniom.