Rosyjska dezinformacja rozprzestrzenia się po całym świecie

Dezinformacja w Internecie ma charakter globalny — to podstawowe wyzwanie, aby ją powstrzymać.

Autorzy: Sadia Afroz i Vibhor Sehgal.

24 lutego pojawiła się teoria spiskowa, iż ​​Rosja zaatakowała Ukrainę, aby zniszczyć tajny amerykański program zbrojeniowy. Ta narracja, zapoczątkowana przez obserwatora QAnon na Twitterze, szybko stała się jednym z „oficjalnych” powodów inwazji na Ukrainę. Ambasada Rosji w Sarajewie opublikowała o tym na Facebooku. Od tego czasu sieci medialne w innych krajach – w tym w Chinach, Indiach i Stanach Zjednoczonych  – zaczęły rozpowszechniać teorię spiskową Biolabs z zasięgiem milionów internautów. Wraz z napływem dezinformacji z Rosji, UE zablokowała strony internetowe wspierane przez rosyjski rząd.

Firmy mediów społecznościowych, w tym YouTube, Facebook, Instagram i Twitter, zablokowały rosyjskie konta dezinformacyjne, zakazały reklam w rosyjskich mediach państwowych i zaczęły oznaczać posty powiązane z rosyjskimi mediami. Jednak ta teoria spiskowa, wraz z wieloma innymi, wciąż jest popularna w wielu skrajnie prawicowych mediach i sieciach społecznościowych w USA.

Incydent ten pokazuje fundamentalny problem powstrzymania dezinformacji w Internecie: dezinformacja ma charakter globalny. Rosyjska dezinformacja niekoniecznie pochodzi z Rosji. Dezinformacja, która zaczyna się jako niewinne zapytanie, żyje własnym życiem, gdy się rozprzestrzenia i ewoluuje w pełną teorię spiskową. Rozprzestrzeniona dezinformacja może wyprzeć prawdziwe wiadomości.

Zachodnie firmy zablokowały niektóre z tych źródeł dezinformacji, zwłaszcza te pochodzące z krajów zachodnich. Aby skutecznie złagodzić dezinformację, potrzebujemy globalnego wysiłku, aby ograniczyć jej rozprzestrzenianie się.

Czy możemy zmapować rozprzestrzenianie się dezinformacji?

Telegram jako stanowisko testowe

Telegram to bezpłatna usługa wiadomości błyskawicznych dostępna na komputery stacjonarne i urządzenia mobilne. Obecnie Telegram ma 550 milionów aktywnych użytkowników miesięcznie i obsługuje 55,2 miliona aktywnych użytkowników dziennie. Telegram umożliwia wszystkim użytkownikom tworzenie kanałów z nieograniczoną liczbą abonentów, co czyni go potężnym narzędziem komunikacji masowej. Kanały telegramu to źródła treści, w których administratorzy kanału publikują wiadomości dla swoich subskrybentów. Kanał może być prywatny (wymaga zaproszenia) lub publiczny (dołączenie bezpłatne). Telegram nie dostarcza żadnych algorytmicznych kanałów ani ukierunkowanych reklam, co jest atrakcyjne dla wielu użytkowników sfrustrowanych głównymi platformami mediów społecznościowych. Jednak brak moderacji treści sprawił, że Telegram stał się wylęgarnią dezinformacji.

Po rosyjskiej inwazji na Ukrainę Telegram stał się jednym z głównych źródeł informacji o inwazji. Rząd ukraiński przyjął Telegram do komunikacji z obywatelami. W tym samym czasie rosyjscy zwolennicy zaczęli wykorzystywać tę samą platformę do szerzenia swojej propagandy. Dla nas naukowców Telegram stał się idealnym mikrokosmosem do badania dezinformacji.

Kto rozpowszechnia dezinformację?

Aby dowiedzieć się, kto rozpowszechnia dezinformację o rosyjskiej inwazji, skupiliśmy się na przekazywaniu wiadomości na Telegramie. Kanały w Telegramie mogą publikować nowe wiadomości, a także mogą przekazywać wiadomości z innych kanałów. Przekazywanie wiadomości wzmacnia część określonej informacji w Telegramie i może spowodować rozprzestrzenianie się wirusa. Powtarzające się działania związane z przekazywaniem wiadomości między kanałami mogą ujawnić istotne połączenia.

Podejrzewamy również, że użytkownicy znajdują podobne kanały, śledząc przekazane wiadomości. Relacja polegająca na przekazywaniu wiadomości może pomóc oznaczyć działania nieznanego kanału: jeśli kanał zawsze przekazuje wiadomości ze znanych kanałów dezinformacji, jest bardzo prawdopodobne, że tym samym rozprzestrzenia dezinformację.

Aby stworzyć sieć rosyjskich rozsiewaczy dezinformacji, zaczynamy od jednego znanego, kontrolowanego przez rosyjski rząd kanału na Telegramie: Donbass-Insider, a następnie automatycznie indeksujemy wszystkie kanały publiczne, z których Donbass-Insider przekazywał wiadomości. Przeszukiwaliśmy Telegram dwukrotnie w dwóch różnych momentach: raz na początku marca i ponownie pod koniec kwietnia, aby zrozumieć ewolucję społeczności dezinformacyjnych na przestrzeni czasu.

Rysunek 1: Mapowanie kanałów Telegrama. Każda kropka reprezentuje kanał, a połączenie między dwoma kanałami wskazuje, że co najmniej 20 wiadomości z jednego kanału zostało przekazanych do drugiego kanału. Kanały są pogrupowane w społeczności na podstawie rozpowszechnienia wśród nich przekazywania wiadomości. Dwa wykresy przedstawiają relacje między kanałami w marcu (na górze) i kwietniu (na dole). W miarę upływu czasu rosyjskie i amerykańskie skrajnie prawicowe grupy stają się głównymi rozprzestrzeniającymi rosyjską dezinformację.

Sieć kanałów wykazuje interesującą dynamikę: skrajnie prawicowe grupy z USA i Francji rozpowszechniają rosyjską dezinformację wraz ze znanymi rosyjskimi sojusznikami z Chin.

Skupmy się na różowej gromadzie składającej się głównie ze skrajnie prawicowych grup w USA. Jeden z najbardziej aktywnych kanałów w tym klastrze „TheStormHasArrived**” (prawdziwa nazwa jest zamaskowana), który ma ponad 137 tys. obserwujących. Kanał ten jest powiązany ze spiskiem QAnon, co widać po użyciu najpopularniejszego żargonu QAnon „Burza”. Kanał ten wspiera rosyjską inwazję poprzez rozpowszechnianie dezinformacji związanych z nazistami i Biolabs na Ukrainie, a jednocześnie oskarża prezydenta USA Joe Bidena o finansowanie Biolabs.

Rysunek 2. Post z TheStormHasArrived**

Francuscy teoretycy spiskowi również wykorzystują rosyjską dezinformację do propagowania swojego programu. Jeden ze znanych teoretyków spiskowych, Silvano Trotta, rozpowszechniał dezinformację na temat szczepionki przeciw Covidowi, a teraz zaczął rozpowszechniać narrację, że kryzys humanitarny na Ukrainie spowodowany wojną jest fałszywy (Rysunek 3).

Rysunek 3: Covid i Ukraina – dezinformacja Silvano Trotta

Etykietowanie dezinformacji wymaga ogromnego wysiłku manualnego, co sprawia, że ​​trudno jest ją stłumić, gdy tylko zacznie się rozprzestrzeniać. Jedna obserwacja może pomóc w rozwiązaniu problemu etykietowania: podmioty dzielące się dezinformacją są ze sobą ściśle powiązane. Okazało się to prawdą w przypadku domen dzielących się dezinformacją.

Aby sprawdzić, czy to samo dotyczy Telegrama, przyjrzymy się bliżej mapie różnych typów kanałów. Spójrzmy na przykład na mapę dwóch konkretnych kanałów: znanego kanału proukraińskiego (UkraineNOW) i znanego kanału dezinformacyjnego (Donbass-Insider). UkraineNOW przekazał wiadomości z innych kanałów proukraińskich i rządowych. Donbass-Insider przekazywał wiadomości z innych prorosyjskich kanałów propagandowych, w tym Intelslava (znany kanał dezinformacji) (link 1, link 2, link 3). To zjawisko dotyczy większości kanałów w naszym zbiorze danych.

Rysunek 4: Mapa przekazywania wiadomości UkraineNOW (na górze) i DonbassInsider (na dole). Kółka oznaczają kanały, a krawędź pomiędzy Kanałem A i B oznacza, że ​​kanał A przekazał wiadomość z Kanału B. Kolor kanałów odpowiada rodzajom kanałów (pomarańczowy oznacza kanały proukraińskie, fioletowy oznacza kanały prorosyjskie, a zielony reprezentuje skrajną prawicę USA). Rozmiar kółek reprezentuje liczbę kanałów, które przekazywały wiadomości z kanału. 

Źródła dezinformacji

Skąd pochodzą dezinformacje na Telegramie? Aby odpowiedzieć na to pytanie, przyjrzymy się adresom URL udostępnionym w Telegramie. Zebraliśmy 479 452 unikalnych adresów URL z 5335 kanałów. Około 10% tych adresów URL pochodzi z 258 unikalnych domen dezinformacyjnych zidentyfikowanych przez dwie popularne organizacje weryfikujące fakty Media Bias/Fact Check (MBFC) i EUvsDisinfo. 258 domen stanowi 22% znalezionych domen dezinformacyjnych MBFC i EUvsDisinfo. Spośród 258, 83,72% domen (216) zostało wymienionych na stronie Media Bias/Fact Check jako domeny z fałszywymi wiadomościami, a pozostałe 16,27% (42) zostało oznaczonych na EUvsDisinfo w związku z artykułami dezinformacyjnymi. Wygląda na to, że te domeny są hostowane na całym świecie i są skierowane do osób z krajów z Indii, Chin, Izraela, Syrii, Francji, Wielkiej Brytanii, USA i Kanady. Ta lista zawiera osiem domen .news, które zwykle skupiają się na amerykańskich skrajnie prawicowych spiskach i są ściśle powiązane z innymi domenami .news znanymi z dzielenia się dezinformacją. Znaleźliśmy również wiele innych domen rozpowszechniających dezinformację, mimo że nie zostały one oznaczone przez żadne źródła publiczne jako dezinformacja.

Strategie skutecznej interwencji

Telegram ma miliony użytkowników i kanałów. ~5 000 może wydawać się nieznaczną liczbą, aby zrozumieć przestrzeń, ale już ujawnia kilka spostrzeżeń, które mogą pomóc w zwalczaniu dezinformacji na dużą skalę:

1. Większość rozpowszechniających dezinformację to recydywiści. Grupa osób, które podzieliły się dezinformacją dotyczącą Covid, teraz dzieli się dezinformacją dotyczącą Ukrainy. Firmy zajmujące się mediami społecznościowymi już dostrzegły ten problem i zaczęły podejmować działania mające na celu ograniczenie zasięgu recydywistów. Na przykład Facebook zaczął ograniczać zasięg wielokrotnych przestępców, a WhatsApp ogranicza zasięg przekazywanej wiadomości. Jednak jury wciąż nie jest przekonane o skuteczności tych wdrożeń.
2. Rozsiewacze dezinformacji są ze sobą ściśle powiązane. Używając tylko jednego znanego rozpowszechniacza dezinformacji, mogliśmy prześledzić całą sieć innych sprawców dzielących się podobną dezinformacją.
3. Bliski związek z rozpowszechniającymi (dez)informacje jest dobrym wskaźnikiem wiarygodności podmiotu mediów społecznościowych (indywidualnych użytkowników, grup lub kanałów).

„Homo sapiens to gatunek postprawdy, którego siła zależy od tworzenia i wiary w fikcje”, powiedział Yuval Harari w „21 lekcjach na XXI wiek”. Alternatywne narracje istniały przed wynalezieniem Internetu. W gruncie rzeczy dezinformacja jest po prostu kolejną fikcją. Firmy technologiczne są pod ogromną presją walki z dezinformacją, ale całkowite zablokowanie wszystkich alternatywnych narracji może być niemożliwe, a nawet niepożądane, ponieważ może ograniczać wolność słowa użytkowników.

Czy zatem walka z dezinformacją jest już przegrana? Nie! Rekomendujemy trzy nowe kierunki, na których firmy technologiczne mogą się skupić, aby rozwiązać ten problem:

Podaj kontekst

Badania pokazują, że kiedy użytkownikom pokazuje się werdykt dotyczący wiadomości, chcą wiedzieć, dlaczego. Użytkownicy chcą również wiedzieć, kto podjął decyzję. Kontekst może zmienić znaczenie informacji. Na przykład, wiedząc, gdzie została opublikowana informacja, Onion (popularny serwis satyryczny) lub New York Times mogą zmienić spojrzenie ludzi na ten temat.

W mediach społecznościowych często wierzymy ludziom na podstawie ich pochodzenia, takiego jak tytuły zawodowe i powiązania z różnymi grupami. Odkrycie podstawowych informacji na temat podmiotów online, ich działań i tego, z kim jeszcze są powiązani, może zająć zwykłemu użytkownikowi dużo czasu. W tym miejscu zautomatyzowane podejścia techniczne mogą przyspieszyć proces gromadzenia i syntezy danych. Jednak prawdziwym wyzwaniem jest prezentacja danych w sposób, który przekonuje użytkowników.

We współpracy z Georgia Tech opracowaliśmy sposób wizualizacji połączeń hiperłączy między stronami internetowymi. Nasze badanie użytkowników z udziałem 139 użytkowników wykazało, że połączenie hiperłączowe pomaga większości użytkowników ocenić wiarygodność witryny i zrozumieć, w jaki sposób witryna może być zaangażowana w rozpowszechnianie fałszywych informacji.

Zwolnij rozprzestrzenianie się

Platformy mediów społecznościowych zmagały się z ograniczeniem wirusowej dezinformacji, ponieważ platformy zostały zaprojektowane tak, aby pomóc treściom, które zwiększają zaangażowanie użytkowników, stać się wirusowe. Dezinformacja często zwiększa zaangażowanie użytkowników, a tym samym staje się wirusowa, zanim sprawdzenie faktów nadrobi zaległości. Rzeczywiście, fałszywe informacje rozprzestrzeniają się na Twitterze dalej niż informacje faktyczne. Badania pokazują, że powiadamianie użytkowników o niedokładnych treściach może spowolnić ich rozpowszechnianie. Badania pokazują również, że nawet uświadomienie użytkownikom nieścisłości treści, które widzą, pomaga spowolnić rozprzestrzenianie się. Jednak same etykiety ostrzegawcze mogą nieznacznie zmniejszyć rozprzestrzenianie się, ale nie powstrzymają całkowicie rozprzestrzeniania się dezinformacji, jak zauważyło badanie Facebooka. Na Twitterze twarde interwencje, takie jak bezpośrednie blokowanie treści, były bardziej przydatne do ograniczania rozprzestrzeniania się niż miękkie interwencje (takie jak wyświetlanie etykiet ostrzegawczych).

Konsensus społeczności Crowdsource

Najbardziej palącym problemem dezinformacji jest terminowe etykietowanie. Ręczne etykietowanie nie nadąża za wirusową dezinformacją. Automatyczne etykietowanie może pomóc, ale można je łatwo ominąć, nieznacznie zmieniając zawartość.

Aby nadążyć za dezinformacją, potrzebujemy półautomatycznego podejścia, w którym systemy oparte na uczeniu maszynowym mogą pomóc wybrać potencjalnie szkodliwą dezinformację, która zostanie oznaczona etykietą przez wielu zwykłych użytkowników Internetu. Zautomatyzowane systemy mogą następnie pomóc w syntezie etykiet pochodzących z crowdsourcingu. Aby wdrożyć taki system, należy odpowiedzieć na wiele otwartych pytań badawczych, np. jak przekonać użytkowników do udziału w dokładnym oznaczaniu i jak chronić proces etykietowania przed niechcianymi złośliwymi podmiotami.

Podziel się z nami swoją opinią! Zostaw komentarz!

Artykuł przygotowany na zlecenie partnera CORE - polskiego dystrybutora antywirusów AVAST i AVG. Poznaj AVAST Business Antivirus antywirus dla biznesu. Wysoko oceniany i nagradzany program do pełnej ochrony firmy.

Oceń artykuł

[Głosów: 1 Średnia: 5]