Dlaczego cyberbezpieczeństwo konsumentów musi stanowić centralny element zbiorowej obrony przed atakami opartymi na sztucznej inteligencji?
W zeszłym tygodniu firma Gen dołączyła do ponad 100 przedsiębiorstw z branży technologicznej, cyberbezpieczeństwa i infrastruktury — w tym Google, Microsoft, OpenAI i Anthropic — wzywając do wzmocnienia zbiorowej cyberobrony, zanim ataki oparte na sztucznej inteligencji staną się znacznie bardziej powszechne i wyrafinowane.
Gen jest dumny, że może być częścią tych działań; wnosimy do nich również wyjątkową perspektywę.
Jako światowy lider w dziedzinie cyberbezpieczeństwa konsumentów firma Gen chroni prawie 500 milionów osób na całym świecie poprzez takie marki jak Norton, Avast, LifeLock i MoneyLion. Widzimy, jak wygląda ryzyko cyberataków nie tylko wewnątrz przedsiębiorstw, ale także w codziennym cyfrowym życiu osób prywatnych i rodzin. Ma to znaczenie, ponieważ wyzwania związane z cyberatakami opartymi na sztucznej inteligencji nie zatrzymają się na granicach przedsiębiorstw.
Te same siły, o których mowa w liście otwartym z zeszłego tygodnia, będą w coraz większym stopniu dotykać konsumentów, a konsumenci dysponują znacznie mniejszymi zasobami, by się bronić.
W liście tym zawarto trzy ważne wezwania do działania: dotychczasowy stan bezpieczeństwa nie wystarczy, obrońcy potrzebują dostępu do potężnej sztucznej inteligencji, a cyberobrona musi stać się wspólnym wysiłkiem.
Zdecydowanie się z tym zgadzamy. Uważamy też, że cyberbezpieczeństwo konsumentów musi stanowić centralny element tej zbiorowej obrony.
Obecny stan rzeczy nie wystarczy również konsumentom
W przeszłości zaawansowane cyberataki wymagały specjalistycznej wiedzy, czasu i pieniędzy. To naturalnie skłaniało atakujących do skupiania się na celach o większej wartości.
Sztuczna inteligencja zmienia ekonomię tych działań. Atakujący mogą w coraz większym stopniu automatyzować poszukiwania, personalizować phishing, generować przekonujące teksty i obrazy, klonować głosy, tłumaczyć oszustwa na różne języki oraz dostosowywać ataki do poszczególnych ofiar przy bardzo niskich kosztach krańcowych.
Zaawansowanie techniczne również staje się powszechne. Oznacza to, że ataki, które kiedyś miały sens ekonomiczny głównie w przypadku przedsiębiorstw lub osób o dużej wartości, mogą w coraz większym stopniu być skierowane przeciwko każdemu. W Gen już obserwujemy, jak atakujący zbliżają się do systemów i relacji, którym ufają konsumenci. Nasze najnowsze badania nad zagrożeniami pokazują, że ataki coraz częściej ukrywają się w platformach rezerwacyjnych, rozmowach na komunikatorach, legalnych kontach, procesach oprogramowania oraz agentach AI działających na podstawie uprawnień przyznanych przez samych użytkowników.
Dla konsumentów cyberbezpieczeństwo musi zatem ewoluować. Powstrzymywanie złośliwego oprogramowania pozostaje kluczowe. Jednak cyberbezpieczeństwo w coraz większym stopniu musi pomagać w udzielaniu odpowiedzi na znacznie bardziej fundamentalne pytania: Czy ta osoba jest prawdziwa? Czy ta wiadomość jest autentyczna? Czy mogę ufać tej stronie internetowej? Czy ten agent AI powinien mieć dostęp do tych informacji? Czy należy zezwolić na tę czynność?
Samo zaufanie staje się częścią strefy bezpieczeństwa.
Potężna defensywna sztuczna inteligencja musi dotrzeć również do konsumentów
W liście otwartym wzywa się do oddania AI o zdolnościach cyberobronnych w ręce obrońców i zdecydowanie popieramy ten cel, ale powinniśmy szeroko zdefiniować pojęcie „obrońcy”.
Obrońcą może być specjalista ds. bezpieczeństwa chroniący szpital, agencję rządową lub centrum danych. Może to być również technologia chroniąca rodzica przed oszustwem polegającym na podszywaniu się generowanym przez AI, zatrzymująca złośliwy kod, zanim agent AI go wykona, lub uniemożliwiająca autonomicznemu agentowi wysłanie danych uwierzytelniających tam, gdzie nie powinien.
Konsumenci nie mogą nagle stać się ekspertami w dziedzinie cyberbezpieczeństwa tylko dlatego, że sztuczna inteligencja sprawia, że ataki stają się coraz bardziej wyrafinowane. Technologia musi w większym stopniu przejąć za nich zadania związane z ochroną.
Właśnie dlatego firma Gen rozpoczęła na początku tego roku wdrażanie rozwiązania Agent Trust Hub (ATH). ATH zostało zaprojektowane jako niezależna warstwa bezpieczeństwa i zaufania otaczająca coraz bardziej autonomiczną sztuczną inteligencję. Rozwiązanie to może oceniać możliwości agentów przed ich uruchomieniem, obserwować ich zachowanie podczas działania oraz pomagać w powstrzymywaniu niebezpiecznych działań w czasie rzeczywistym.
Od tego czasu rozszerzyliśmy tę architekturę o technologie takie jak Sage, Agent Detection and Response, VPN for Agents, Norton AI Agent Protection oraz AARTS – nasz otwarty standard bezpieczeństwa środowiska uruchomieniowego agentów AI.
Cel jest prosty: chronić konsumentów w miejscach, gdzie faktycznie pojawia się ryzyko związane z AI – od narzędzi używanych przez agenta, przez wykonywane przez niego polecenia, po dane, do których uzyskuje dostęp, i sieci, z którymi się łączy. AI w coraz większym stopniu musi pomagać nam chronić się przed samą AI.
Musimy się przygotować, zanim pojawiające się możliwości staną się powszechnymi zagrożeniami
Pilny charakter listu jest istotny, ponieważ możliwości sztucznej inteligencji rozwijają się niezwykle szybko.
Niedawno firma OpenAI opublikowała szczegółowe ustalenia dotyczące incydentu bezpieczeństwa związanego z infrastrukturą OpenAI i Hugging Face. Podczas ocen cyberbezpieczeństwa wysoce zaawansowane eksperymentalne agenty ominęły zabezpieczenia środowiska testowego, znalazły sposoby na uzyskanie dostępu do Internetu, wykorzystały luki w zabezpieczeniach i ustanowiły nieautoryzowane kanały komunikacji. OpenAI opisało ten incydent jako „strzał ostrzegawczy”. Zachowania te są obecnie nadal rzadkością i nie powinniśmy wyolbrzymiać obecnego zagrożenia, ale właśnie dlatego branża ma szansę podjąć działania.
Obecnie obserwujemy pojawianie się możliwości, które mogą mieć znacznie poważniejsze konsekwencje w miarę jak systemy sztucznej inteligencji stają się coraz bardziej autonomiczne, trwałe i wzajemnie połączone. Pytanie nie brzmi, czy każdy konsument stoi dziś w obliczu tego zagrożenia, ale czy uda nam się zbudować systemy obronne, zanim to nastąpi.
Wspólna obrona musi połączyć pionierskie rozwiązania AI z środowiskiem konsumentów
Właśnie w tym miejscu rola Gen w koalicji staje się szczególnie ważna. Firmy zajmujące się pionierską sztuczną inteligencją jako pierwsze dostrzegają pojawiające się możliwości modeli, firmy oferujące chmurę i infrastrukturę rozumieją systemy, na których te modele działają, a firmy zajmujące się cyberbezpieczeństwem rozumieją atakujących, luki w zabezpieczeniach i mechanizmy obronne.
Tymczasem rządy mogą koordynować standardy, dane wywiadowcze i politykę. Tym, czego brakuje we wszystkich tych obszarach, jest perspektywa cyberbezpieczeństwa konsumentów w skali globalnej.
Widzimy, co się dzieje, gdy nowa technologia dociera do setek milionów ludzi, którzy nie mają CISO, SOC ani zespołu inżynierów ds. bezpieczeństwa, który by ich chronił. Wszystkie te perspektywy muszą się ze sobą łączyć.
Oznacza to dzielenie się informacjami o zagrożeniach, technologiami obronnymi i najlepszymi praktykami. Oznacza to tworzenie otwartych standardów zamiast izolowanych systemów bezpieczeństwa wokół poszczególnych platform sztucznej inteligencji. Oznacza to również zapewnienie, że przełomowe osiągnięcia w pionierskiej cyberobronie ostatecznie staną się zabezpieczeniami, z których zwykli ludzie będą mogli automatycznie czerpać korzyści.
Właśnie dlatego firma Gen działa w całym ekosystemie sztucznej inteligencji, rozwijając jednocześnie otwarte podejścia, takie jak AARTS, zaprojektowane w celu stworzenia wspólnego sposobu, dzięki któremu systemy bezpieczeństwa będą w stanie zrozumieć, co robi agent AI, i interweniować w razie potrzeby.
Obrona zbiorowa nie może ograniczać się do sieci przedsiębiorstw i infrastruktury krytycznej – musi dotrzeć do konsumentów.
Okno możliwości dla obrońców jest teraz otwarte
Gen przyłączył się do tego apelu, ponieważ wierzymy, że główna teza jest słuszna: sztuczna inteligencja wzmocni atakujących, ale może jeszcze bardziej wzmocnić obrońców. Stanie się to jednak tylko wtedy, gdy branża podejmie działania wcześnie, będzie współpracować i zapewni, że korzyści płynące z zaawansowanej cyberobrony dotrą do wszystkich.
Dla firmy Gen ochrona konsumentów stanowi kluczowy element tej misji. Prawie 500 milionów osób już zaufało markom Gen, licząc na pomoc w zapewnieniu większego bezpieczeństwa swojego cyfrowego życia. W miarę jak sztuczna inteligencja staje się coraz bardziej autonomiczna i głębiej zintegrowana z codziennym życiem, zakres tej odpowiedzialności się rozszerza.
Będziemy potrzebować silniejszej sztucznej inteligencji dla obrońców, niezależnych warstw zaufania wokół systemów autonomicznych, a także wspólnej analizy danych i otwartych standardów.
Będziemy również musieli traktować cyberbezpieczeństwo konsumentów jako istotną część tej samej misji zbiorowej obrony, która chroni przedsiębiorstwa, rządy i infrastrukturę krytyczną.
Materiał przygotowany przez CORE - Norton, Avast i AVG w Polsce