W serwisie ZDNET ukazał się niedawno artykuł, w którym prof. Robert Crossler przedstawił kwestie związane z wyborami w cyfrowym społeczeństwie. Warto także zapoznać się z innym artykułem, napisanym już przez samego prof. Crosslera, a traktującym o pomiarach wpływu orientacji politycznej, platform i konsumpcji fake newsów, na zainteresowanie wyborców procesami wyborczymi. Oba teksty opisują co prawda głównie wpływ sztucznej inteligencji na procesy wyborcze, ale nietrudno sobie wyobrazić, że równie dobrze AI może mieć wpływ także na inne aspekty naszego życia, w tym na cyberbezpieczeństwo. AI może wspierać – o ile można użyć takiego stwierdzenia – działalność oszustów, tworząc środowiska, opinie i narracje wspierające tezy przedstawione przez cyberprzestępców.
Sztuczna inteligencja ułatwia tworzenie treści, które „zasilają” przeglądarki i samo AI danymi, które są fałszywe po to, żeby ludzie uwierzyli w coś, co nie jest prawdą. Ludzie będą jednak mieli silne poczucie, że jest to prawdą, ponieważ ujrzą bardzo realistyczny materiał, który potwierdzi punkt widzenia przedstawiony przez przestęoców. Profesor Crossler stwierdza wprost:
Generatywna sztuczna inteligencja ma potencjał, aby kierować komunikację konkretnie do ludzi w oparciu o łatwo zdobywaną wiedzę, którą ludzie umieszczają w sferze publicznej. Jest to technika, którą widzimy już w atakach socjotechnicznych z punktu widzenia cyberbezpieczeństwa.
Warto zwrócić tu uwagę na wskazaną przez profesora kwestię wiedzy umieszczonej w sferze publicznej. Często możemy spotkać się z sytuacją, że ludzie usłyszą jakąś informację, wpisują do wyszukiwarki hasło, które usłyszeli, a następnie klikają w pierwszy link, czytają co pod nim zostało napisane i przyjmują to za pewnik („przecież w internecie tak napisali!”).
Przy odrobinie zaangażowania nie jest wcale jakoś trudno pozycjonować w wyszukiwarkach swoje treści, bez względu na to czy ich treść jest prawdziwa czy nie. I tak właśnie czynią hakerzy, tworząc fałszywe treści, witryny i informacje, które są potem wykorzystywane w aspekcie socjotechniki podczas ataku. Serwisy takie jak Google czy Facebook, ale też np. laboratoria Intela, wdrażają mechanizmy zabezpieczające przed umieszczaniem treści wygenerowanych przez AI w kampaniach reklamowych czy informacyjnych. Na obecnym etapie nie do końca działa to dobrze, ale prace w tym kierunku są ciągle rozwijane.
W takim razie co robić? Jak żyć? Profesor Crossler zapytany przez redakcję ZDNET o to jak odróżnia prawdziwe komunikaty polityczne od treści potencjalnie wygenerowanych i zmanipulowanych przez AI, odpowiedział:
Zacząłem robić dwie rzeczy ze względu na ostatnie wybory i dezinformację, która miała miejsce podczas tego cyklu wyborczego. Pierwszą rzeczą, którą robię, jest triangulacja informacji, które otrzymuję. Rozumiem przez to, że chcę korzystać z informacji z wielu źródeł, które być może mają różne uprzedzenia w swoich raportach. Im lepiej potrafię triangulować informacje, tym większą mam pewność co do prawdziwości tych informacji.
Drugą rzeczą, którą lubię robić i która pozwala mi osiągnąć pierwszą, jest celowe niepozwalanie sobie na wyrobienie opinii, gdy początkowo dowiaduję się o nowej kwestii. Jest to szczególnie ważne, gdy wydaje się, że informacje różnią się od tych, które już znałem lub są potencjalnie ważne politycznie. Oczekiwanie na sformułowanie tej opinii daje mi wystarczająco dużo czasu na zebranie dodatkowych informacji, które mogą potwierdzić (lub nie) pierwotne informacje.
Źródła:
How AI will fool voters in 2024 if we don’t do something now
Real-time deepfake detection: How Intel Labs uses AI to fight misinformation
U.S., U.K., and Global Partners Release Secure AI System Development Guidelines
The 3 biggest risks from generative AI – and how to deal with them
Algorithms soon will run your life – and ruin it, if trained incorrectly
Generative AI is a developer’s delight. Now, let’s find some other use cases
