Jak obrazy generowane przez AI są używane w kampaniach dezinformacyjnych
Matt · Redakcja SUS IT
Matt specjalizuje się w kryminalistyce wideo i komputerowej analizie mediów.
Śledcza analiza tego, jak syntetyczne obrazy są produkowane i dystrybuowane w nowoczesnych operacjach dezinformacyjnych, z konkretnymi przykładami i wskazówkami wykrywania.
Wiralowe zdjęcie polityka na proteście, w którym nigdy nie uczestniczył. Obraz oznaczony znakiem wodnym agencji prasowej przedstawiający katastrofalне zdarzenie, które nigdy nie miało miejsca. ‘Zdjęcie naocznego świadka’ celebryty popełniającego przestępstwo, udostępnione dziesiątki tysięcy razy przed zidentyfikowaniem jako syntetyczne. Obrazy generowane przez AI stały się standardowym narzędziem w operacjach dezinformacyjnych.
Jak budowane są dezinformacyjne kampanie obrazkowe
Dojrzała kampania dezinformacyjna oparta na obrazach ma kilka komponentów: Generowanie (narzędzia AI produkują syntetyczne fotografie), Dystrybucja (fałszywe serwisy informacyjne, konta w mediach społecznościowych i grupy na komunikatorach rozpowszechniają obrazy z fałszywymi podpisami), Amplifikacja (sieci botów i skoordynowane konta windują treści do trendów) i Legitymizacja (obrazy są podchwytywane przez mediów partyjnych lub influencerów mediów społecznościowych prezentujących je jako prawdziwe).
Typowe zastosowania taktyczne
Obrazy AI są używane do: fałszowania dowodów zdarzeń (protestów, przestępstw, katastrof, które nie miały miejsca); stawiania polityków w kompromitujących sytuacjach; tworzenia ‘naocznej’ dokumentacji fałszywych narracji; generowania fałszywych obrazów okrucieństwa w celu zaostrzenia napięć geopolitycznych; produkowania syntetycznych portretów sfabrykowanych ‘ekspertów’ lub ‘świadków’.
Sygnały ostrzegawcze wykrywania
Obrazy stosowane w dezinformacji często mają specyficzne wzorce: idealne oświetlenie na rzekomo spontanicznych ujęciach; anatomicznie nieprawdopodobne tła; zbyt czyste znaki wodne legalnych agencji prasowych; wyszukiwanie odwrotne obrazu nie daje wyników sprzed kampanii; metadane usunięte lub wykazują niespójną historię edycji.
Techniki weryfikacji
Przepuść obraz przez wyszukiwanie odwrotne (Google Grafika, TinEye, Yandex). Sprawdź metadane pod kątem daty utworzenia i oprogramowania do edycji. Szukaj znaczników generowania AI — niezwykłe tekstury we włosach, skórze, tkaninie; nieprawdopodobna architektura tła; tekst, który nie rozwiązuje się w czytelne słowa. Użyj analizy kryminalistycznej obrazów SUS IT do systematycznego wykrywania artefaktów.
Reakcje platform
Duże platformy wdrożyły wymogi etykietowania syntetycznych mediów, ale egzekwowanie jest niespójne. Obrazy przesyłane na platformy obsługujące standardy proweniencji C2PA można prześledzić do ich źródła. Jednak operacje dezinformacyjne aktywnie usuwają lub uszkadzają metadane proweniencji.
Podsumowanie
Obrazy generowane przez AI w kampaniach dezinformacyjnych stanowią rosnące zagrożenie dla świadomego dyskursu publicznego. Obroną jest kombinacja wiedzy technicznej — znajomości wyglądu obrazów AI i umiejętności ich sprawdzania — oraz systematycznych nawyków weryfikacyjnych.