Deepfakes: Zagrożenie ultrafakesami i dezinformacją

W erze cyfrowej, w której informacja jest potęgą, nowa technologia zagraża podważeniem samych fundamentów rzeczywistości: deepfakes. Te hiperrealistyczne montaże, tworzone przy użyciu sztucznej inteligencji (AI), stanowią egzystencjalne zagrożenie dla zaufania publicznego. Ich najgłębsze zagrożenie nie polega po prostu na wprowadzaniu ludzi w błąd fałszywą treścią, ale na niszczeniu wiary w prawdziwość jakiejkolwiek treści, co jest korozyjnym zjawiskiem znanym jako „dywidenda kłamcy”. Dzięki coraz większej dostępności technologia ta staje się zdemokratyzowanym narzędziem oszustw, nękania i destabilizacji politycznej, ze szczególnie dotkliwymi ryzykami dla demokracji Ameryki Łacińskiej.

Czym są deepfake’i i jak działają?

Termin „deepfake” odnosi się do plików wideo, obrazów lub audio manipulowanych lub syntetycznie generowanych przez AI, aby wyglądały na autentyczne i prawdziwe. Technologia ta opiera się na rodzaju głębokiego uczenia się, który wykorzystuje generatywne sieci przeciwstawne (GAN). W tym systemie dwie sieci AI konkurują ze sobą: „generator” tworzy fałszywą treść (na przykład nakładając twarz polityka na ciało innej osoby), a „dyskryminator” próbuje wykryć fałszywkę. Ten konkurencyjny proces pozwala AI uczyć się i doskonalić wykładniczo, produkując coraz bardziej przekonujące fałszywki.

Od oszustw finansowych do dezinformacji politycznej

Choć technologia ta znajduje zastosowanie w filmie i sztuce, jej potencjał do złośliwego wykorzystania jest ogromny i już teraz jest dostrzegany:

* Oszustwa i wymuszenia: Przestępcy wykorzystują deepfake'i, aby podszywać się pod inne osoby. W jednym z głośnych przypadków w Hongkongu pracownik finansowy został oszukany i przelał 25 milionów dolarów po wideokonferencji, w której wszyscy uczestnicy, w tym dyrektor finansowy jego firmy, byli deepfake'ami. Na poziomie osobistym technologia ta jest wykorzystywana do tworzenia pornografii bez zgody ofiar, przedstawiającej twarze ofiar, w celu nękania lub wymuszenia. Jedno z badań wykazało, że 96% filmów deepfake'owych wykrytych w Internecie miało charakter pornograficzny.

* Dezinformacja i manipulacja polityczna: Deepfakes to idealna broń do dezinformacji. Filmy przedstawiające przywódców politycznych mówiących lub robiących rzeczy, które nigdy się nie wydarzyły, mogą być tworzone w celu manipulowania opinią publiczną, wpływania na wybory lub podżegania do przemocy. Podczas wojny na Ukrainie pojawiło się fałszywe wideo prezydenta Zełenskiego wzywającego swoje wojska do poddania się.

* Erozja zaufania: Samo istnienie tej technologii podważa zaufanie do instytucji, mediów i samych dowodów. Badanie eksperymentalne wykazało, że ekspozycja na deepfake o zawaleniu się mostu zwiększyła nieufność do rządu wśród amerykańskich uczestników.

Dywidenda kłamcy: wątp we wszystko

Najbardziej destrukcyjny wpływ deepfake'ów nie polega na tym, że wierzymy w fałsz, ale na tym, że zaczynamy wątpić w prawdę. To jest „dywidenda kłamcy”: technologia daje każdej osobie publicznej wiarygodną możliwość zaprzeczenia wszelkim rzeczywistym dowodom przeciwko niej. Jeśli pojawi się autentyczny film obciążający polityka, może on po prostu twierdzić, że jest to „deepfake”. To twierdzenie, nawet kłamstwo, wprowadza wystarczająco dużo wątpliwości, że dowody tracą swoją moc. Rozmowa przenosi się z faktycznego wykroczenia na niekończącą się debatę na temat autentyczności filmu, niszcząc koncepcję wspólnej rzeczywistości, która jest podstawą demokratycznej odpowiedzialności.

Demokratyzacja chaosu i ryzyko dla Ameryki Łacińskiej

Podczas gdy nagłówki skupiają się na deepfake'ach światowych przywódców, prawdziwe zagrożenie rozprzestrzenia się na poziomie lokalnym i osobistym. Technologia staje się tania i łatwa w użyciu, oddając ją w ręce każdego ze złośliwymi zamiarami. W ekosystemach mediów społecznościowych Ameryki Łacińskiej, często silnie spolaryzowanych i z mniejszym zaufaniem do tradycyjnych mediów, ta „demokratyzacja chaosu” jest szczególnie niebezpieczna. Wideo deepfake może zostać wykorzystane do zniszczenia reputacji kandydata na urząd miejski, sfabrykowania dowodów przeciwko działaczowi społecznemu lub podżegania do nienawiści wobec grupy mniejszościowej, powodując nieodwracalne szkody na długo przed ich obaleniem.

Aby się chronić, eksperci zalecają połączenie edukacji w celu rozwijania krytycznego myślenia, rozwoju technologicznych narzędzi wykrywania oraz regulacji, które wymagają przejrzystości i rozliczalności. Niezbędne jest zachowanie czujności, szczegółowa analiza informacji, porównywanie źródeł i stosowanie zdrowego rozsądku. Demokracja w erze cyfrowej nie może obronić się sama; wymaga aktywnych, krytycznych obywateli, którzy są świadomi nowych form, jakie przybierają kłamstwa.