Deepfake: la minaccia degli ultrafake e della disinformazione

Nell'era digitale, dove l'informazione è potere, una nuova tecnologia minaccia di minare le fondamenta stesse della realtà: i deepfake. Questi montaggi iperrealistici, creati con l'intelligenza artificiale (IA), rappresentano una minaccia esistenziale per la fiducia del pubblico. Il loro pericolo più profondo non è semplicemente quello di ingannare le persone con contenuti falsi, ma di distruggere la fiducia nella veridicità di qualsiasi contenuto, un fenomeno corrosivo noto come "dividendo del bugiardo". Con la sua crescente accessibilità, questa tecnologia sta diventando uno strumento democratizzato per frode, molestie e destabilizzazione politica, con rischi particolarmente gravi per le democrazie latinoamericane.

Cosa sono i deepfake e come funzionano?

Il termine "deepfake" si riferisce a file video, immagini o audio manipolati o generati sinteticamente dall'IA per apparire autentici e reali. La tecnologia si basa su un tipo di apprendimento profondo che utilizza reti generative avversarie (GAN). In questo sistema, due reti di IA competono tra loro: un "generatore" crea il contenuto falso (ad esempio, sovrapponendo il volto di un politico al corpo di un'altra persona) e un "discriminatore" tenta di rilevare il falso. Questo processo competitivo consente all'IA di apprendere e migliorare esponenzialmente, producendo falsi sempre più convincenti.

Dalla frode finanziaria alla disinformazione politica

Sebbene la tecnologia abbia applicazioni benigne nel cinema e nell'arte, il suo potenziale per un uso dannoso è enorme e si sta già concretizzando:

* Frode ed estorsione: i criminali usano i deepfake per impersonare altri individui. In un caso noto a Hong Kong, un dipendente finanziario è stato ingannato e indotto a trasferire 25 milioni di dollari dopo una videoconferenza in cui tutti i partecipanti, incluso il direttore finanziario della sua azienda, erano dei deepfake. A livello personale, la tecnologia viene utilizzata per creare materiale pornografico non consensuale che mostra i volti delle vittime a scopo di molestie o estorsione. Uno studio ha rilevato che il 96% dei video deepfake rilevati online era di natura pornografica.

* Disinformazione e manipolazione politica: i deepfake sono l'arma perfetta per la disinformazione. Video di leader politici che dicono o fanno cose mai accadute possono essere creati per manipolare l'opinione pubblica, influenzare le elezioni o incitare alla violenza. Durante la guerra in Ucraina, è emerso un falso video del presidente Zelensky che invitava le sue truppe alla resa.

* Erosione della fiducia: la semplice esistenza di questa tecnologia erode la fiducia nelle istituzioni, nei media e nelle prove stesse. Uno studio sperimentale ha dimostrato che l'esposizione a un deepfake sul crollo di un ponte ha aumentato la sfiducia nel governo tra i partecipanti americani.

Il dividendo del bugiardo: dubitare di tutto

L'impatto più corrosivo dei deepfake non è che crediamo al falso, ma che iniziamo a dubitare del vero. Questo è il "dividendo del bugiardo": la tecnologia offre a qualsiasi personaggio pubblico una plausibile negazione di qualsiasi prova reale contro di lui. Se emerge un video autentico che incrimina un politico, può semplicemente affermare che si tratta di un "deepfake". Questa affermazione, persino una bugia, introduce un dubbio sufficiente a far perdere forza alla prova. Il dibattito si sposta dalla trasgressione effettiva a un dibattito infinito sull'autenticità del video, distruggendo il concetto di realtà condivisa che è fondamentale per la responsabilità democratica.

La democratizzazione del caos e il rischio per l’America Latina

Mentre i titoli dei giornali si concentrano sui deepfake dei leader mondiali, la vera proliferazione del pericolo è a livello locale e personale. La tecnologia sta diventando economica e facile da usare, mettendola nelle mani di chiunque abbia intenzioni malevole. Negli ecosistemi dei social media dell'America Latina, spesso fortemente polarizzati e con minore fiducia nei media tradizionali, questa "democratizzazione del caos" è particolarmente pericolosa. Un video deepfake può essere utilizzato per distruggere la reputazione di un candidato comunale, fabbricare prove contro un attivista sociale o incitare all'odio contro una minoranza, causando danni irreparabili molto prima che possa essere smentito.

Per proteggerci, gli esperti raccomandano una combinazione di educazione per promuovere il pensiero critico, lo sviluppo di strumenti tecnologici di rilevamento e normative che impongano trasparenza e responsabilità. È essenziale essere vigili, analizzare le informazioni in dettaglio, confrontare le fonti e applicare il buon senso. La democrazia nell'era digitale non può difendersi da sola; richiede una cittadinanza attiva e critica, consapevole delle nuove forme che le menzogne ​​assumono.