Deepfakes: la amenaza de los ultrafalsos y la desinformación

En la era digital, donde la información es poder, una nueva tecnología amenaza con socavar la base misma de la realidad: los «ultrafalsos» o deepfakes. Estos montajes hiperrealistas, creados con inteligencia artificial (IA), representan una amenaza existencial para la confianza pública. Su peligro más profundo no es simplemente engañar a la gente con contenido falso, sino destruir la creencia en la veracidad de cualquier contenido, un fenómeno corrosivo conocido como el «dividendo del mentiroso». Con su creciente accesibilidad, esta tecnología se está convirtiendo en una herramienta democratizada para el fraude, el acoso y la desestabilización política, con riesgos particularmente agudos para las democracias de América Latina.

¿Qué son los Ultrafalsos y Cómo Funcionan?

El término «ultrafalso» (traducción recomendada para deepfake) se refiere a archivos de video, imagen o audio manipulados o generados sintéticamente mediante IA para que parezcan auténticos y reales. La tecnología se basa en un tipo de aprendizaje profundo (deep learning) que utiliza redes generativas antagónicas (GANs). En este sistema, dos redes de IA compiten entre sí: un «generador» crea el contenido falso (por ejemplo, superponiendo el rostro de un político en el cuerpo de otra persona) y un «discriminador» intenta detectar la falsificación. Este proceso competitivo permite que la IA aprenda y mejore exponencialmente, produciendo falsificaciones cada vez más convincentes.

Del Fraude Financiero a la Desinformación Política

Aunque la tecnología tiene aplicaciones benignas en el cine o el arte , su potencial para el uso malicioso es vasto y ya se está materializando:

* Fraude y Extorsión: Los criminales utilizan ultrafalsos para suplantar identidades. En un caso notorio en Hong Kong, un empleado de finanzas fue engañado para transferir 25 millones de dólares después de una videoconferencia en la que todos los participantes, incluido el director financiero de su empresa, eran deepfakes. A nivel personal, la tecnología se usa para crear pornografía no consentida con el rostro de víctimas para fines de acoso o extorsión. Un estudio reveló que el 96% de los videos deepfake detectados en línea eran de naturaleza pornográfica.

* Desinformación y Manipulación Política: Los ultrafalsos son el arma perfecta para la desinformación. Se pueden crear videos de líderes políticos diciendo o haciendo cosas que nunca ocurrieron para manipular la opinión pública, influir en elecciones o incitar a la violencia. Durante la guerra en Ucrania, apareció un video falso del presidente Zelenski pidiendo a sus tropas que se rindieran.

* Erosión de la Confianza: La mera existencia de esta tecnología erosiona la confianza en las instituciones, los medios de comunicación y la evidencia misma. Un estudio experimental demostró que la exposición a un deepfake sobre el colapso de un puente aumentó la desconfianza en el gobierno entre los participantes estadounidenses.

El Dividendo del Mentiroso: Dudar de Todo

El impacto más corrosivo de los ultrafalsos no es que creamos lo falso, sino que empecemos a dudar de lo verdadero. Este es el «dividendo del mentiroso» : la tecnología le da a cualquier figura pública una negación plausible para cualquier evidencia real en su contra. Si aparece un video auténtico que incrimina a un político, este puede simplemente alegar que es un «ultrafalso». Esta afirmación, aunque sea mentira, introduce suficiente duda como para que la evidencia pierda su poder. La conversación se desvía de la transgresión real a un debate interminable sobre la autenticidad del video, destruyendo el concepto de realidad compartida que es fundamental para la rendición de cuentas democrática.

La Democratización del Caos y el Riesgo para América Latina

Mientras los titulares se centran en los deepfakes de líderes mundiales, la verdadera proliferación del peligro está a nivel local y personal. La tecnología se está volviendo barata y fácil de usar, poniéndola en manos de cualquiera con malas intenciones. En los ecosistemas de redes sociales de América Latina, a menudo altamente polarizados y con menor confianza en los medios tradicionales, esta «democratización del caos» es especialmente peligrosa. Un video ultrafalso puede usarse para destruir la reputación de un candidato municipal, fabricar evidencia contra un activista social o incitar al odio contra un grupo minoritario, causando un daño irreparable mucho antes de que pueda ser desmentido.

Para protegerse, los expertos recomiendan una combinación de educación para fomentar el pensamiento crítico, el desarrollo de herramientas tecnológicas de detección y una regulación que exija transparencia y responsabilidad. Es fundamental estar alerta, analizar la información con detalle, contrastar las fuentes y aplicar el sentido común. La democracia en la era digital no se defiende sola; requiere una ciudadanía activa, crítica y consciente de las nuevas formas que adopta la mentira.