Dit is de grote uitdaging in de strijd tegen deepfakes in Latijns-Amerika.

De bezorgdheid over deepfakes neemt toe in Latijns-Amerika. Volgens een recent rapport van het Kapwing-platform loopt Argentinië voorop in de regio wat betreft interesse in deze technologie, gevolgd door Chili, Peru en Colombia, met respectievelijk 481, 337 en 141 maandelijkse zoekopdrachten gerelateerd aan deepfakes.

Er is steeds meer bewustzijn over het kwaadaardige gebruik van deze digitale tool, die gebruikmaakt van kunstmatige intelligentie om nepvideo's of audiofragmenten te maken die het echte leven simuleren. Regelgevende en technische maatregelen verlopen echter veel trager en hebben gevolgen voor verschillende sectoren van de samenleving, aldus dr. Francisco José Adán Castaño, advocaat en hoogleraar aan de officiële masteropleiding Digitaal Recht en Cybersecurity aan de Internationale Universiteit van Valencia (VIU), onderdeel van het internationale hogeronderwijsnetwerk Planeta Formación y Universidades.

" Politici worden waarschijnlijk het hardst getroffen door dit probleem. Nepvideo's van kandidaten die dingen zeggen die ze nooit hebben gezegd vlak voor een verkiezing... Het is een nachtmerrie voor de democratie", waarschuwt de VIU-expert. "Ook het bedrijfsleven en de financiële sector kampen met ernstige problemen. Gevallen van oplichters die deepfakes gebruiken om CEO's te imiteren en miljoenenoverschrijvingen te autoriseren, zijn niet ongewoon."

De technologische vooruitgang van deepfakes contrasteert met het trage tempo van de regelgeving in Latijns-Amerika. Rechtssystemen moeten improviseren met regelgeving tegen smaad of fraude, die niet altijd effectief is. Bovendien bemoeilijkt het transnationale karakter van de digitale omgeving de juridische afdwingbaarheid.

"Wetten veranderen heel langzaam vergeleken met de technologie", merkt Dr. Francisco Adán Cataño op, tevens expert in AI en intellectueel eigendom. "Veel landen hebben niet eens specifieke wetten voor deepfakes. Het internet kent geen grenzen. Welke wet is van toepassing: die waar het gemaakt is, waar het geüpload is of waar het bekeken is?"

Een bijkomend probleem is het gebrek aan technische training bij de verantwoordelijke autoriteiten. Politieagenten en rechters zijn vaak niet voldoende getraind in gangbare technologische zaken , en wanneer het aankomt op het begrijpen en ontcijferen van het probleem van deepfakes, wordt het gebrek aan technische training duidelijk.

De opkomst van deepfakes heeft geleid tot een ware wapenwedloop tussen makers en detectoren, met machine learning als speerpunt. Ze trainen met duizenden echte en nepvideo's om hun detectiemogelijkheden te verfijnen.

Het is, zoals de expert op het gebied van intellectueel eigendom, privacy en nieuwe technologieën aangeeft, een kat-en-muisspel, waarbij deepfakes steeds geavanceerder worden naarmate de detectoren beter worden.

Tegenwoordig bestaan er detectiealgoritmen die afwijkingen identificeren die onzichtbaar zijn voor het menselijk oog, zoals knipperpatronen of vervormingen van gezichtslicht. Machine learning is hierbij essentieel. Systemen worden getraind met duizenden echte en nepvideo's om patronen te onderscheiden.

Blockchain-authenticatie is een andere veelbelovende manier om een video onveranderlijk op te nemen, zodat eventuele wijzigingen zichtbaar zijn. En wat audio betreft, zou de analyse gebaseerd kunnen zijn op stempatronen, pauzes en ademhaling.

Het probleem van deepfakes kent geen eenduidige oplossing. Het vereist een gecoördineerde aanpak van overheden, technologiebedrijven, ontwikkelaars, platforms en het maatschappelijk middenveld.

"Overheden moeten wetten maken die logisch zijn en in de praktijk toepasbaar, niet alleen op papier", benadrukt de expert. "Ze moeten hun mensen ook opleiden en internationaal samenwerken, want dit overstijgt grenzen."

De woordvoerder van VIU benadrukt ook de rol van digitale platforms. Netwerken zoals Facebook, TikTok en YouTube moeten investeren in het detecteren en elimineren van kwaadaardige deepfakes, waarbij neutraliteit terzijde wordt geschoven. En de verantwoordelijkheid van gebruikers op deze netwerken zou ook aan deze situatie bijdragen.

"Het maatschappelijk middenveld speelt een belangrijke rol", merkt hij op. " Media die feiten controleren, doen goed werk, maar we hebben meer nodig. We hebben ook universiteiten nodig die meer onderzoek doen naar detectie en meer educatieve programma's over digitale geletterdheid."

De technologie die tot het probleem heeft geleid, kan ook deel uitmaken van de oplossing. Maar zonder adequate juridische kaders en een breed gedragen kritisch bewustzijn in de regio, zou Latijns-Amerika blootgesteld kunnen worden aan een toekomst waarin het niet langer mogelijk is om waarheid van onwaarheid te onderscheiden.