Latin Amerika'da deepfake'lerle mücadelede en büyük zorluk bu.

Latin Amerika'da deepfake'lere yönelik endişe artıyor. Kapwing platformunun yakın tarihli bir raporuna göre, bu teknolojiye ilgide Arjantin bölgede başı çekerken, onu sırasıyla 481, 337 ve 141 deepfake aramasıyla Şili, Peru ve Kolombiya takip ediyor.

Yapay zekâ kullanarak gerçek hayatı taklit eden sahte video veya ses klipleri oluşturan bu dijital aracın kötü amaçlı kullanımına dair farkındalık artıyor. Ancak, uluslararası yükseköğretim ağı Planeta Formación y Universidades'in bir parçası olan Uluslararası Valensiya Üniversitesi'nin (VIU) Dijital Hukuk ve Siber Güvenlik Resmi Yüksek Lisans Programı'nda profesör ve avukat olan Dr. Francisco José Adán Castaño'ya göre, düzenleyici ve teknik önlemler çok daha yavaş ilerliyor ve toplumun farklı kesimlerini etkiliyor.

" Siyasetçiler muhtemelen bu sorundan en çok etkilenenler. Adayların seçimden hemen önce hiç söylemedikleri şeyleri söylediği sahte videolar... Bu demokrasi için bir kabus," diye uyarıyor VIU uzmanı. "İş ve finans sektörleri de ciddi sorunlar yaşıyor. Dolandırıcıların CEO'ları taklit etmek ve milyonlarca dolarlık transferleri onaylamak için sesli deepfake'ler kullanması nadir görülen bir durum değil."

Deepfake'lerin teknolojik gelişimi, Latin Amerika'daki düzenleyici çerçevelerin yavaş temposuyla çelişmektedir. Yargı sistemleri, her zaman etkili olmayan iftira veya dolandırıcılık düzenlemeleriyle doğaçlama yapmak zorundadır. Dahası, dijital ortamın ulusötesi niteliği, yasal uygulanabilirliği daha da karmaşıklaştırmaktadır.

Yapay zeka ve fikri mülkiyet konusunda uzman olan Dr. Francisco Adán Cataño, "Yasalar teknolojiye kıyasla çok yavaş hareket ediyor," diyor. "Birçok ülkede deepfake'ler için özel yasalar bile yok. İnternetin sınırları yok. Hangi yasa geçerli: üretildiği yerdeki, yüklendiği yerdeki veya görüldüğü yerdeki?"

Bu düzenleyici zayıflığa, sorumlu makamlar arasında teknik eğitim eksikliği de ekleniyor. Polis memurları ve hakimler genellikle yaygın teknolojik konularda yeterli eğitime sahip değil ve deepfake sorununu anlayıp çözümlemeye gelince, teknik eğitim eksikliği açıkça ortaya çıkıyor.

Deepfake'lerin gelişimi, içerik oluşturucular ve tespitçiler arasında, makine öğreniminin merkezde olduğu gerçek bir silahlanma yarışına yol açtı. Tespit yeteneklerini geliştirmek için binlerce gerçek ve sahte videoyla eğitim alıyorlar.

Fikri Mülkiyet, Gizlilik ve Yeni Teknolojiler uzmanının da belirttiği gibi, bu bir kedi-fare oyunu ve deepfake'ler, dedektörlerdeki her gelişmeyle daha da karmaşıklaşıyor.

Günümüzde, göz kırpma desenleri veya yüz ışığı bozulmaları gibi insan gözüyle görülemeyen anomalileri tespit eden tespit algoritmaları mevcuttur. Makine öğrenimi bu görevde kilit rol oynar ve sistemleri desenleri ayırt etmek için binlerce gerçek ve sahte videoyla eğitir.

Blockchain kimlik doğrulaması, bir videonun oluşturulduğu anda değiştirilemez bir şekilde kaydedilmesini ve böylece herhangi bir değişikliğin fark edilmesini sağlayacak bir diğer umut verici yöntemdir. Ses söz konusu olduğunda ise, ses kalıplarına, duraklamalara ve nefes alış verişlerine dayalı analizler yapılabilir.

Deepfake sorununun tek bir çözümü yoktur. Hükümetler, teknoloji şirketleri, geliştiriciler, platformlar ve sivil toplum arasında koordineli bir eylem gerektirir.

Uzman, "Hükümetlerin sadece kağıt üzerinde değil, gerçek hayatta da uygulanabilecek, mantıklı yasalar çıkarmaları gerekiyor," diye vurguluyor. "Ayrıca insanlarını eğitmeli ve uluslararası iş birliği yapmalılar çünkü bu sınırları aşan bir şey."

VIU sözcüsü ayrıca dijital platformların rolünü de vurguluyor. Facebook, TikTok ve YouTube gibi ağların, tarafsızlığı bir kenara bırakarak kötü amaçlı deepfake içerikleri tespit edip ortadan kaldırmaya yatırım yapması gerekiyor. Bu ağlardaki kullanıcıların sorumluluğu da bu duruma katkıda bulunacaktır.

"Sivil toplumun oynayacağı önemli bir rol var," diye belirtiyor. " Gerçekleri doğrulayan medya kuruluşları iyi iş çıkarıyor, ancak daha fazlasına ihtiyacımız var. Ayrıca üniversitelerin tespit konusunda daha fazla araştırma yapması ve dijital okuryazarlık konusunda daha fazla eğitim programı yürütmesi gerekiyor."

Soruna yol açan teknoloji, çözümün de bir parçası olabilir. Ancak bölgede yeterli yasal çerçeveler ve yaygın bir eleştirel farkındalık olmadan, Latin Amerika, gerçeği yalandan ayırt etmenin artık mümkün olmadığı bir geleceğe maruz kalabilir.