CBS News, Meta platformlarının yüzlerce "nudify" deepfake reklamı gösterdiğini buldu

Meta, CBS News'in yaptığı bir araştırmada platformlarında yüzlerce benzer reklam bulunmasının ardından, gerçek insanların görsellerini kullanarak cinsel içerikli deepfake içerikler oluşturmak için kullanılan yapay zeka araçları olan "nudify" uygulamalarını tanıtan bir dizi reklamı kaldırdı.

Meta'dan bir sözcü, CBS News'e gönderdiği e-postada, "Rıza dışı mahrem görüntülere karşı katı kurallarımız var; bu reklamları kaldırdık, bunları yayınlayan Sayfaları sildik ve bu uygulamalarla ilişkili URL'leri kalıcı olarak engelledik" dedi.

CBS News, Meta'nın Instagram platformunda, "Hikayeler" özelliğinde, birçok durumda "bir fotoğraf yükleme" ve "herhangi birini çıplak görme" yeteneğini tanıtan AI araçlarını tanıtan düzinelerce reklamı ortaya çıkardı. Instagram'ın Hikayeleri'ndeki diğer reklamlar, gerçek insanların videolarını yükleme ve değiştirme yeteneğini tanıtıyordu. Bir tanıtım reklamında, çıplak bir deepfake örneğinin altında metin olarak "bu filtreye nasıl izin veriliyor?" yazıyordu.

Bir reklam, aktörler Scarlett Johansson ve Anne Hathaway'in aşırı cinselleştirilmiş, iç çamaşırı giymiş deepfake görüntülerini kullanarak yapay zeka ürününü tanıttı. Reklamların bazılarının URL bağlantıları, gerçek insanların görüntülerini canlandırma ve cinsel eylemler gerçekleştirme yeteneğini tanıtan web sitelerine yönlendiriyordu. Ve bazı uygulamalar, bu "özel" ve "gelişmiş" özelliklere erişmek için kullanıcılardan 20 ila 80 dolar arasında ücret alıyordu. Diğer durumlarda, bir reklamın URL'si kullanıcıları, "çıplaklaştırma" uygulamalarının indirilebildiği Apple'ın uygulama mağazasına yönlendiriyordu.

Meta'nın reklam kütüphanesindeki reklamların analizi, şirketin Facebook, Instagram, Threads, Facebook Messenger uygulaması ve Meta reklamverenlerinin şirketle ortak çalışan mobil uygulamalar ve web sitelerindeki kullanıcılara ulaşmasını sağlayan bir platform olan Meta Audience Network dahil olmak üzere sosyal medya platformlarında en azından yüzlerce reklam bulunduğunu ortaya koydu.

Meta'nın kendi Reklam Kütüphanesi verilerine göre, bu reklamların birçoğu özellikle 18-65 yaş aralığındaki erkeklere yönelikti ve ABD, Avrupa Birliği ve Birleşik Krallık'ta aktifti.

Meta sözcüsü CBS News'e yaptığı açıklamada, bu tür yapay zeka tarafından üretilen içeriklerin yayılmasının devam eden bir sorun olduğunu ve bununla mücadelede giderek daha karmaşık zorluklarla karşı karşıya kaldıklarını söyledi.

Meta sözcüsü, "Bu istismarcı uygulamaların arkasındaki kişiler tespit edilmekten kaçınmak için sürekli olarak taktiklerini geliştiriyorlar, bu nedenle yaptırımlarımızı güçlendirmek için sürekli çalışıyoruz" dedi.

CBS News, Meta'nın başlangıçta işaretlediği "nudify" deepfake araçlarına ait reklamların şirketin Instagram platformunda hâlâ mevcut olduğunu tespit etti.

Deepfake, gerçek insanların görüntüleri, ses kayıtları veya videolarının, birinin aslında söylemediği veya yapmadığı bir şeyi söylüyor veya yapıyormuş gibi gösterilmesi için yapay zeka ile değiştirilmesidir.

Geçtiğimiz ay Başkan Trump, diğer şeylerin yanı sıra internet sitelerinin ve sosyal medya şirketlerinin, mağdurun bildiriminden itibaren 48 saat içinde deepfake içerikleri kaldırmasını gerektiren iki partili " Kaldırma Yasası "nı imzaladı.

Yasa, bir kişinin rızası olmadan mahrem görüntüleri "bilerek yayınlamayı" veya yayınlamakla tehdit etmeyi, yapay zeka tarafından oluşturulan deepfake'ler dahil, yasadışı hale getirse de, bu tür yapay zeka tarafından oluşturulan içerikleri oluşturmak için kullanılan araçları hedef almıyor.

Bu araçlar, hem Apple hem de Meta'nın kendi platformlarında uyguladığı platform güvenliği ve denetim kurallarını ihlal ediyor.

Meta'nın reklam standartları politikası, "reklamlar yetişkinlere yönelik çıplaklık ve cinsel aktivite içermemelidir. Buna çıplaklık, insanların açık veya cinsel açıdan imalı pozisyonlarda tasvirleri veya cinsel açıdan imalı aktiviteler dahildir." der.

Meta'nın "zorbalık ve taciz" politikası uyarınca şirket ayrıca platformlarında "aşağılayıcı cinselleştirilmiş photoshop veya çizimleri" yasaklıyor. Şirket, düzenlemelerinin kullanıcıların rızası olmadan mahrem görüntüleri paylaşmasını veya paylaşmakla tehdit etmesini engellemeyi amaçladığını söylüyor.

Apple'ın uygulama mağazası için hazırladığı yönergelerde "rahatsız edici, duyarsız, üzücü, tiksindirici, son derece zevksiz veya sadece ürkütücü içeriklerin" yasak olduğu açıkça belirtiliyor.

Cornell Üniversitesi teknoloji araştırma merkezindeki Güvenlik, Güven ve Emniyet Girişimi direktörü Alexios Mantzarlis, bir yıldan uzun süredir sosyal platformlarda AI deepfake ağ pazarlamasındaki artışı inceliyor. Salı günü CBS News'e verdiği telefon röportajında, bu süre zarfında Meta platformlarında ve X ve Telegram gibi platformlarda bu reklamlardan binlercesini daha gördüğünü söyledi.

Telegram ve X'in bu tür içeriklere izin veren yapısal bir "kanunsuzluğa" sahip olduğunu belirten yazar, Meta liderliğinin, içerik moderatörleri olmasına rağmen, bu konuyu ele alma iradesinden yoksun olduğuna inanıyor.

"Bu şirketlerdeki güven ve emniyet ekiplerinin umursadığını düşünüyorum. Açıkçası Meta'nın durumunda şirketin en tepesindekilerin umursadığını düşünmüyorum," dedi. "Bu şeylerle mücadele etmek zorunda olan ekiplere açıkça yetersiz kaynak sağlıyorlar, çünkü bu [deepfake] ağlar ne kadar karmaşık olsa da... buna harcayacakları Meta paraları yok."

Mantzarlis ayrıca araştırmasında "çıplaklaştırma" deepfake üreteçlerinin hem Apple'ın uygulama mağazasından hem de Google'ın Play mağazasından indirilebildiğini bulduğunu ve bu büyük platformların bu tür içerikleri uygulama konusundaki yetersizliğinden duyduğu hayal kırıklığını dile getirdi.

"Uygulamalarla ilgili sorun, uygulama mağazasında yüz değiştirmenin eğlenceli bir yolu olarak sunulduğu, ancak daha sonra Meta'da birincil amaçlarının çıplaklık olduğu şeklinde pazarlama yaptıkları bu ikili kullanım cephesine sahip olmalarıdır. Bu nedenle, bu uygulamalar Apple veya Google mağazasında incelemeye alındığında, bunları yasaklamak için gerekli araçlara sahip olmuyorlar," dedi.

Mantzarlis, "Uygulama veya web sitesi, web üzerinde herhangi bir yerde kendini çıplaklaştırma aracı olarak pazarlıyorsa, diğer herkesin 'Tamam, platformumda kendini nasıl tanıttığının bir önemi yok, gittin' diyebilmesi için sektörler arası bir işbirliğine ihtiyaç var" diye ekledi.

CBS News, platformlarını nasıl denetledikleri konusunda yorum almak için hem Apple hem de Google'a ulaştı. Yazının yazıldığı zamana kadar hiçbir şirket yanıt vermedi.

Büyük teknoloji şirketlerinin bu tür uygulamaları tanıtması, hem kullanıcı onayı hem de küçükler için çevrimiçi güvenlik konusunda ciddi soruları gündeme getiriyor. CBS News'in Instagram'da tanıtılan bir "nudify" web sitesinin analizi, sitenin bir kullanıcının deepfake bir görüntü oluşturmak için bir fotoğraf yüklemesinden önce herhangi bir yaş doğrulaması talep etmediğini gösterdi.

Bu tür sorunlar yaygındır. Aralık ayında, CBS News'in 60 Minutes programı, gerçek insanların sahte çıplak fotoğraflarını üretmek için yapay zeka kullanan en popüler sitelerden birinde yaş doğrulamasının olmaması hakkında bir haber yaptı.

Ziyaretçilere siteyi kullanmak için 18 yaşında veya daha büyük olmaları gerektiği ve "küçüklerin işlenmesinin imkansız olduğu" söylenmesine rağmen, 60 Minutes, kullanıcının yaş uyarısı isteminde "kabul et"e tıklamasının ardından, başka bir yaş doğrulaması gerekmeden, anında fotoğraf yükleme erişimine erişebildi.

Veriler ayrıca reşit olmayan gençlerin yüksek bir yüzdesinin deepfake içerikle etkileşime girdiğini gösteriyor. Çocukları koruma kar amacı gütmeyen Thorn tarafından Mart 2025'te yürütülen bir çalışma, gençler arasında %41'inin "deepfake çıplaklık" terimini duyduğunu söylerken, %10'unun kendileri hakkında deepfake çıplaklık görüntüleri oluşturulmuş birini şahsen tanıdığını bildirdiğini gösterdi.