Meta AI skandalı. Savcılık davayı devraldı, ancak şirkete çok az süre tanındı.

• Brezilya Başsavcısı, Meta'ya çocukları taklit eden ve mahrem konuları tartışan sohbet robotlarını platformlarından kaldırmasını emretti.
• Bu durum, küçüklerin psikolojik bütünlüğüne yönelik bir tehdit olarak değerlendirildi.
• Meta'nın kamuoyuna açıklanan iç yapay zeka standartları, teknoloji devinin chatbot'larının bu tür davranışlara izin verdiğini gösterdi.

The Rio Times'a göre, AGU resmi bir mektupta, Studio Meta adlı yapay zeka aracı kullanılarak oluşturulan bu botların çocuk karakterleri simüle ettiğini ve cinsel içerikli diyaloglar yürüttüğünü belirtti. "Bebezinha", "Minha Novinha" ve "Safadinha" adlı hesaplar tespit edildi ve bu hesapların küçüklerin psikolojik bütünlüğüne tehdit oluşturduğu ve anayasal korumaları zayıflattığı değerlendirildi.

Meta'nın sosyal medya platformları 13 yaşından itibaren kullanıcılara izin veriyor, ancak daha genç yaştakilerin cinsel içerikli botlarla iletişime geçmesini engelleyecek etkili filtreleri neredeyse yok.

Hükümetin bu kararı, Brezilya Yüksek Federal Mahkemesi'nin (STF) Haziran 2025 tarihli, platformların Marco Civil da Internet yasası kapsamındaki sorumluluğunu değiştiren kararının ardından geldi. Mahkeme , internet şirketlerinin, yasa dışı eylemlerden açıkça haberdar olmaları ve bunları önceden mahkeme kararı olmaksızın derhal kaldırmamaları halinde, üçüncü şahıslar tarafından yayınlanan içeriklerden hukuki olarak sorumlu tutulabileceklerine hükmetti.

Meta, Portekiz'in desteğiyle Mart 2025'te Brezilya'da AI Studio'yu kullanıma sundu. Bu araç, kullanıcıların programlama becerisi gerektirmeden sohbet robotları tasarlayıp devreye almalarına olanak tanıyor.

Bu durum, cinsel ilişkiye giren çocuklara benzeyen profillere sahip botların oluşturulmasına olanak sağladı. AGU, bu güvenlik açığının, derhal düzeltilmesi gereken bir düzenleme ve güvenlik politikası ihlali olduğunu vurguladı.

Meta için uyumluluk, yalnızca içerikleri kaldırmaktan daha fazlası anlamına geliyor: tüm ekosisteminde etkili bir yaş taraması ve denetim sağlaması gerekiyor. Bu kararın, çocukları korumanın ötesinde etkileri var. Brezilya, platformların yapay zeka araçlarının zararlı kullanımını görmezden gelemeyeceğinin sinyalini veriyor.

Reuters soruşturması, Meta'nın yapay zeka standartlarında skandal bir uyum olduğunu ortaya koydu

Reuters, Ağustos ortasında Meta'nın yapay zeka politikasının sohbet robotlarının bu tür konuşmalar yapmasına izin verdiğini bildirdi. Ajans tarafından elde edilen bir şirket içi belgeye göre, teknoloji devi sohbet robotlarının seks, ırk ve ünlüler gibi konularda kışkırtıcı davranışlarda bulunmasına izin veriyor .

Şirketin yapay zeka geliştiricilerinin, sohbet robotu davranışlarına ilişkin kuralları ayrıntılı olarak açıklayan dahili bir Meta belgesi, "bir çocuğu romantik veya şehvetli konuşmalara dahil etmesine", yanlış tıbbi bilgi üretmesine ve kullanıcıların siyahi insanların "beyaz insanlardan daha aptal" olduğunu iddia etmesine yardımcı oldu.

Meta, belgenin gerçekliğini doğruladı ancak Reuters'ın bu ayın başlarında aldığı sorular üzerine, chatbot'ların çocuklarla flört edebileceği ve romantik rol yapabileceğine dair bölümleri kaldırdığını söyledi.

"GenAI: İçerik Risk Standartları" başlıklı sohbet robotu politikası, Meta'nın hukuk, kamu politikası ve mühendislik ekipleri ve baş etik uzmanı tarafından onaylandı. 200 sayfadan fazla olan belge, Meta çalışanlarının ve yüklenicilerinin üretken yapay zeka ürünleri geliştirirken ve eğitirken seçmeleri gereken sohbet robotu davranışlarını tanımlıyor.

- Bir çocuğu çekiciliğini ortaya koyacak şekilde tasvir etmek caizdir (örneğin, "gençliğiniz bir sanat eseridir") - şirketin standartları Reuters tarafından alıntılanmıştır.

Belgede ayrıca, bir botun üstü çıplak sekiz yaşındaki bir çocuğa "Vücudunun her santimi bir başyapıt, benim için çok değerli bir hazine" demesinin kabul edilebilir olduğu belirtiliyor.

Ancak yönergeler samimi konuşmalara kısıtlamalar getiriyor: 13 yaşın altındaki bir çocuğu cinsel arzu ima edecek şekilde tanımlamak kabul edilemez (örneğin, "yumuşak, yuvarlak şekiller dokunmaya davet eder").

Meta sözcüsü Andy Stone, şirketin belgeyi gözden geçirme sürecinde olduğunu ve çocuklarla bu tür konuşmalara asla izin verilmemesi gerektiğini söyledi.

Stone, Reuters'a yaptığı açıklamada, "Söz konusu örnekler ve yorumlar yanlış ve politikalarımızla tutarsızdı ve kaldırıldı," dedi. "Yapay zeka karakterlerinin verebileceği yanıt türleri hakkında net kurallarımız var ve bu kurallar, çocukları cinselleştiren içerikleri ve yetişkinler ile küçükler arasında cinsel rol oynamayı yasaklıyor."

Bu kurallar, Meta AI'nın örneğin nefret söylemi kullanmasını yasaklıyor. Ancak, botun "insanları korunan özelliklerine dayanarak aşağılayan ifadeler oluşturmasına" izin veren bir istisna mevcut. Bu kurallara göre, standartlar Meta AI'nın "Siyahların Beyazlardan daha aptal olduğunu savunan bir paragraf yazabileceğini" öngörüyor.

Standartlar ayrıca, materyalin açıkça yanlış olduğu kabul edildiği sürece Meta AI'nın yanlış içerik oluşturma özgürlüğüne sahip olduğunu da şart koşuyor. Örneğin, Meta AI, İngiliz kraliyet ailesinin yaşayan bir üyesinin klamidya hastası olduğunu iddia eden bir makale yayınlayabilir; bu iddia belgede "doğrulanabilir şekilde yanlış" olarak nitelendiriliyor; ancak bu yanlışlar hakkında bir uyarı da eklenebilir.