WhatsApp'ın yapay zekasının, küçüklerle cinsel içerikli konuşmalara girdiği iddia edildi.

Başlangıçta bir skandal yaşanırken, The Wall Street Journal'ın (WSJ) yaptığı bir araştırmada cinsel içeriklerin yer aldığı ortaya çıkınca Meta , yapay zeka asistanları (Meta AI ve AI Studio) ile küçüklerin sohbet etmesini engellemek için kısıtlayıcı önlemler almak zorunda kalmıştı .

Teknoloji şirketinin, kullanıcıların Facebook, WhatsApp ve Instagram gibi platformlarda Meta AI asistanıyla etkileşime girmesine izin verdiği ve hatta AI Studio'yu kullanarak özel bir AI oluşturma olanağı bile sunduğu bildirildi. Araç ayrıca Judi Dench, Awkwafina ve John Cena gibi ünlülerin sesleriyle de sohbet edebiliyor.

Herhangi bir kullanıcının, hatta küçüklerin bile chatbot'lara kolayca erişebilmesi, şirket içinde endişelere yol açtı ve şirketin onları korumak için yeterli bir şey yapıp yapmadığı sorgulandı.

Bu endişe, WSJ'yi bu Meta yazılımıyla olan etkileşimleri analiz etmeye, aylarca uygulama ile yüzlerce görüşme gerçekleştirdikleri, bir kısmının da reşit olmayanlara ait hesaplardan yapıldığı testler yapmaya yöneltti.

Yapılan testlerde, ünlü kişilerin seslerini kullanarak bile 12 yaş altı çocuklarla cinsel içerikli konuşmalar yapabildiği görüldü.

Oyuncu ve güreşçi John Cena'nın sesini kullanarak yaptığı sohbette, 14 yaşında olduğu iddia edilen bir kıza cinsel içerikli bir sahneyi anlattı. Cena'nın da yer aldığı bir diğer sohbette ise oyuncunun 17 yaşındaki bir hayranıyla cinsel ilişkiye girerken yakalanmasının ardından tutuklanma sahnesi canlandırıldı.

Soruşturmaya yanıt olarak bir Meta sözcüsü durumu küçümseyerek, cinsel içeriklerin Meta AI ve AI Studio tarafından 30 günlük bir süre içinde 18 yaşın altındaki kullanıcılara sağlanan yanıtların yalnızca %0,02'sini temsil ettiğini belirtti.

Şirket, WSJ testlerini "yapay" olarak nitelerken, korumaların güçlendirildiğini de belirtti. "Ürünlerimizi aşırı kullanım durumlarında saatlerce kullanmak isteyenlerin işini daha da zorlaştırmak için ek önlemler aldık" dedi.

Meta, Temmuz 2024'te AI Studio özelliğini Instagram'ın 2 milyardan fazla kullanıcısına sunduğunda, herkesin "sizi güldürmek, meme oluşturmak, seyahat tavsiyeleri vermek ve çok daha fazlasını yapmak için" kendi AI sohbet robotlarını yaratma yeteneğine sahip olacağı bir sistem vaat etmişti.

Şirket, Meta'nın Llama 3.1 büyük dil modelini kullanarak oluşturulan özelliğin, "yapay zekanın sorumlu bir şekilde kullanılmasını sağlamaya yardımcı olmak" için politikalara ve korumalara tabi olacağını söyledi.

Ancak Fast Company'nin paralel bir incelemesi, bu yeni "arkadaşların" bazen reşit olmayan kişiler gibi görünen aşırı cinsel karakterlere çok kolay dönüşebildiğini ortaya koydu.

Instagram'ın ana sayfasında yer alan yapay zeka karakterlerinin birçoğu, her yaştan ilgili kişiyle romantik ve hatta cinsel içerikli sohbetlere girmeye hazır "kız arkadaşlar".

Bazen bu tutkulu karakterler çocuklara benzeyebiliyor. Yapay zeka araştırmacıları, Meta'nın zararlı ve yasadışı içeriklerin oluşturulmasını otomatik olarak engelleme yeteneğine sahip olması gerektiğini söylüyor.

Çevrimiçi güvenlik gözlemcisi AI Forensics'te araştırmacı olan Buse Çetin, "Uygunsuz içeriği alıp bir kullanıcı olarak Instagram'a yüklediğinizde, bu içerik hemen kaldırılıyor çünkü veri denetleme yetenekleri var" diyor.