TikTok. Af Örgütü zararlı içerik konusunda uyarıyor

Uluslararası Af Örgütü, Pazar günü yaptığı açıklamada, video platformu TikTok'un, kuruluşun yürüttüğü bir soruşturmada ifşa edilmesinin üzerinden yaklaşık 18 ay geçmesine rağmen, genç kullanıcıların ruhsal ve fiziksel sağlığına yönelik ciddi zarar risklerini ele almada başarısız olmaya devam ettiğini söyledi.

Uluslararası Af Örgütü (AI) yaptığı açıklamada, 2023 yılında yapılan bu araştırmanın, TikTok'un "Sizin İçin" akışında , çocukların ve genç kullanıcıların depresyon ve intiharla ilgili içeriklerin oluşturduğu zehirli bir "kara deliğe" çekilme riski altında olduğu sonucuna vardığını, şirketin şu ana kadar bu sorunu kabul etmede veya bu soruna yönelik özel çözümler sunmada başarısız olduğunu belirtti.

Örgüt, aşırı diyetlerle ilgili yoğun içerikler ve vücut imajıyla ilgili içeriklerin, özellikle genç kullanıcıların ruhsal sağlığı üzerinde olumsuz etki yaratma olasılığı konusunda uyarıyor.

Çevrimiçi ortamda 13 yaşındaki çocukları simüle eden hesaplar kullanılarak yapılan araştırmada, bir hesap oluşturulduktan ve ruh sağlığına ilgi gösterildikten sonraki 20 dakika içinde TikTok'un "Sizin İçin" akışındaki videoların yarısından fazlasının ruh sağlığı sorunlarıyla ilgili olduğu görüldü.

“Tek bir saat içinde önerilen bu videoların birçoğu intiharı romantikleştiriyor, normalleştiriyor veya teşvik ediyordu” diyor ve bunun, Kasım 2023'te yayınlanan, en popüler sosyal medya platformlarından birinde çocuk ve gençlerin haklarına yönelik riskler üzerine yapılan araştırma projesinin temel sonuçlarından biri olduğunu vurguluyor.

AI'nın soruşturmadan bu yana hangi değişiklikleri uyguladığına ilişkin sorusuna yanıt olarak TikTok, soruşturma yürütüldüğünde çoğu yürürlükte olan daha önce bilinen refah önlemlerini sıraladı; ancak uygulamanın "kara delik" sorununu kabul etmedi veya belirli yeni önlemlere dair kanıt sunmadı.

Soruşturmaya göre TikTok'un müdahaleci iş modeli, kullanıcıların platformda yaptığı her şeyi izleyerek ilgi alanlarını, duygusal durumlarını ve refahlarını tahmin etmeye çalışıyor ve Sizin İçin akışında daha kişiselleştirilmiş içerikler göstererek, içerik zararlı olsa bile kullanıcıların gezinmeye devam etmesini sağlıyor.

Yapay zeka, özellikle risk altındaki kullanıcıların bağımlılık yaratan kullanım kalıplarına düşmesini ve tehlikeli ve zararlı içerik tuzaklarına düşmesini önlemek için etkili koruyucu önlemlerin alınmasını savunmaktadır.