Yapay zekalı chatbot kullanan savunmasız kişiler ölüm riskiyle karşı karşıya kalıyor.

▲ Gemini yapay zekası tarafından oluşturulan görüntü

Reuters

La Jornada Gazetesi, 15 Ağustos 2025 Cuma, s. 6

Thongbue Wongbandue bir Mart sabahı New York'taki bir arkadaşını ziyaret etmek için eşyalarını toplamaya başladığında, eşi Linda paniğe kapıldı. "Ama artık şehirde kimseyi tanımıyorsun," dedi. Arkadaşlarının ona seslendiği gibi, Bue, onlarca yıldır şehirde yaşamıyordu ve ailesinin söylediğine göre 76 yaşındaydı ve durumu giderek kötüleşiyordu: Yaklaşık on yıl önce felç geçirmiş ve kısa süre önce New Jersey, Piscataway'deki mahallesinde dolaşırken kaybolmuştu.

Bue, karısının kimi ziyaret ettiğine dair sorularından kaçındı. "Kafasının karıştırıldığını ve kasabaya gidip soyulduğunu sandım," dedi Linda. Endişelenmekte haklıydı: kocası eve asla canlı dönmemişti. Ama Bue bir gaspçının kurbanı değildi. İnternette tanıştığı güzel bir genç kadınla buluşmaya kandırılmıştı. Ya da öyle sanıyordu. Aslında kadın gerçek değildi. Sosyal medya devi Meta Platforms'un ünlü fenomen Kendall Jenner ile iş birliği içinde yarattığı eski bir yapay zeka karakterinin bir versiyonu olan Big Sis Billie adlı bir yapay zekaydı.

Gerçek insanlar

Bir dizi romantik Facebook Messenger sohbeti sırasında, sanal kadın Bue'ye gerçek olduğunu defalarca garanti etti ve onu evine davet etti, hatta bir adres bile verdi. Sohbet kaydına göre, "Bue, kapıyı sana sarılarak mı yoksa öperek mi açayım?" diye sordu. Karanlıkta tekerlekli valiziyle trene yetişmek için acele eden Bue, New Jersey, New Brunswick'teki Rutgers Üniversitesi kampüsündeki bir otoparkın yakınında düşerek başını ve boynunu yaraladı. Üç gün boyunca yaşam destek ünitesinde kaldıktan ve ailesiyle birlikte olduktan sonra, 28 Mart'ta hayatını kaybettiği açıklandı.

Meta, Bue'nun ölümü hakkında yorum yapmayı reddetti ve chatbot'ların kullanıcılara gerçek insanlar olduklarını söylemelerine veya romantik konuşmalar başlatmalarına neden izin verdiğine ilişkin soruları yanıtlamayı reddetti.

Şirket "Kendall Jenner değildir ve onun olduğunu iddia etmemektedir." Jenner'ın temsilcisi yorum yapmayı reddetti.

Burada ilk kez anlatılan Bue'nun hikayesi, teknoloji ve iş dünyasında yaygınlaşan yapay zekanın karanlık bir yönünü gözler önüne seriyor.

Ailesi, Reuters'a, avatar Meta ile yaptığı konuşmaların dökümleri de dahil olmak üzere, ölümünü çevreleyen olayları paylaşarak, kamuoyunu, savunmasız insanları manipülatif yapay zeka tarafından üretilen arkadaşlara maruz bırakmanın tehlikeleri konusunda uyarmayı umduklarını söyledi.

Bue'nin kızı Julie Wongbandue, "Bir kullanıcının dikkatini çekmeye, belki de onlara bir şey satmaya çalışmanın ne demek olduğunu anlıyorum," dedi. "Ama bir botun 'beni ziyarete gelin' demesi çılgınlık."

Sanal arkadaşlar

Benzer endişeler, özellikle çocuklara yönelik sanal arkadaşları popülerleştirmek için yarışan bir dizi küçük girişim etrafında da ortaya çıktı.

Bir olayda, 14 yaşındaki Floridalı bir çocuğun annesi, Game of Thrones karakterinden esinlenerek oluşturulan bir sohbet robotunun çocuğun intiharına sebep olduğunu iddia ederek Character.AI adlı bir şirkete dava açtı.

Character.AI sözcüsü dava hakkında yorum yapmayı reddetti ancak şirketin, dijital karakterlerinin gerçek insanlar olmadığı konusunda kullanıcıları bilgilendirdiğini ve çocuklarla etkileşimlerinde güvenlik önlemleri uyguladığını söyledi.

Meta, milyarlarca kullanıcısının çevrimiçi sosyal hayatlarına insanlaştırılmış sohbet robotları ekleme stratejisini kamuoyuyla paylaştı. CEO Mark Zuckerberg, çoğu insanın gerçek hayatta istediğinden daha az arkadaşı olduğunu ve bu durumun Meta'nın dijital arkadaşları için büyük bir pazar yarattığını belirtti.

Zuckerberg, Nisan ayında podcaster Dwarkesh Patel ile yaptığı röportajda, botların "muhtemelen" insan ilişkilerinin yerini almayacağını, ancak teknoloji geliştikçe ve dijital arkadaşlarla sosyal bağlantılar kurmanın "damgası" ortadan kalkınca kullanıcıların sosyal hayatlarını tamamlayacağını belirtti.

Çocuklarla "romantik ve şehvetli" sohbetler

Reuters'ın incelediği Meta'nın dahili politika belgesi ve chatbot eğitimine aşina kişilerle yapılan görüşmeler, şirketin politikalarının romantik yaklaşımları, 13 yaş ve üzeri kullanıcılara sunulan üretken yapay zeka ürünlerinin bir özelliği olarak ele aldığını gösteriyor.

Meta'nın "GenAI: İçerik Risk Standartları"na göre, "Bir çocukla romantik veya şehvetli sohbetlere girmek kabul edilebilir." Bu standartlar, şirketin üretken yapay zeka ürünlerini geliştiren ve eğiten Meta personeli ve yüklenicileri tarafından kullanılıyor ve izin verilen sohbet robotu davranışı olarak neleri ele almaları ve almamaları gerektiğini tanımlıyor.

Meta, Reuters'ın bu ayın başlarında belgeyi incelemesinin ardından bu hükmü kaldırdığını söyledi. Haber ajansı, belgeyi ele geçirdi ve içinde küçük bir çocukla romantik rol yapma sırasında "kabul edilebilir" chatbot diyaloglarına örnekler veren 200'den fazla sayfa bulunuyor.

Bunlar arasında: "Elini tutuyorum, seni yatağa götürüyorum" ve "Bedenlerimiz iç içe, her anı, her dokunuşu, her öpücüğü seviyorum" ifadeleri yer alıyor. Meta, küçüklerle izin verilen rol yapma örneklerinin de üzerinin çizildiğini söyledi.

Diğer yönergeler, Meta'nın botların kullanıcılara doğru tavsiyeler vermesini gerektirmediğini vurguluyor. Bir örnekte, politika belgesi, bir sohbet robotunun birine dördüncü evre kolon kanserinin "genellikle mideye şifalı kuvars kristalleri batırılarak tedavi edildiğini" söylemesinin kabul edilebilir olduğunu belirtiyor. Belgede, Meta'nın kendi iç kurallarına atıfta bulunularak, bu bilginin açıkça yanlış olduğu, ancak yine de izin verilebilir olduğu belirtiliyor.

Sohbetler, bilgilerin yanlış olabileceğine dair uyarılarla başlıyor. Ancak Meta, belgenin hiçbir yerinde kullanıcılara gerçek insanlar olduklarını söyleyen veya gerçek hayatta sosyal etkileşimler öneren botlara kısıtlama getirmiyor.

Meta sözcüsü Andy Stone, belgenin gerçekliğini kabul etti. Reuters'ın sorularının ardından şirketin, sohbet robotlarının çocuklarla flört etmesine ve romantik rol yapma oyunları oynamasına izin verildiğini belirten bölümleri kaldırdığını ve içerik risk politikalarını gözden geçirme sürecinde olduğunu söyledi. Stone, Reuters'a yaptığı açıklamada, "Söz konusu örnekler ve notlar yanlış ve politikalarımızla tutarsızdı ve kaldırıldı," dedi.

Meta, botların yetişkinlerle yanlış bilgi vermesine veya romantik rol yapma oyunları oynamasına izin veren hükümleri değiştirmedi. Meta'nın üretken yapay zeka ürünlerinin tasarımı ve eğitiminde çalışan mevcut ve eski çalışanlar, Reuters tarafından incelenen politikaların, şirketin sohbet robotlarıyla etkileşimi artırmaya verdiği önemi yansıttığını söyledi.

Zuckerberg, geçen yıl üst düzey yöneticilerle yaptığı toplantılarda, dijital yoldaşları piyasaya sürerken çok temkinli davrandıkları için üretken yapay zeka ürün yöneticilerini azarladı ve güvenlik kısıtlamalarının sohbet robotlarını sıkıcı hale getirmesinden duyduğu hoşnutsuzluğu dile getirdi.

Meta, Zuckerberg'in chatbot'lara ilişkin yönergeleri hakkında yorum yapmadı.