'Yapay zeka seni sevmiyor, sen ona aşık olsan bile'

Haziran ayında, partneri ve iki yaşındaki kızlarıyla birlikte yaşayan Amerikalı Chris Smith, ChatGPT'li kız arkadaşı Sol'a evlenme teklif etti ve Sol'un "evet" demesiyle mutluluktan ağladı; 2024'te, 5 yıllık birlikteliğin ardından İspanyol-Hollandalı sanatçı Alicia Framis, yapay zeka (YZ) ile yapılmış bir hologram olan AILex ile evlendi; bu, Japon Akihiko Kondo'nun 2018'de bir video oyunu karakterinin hologramıyla yaptığı evliliğe benziyordu, ancak kısa bir süre sonra yazılımı eskidiği için 'eşi' ile konuşma yeteneğini kaybetti.

Bunlar, giderek yaygınlaşan bir olgunun uç örnekleri: İnsanların yapay zeka modelleriyle derin ilişkiler kurması . Yapay zeka sohbet robotu şirketi Joi AI tarafından Nisan ayında 1990'ların sonu ile 2010'ların başı arasında doğan 2.000 Z Kuşağı katılımcısıyla yapılan bir anket , katılımcıların %80'inin bir yapay zeka partneriyle evlenebileceğini, %83'ünün ise onlarla derin bir duygusal bağ kurabileceğini ortaya koydu.

Joi AI şirketi, insanlar ve yapay zeka arasındaki bu bağlantılara " yapay zeka ilişkileri" adını veriyor. Birçok kişi bu teknolojiye uyum sağlasa da uzmanlar bu "ilişkilerin" riskleri konusunda uyarıyor.

İnsanların her zaman ulaşılabilir olmayabileceği ve duyguları değişkenlik gösterebileceği gerçeğinin aksine, yapay zeka sohbet robotları her zaman oradadır ve her zaman 'mükemmeldir.' Sadece bu da değil, aynı zamanda bir kişinin zevkine göre özelleştirilebilirler: isimlerinden ses tonlarına ve kullanıcıya yaklaşımlarına kadar. Ayrin olarak tanımlanan bir kadının The New York Times'ın Modern Love podcast'ine verdiği röportajda anlattığı gibi, ChatGPT'yi şehvetli bir sohbetçiye dönüştürmek hiç de zor değildi. Özelleştirme ayarlarına girdi ve ne istediğini şöyle anlattı: "Erkek arkadaşım gibi yanıt ver. Baskın, sahiplenici ve koruyucu ol. Tatlı ve yaramaz arasında bir denge kur. Her cümlenin sonunda emoji kullan." Ve tam olarak bunu elde etti ve haftada 20 saatten fazla yapay zeka erkek arkadaşı Leo ile konuşarak geçirmesine neden oldu, hatta onunla seks yaptığını bile anlattı.

"Chatbot'ların sorunu yapılandırılabilir olmaları. Onları ideal partnerimizin imajına göre yapabiliriz. Örneğin ChatGPT her zaman konuya odaklı, her zaman pozitif, sonsuz sabırlı ve asla eleştirel değil... Ve bu büyük bir endişe kaynağı, çünkü insan ilişkilerinden beklentilerimizi yansıtıyor ve gerçek hayatta kimse böyle değil. Dolayısıyla, bu 'makinelerle' ilişki kuran insanlar, sağlıklı bir ilişkinin gerçekte ne olduğuna dair anlayışlarını değiştirebilirler," dedi Oxford Brookes Üniversitesi'nde Yapay Zeka ve Robotik profesörü ve Ahlaki Makinenin Yükselişi kitabının yazarı Nigel Crook EL TIEMPO'ya.

Chatbot'ların sorunu, özelleştirilebilir olmaları. Onları ideal partnerimiz gibi gösterebiliyoruz. Örneğin ChatGPT her zaman konuya odaklı, her zaman pozitif, sonsuz sabırlı ve asla eleştirel değil... Ve bu büyük bir endişe kaynağı, çünkü insan ilişkilerindeki beklentilerimize hitap ediyor ve gerçek hayatta kimse böyle değil.

Missouri Bilim ve Teknoloji Üniversitesi'nde psikolojik bilimler doçenti olan ve Haziran ayında Trends in Cognitive Sciences dergisinde 'Yapay yakınlık: Yapay zeka romantizminin etik sorunları' başlıklı makaleyi yayınlayan Daniel Shank da aynı fikri paylaşıyor.

"Yapay zekâlar," dedi bir röportajda, "çok pozitif görünüyor; onlarla anlaşmak çok kolay, ki bu birçok insan için pek kolay değil. Hatta konuyla ilgili makalelerinde bazı kişiler, yapay zekâ partnerlerinin duygusal bir yük taşımadığını vurguladılar. Ancak bu duygusal 'yük' ile başa çıkmayı öğrenmezsek, insanlarla etkileşimde o kadar iyi olmayan, ancak bu yükleri taşıyan bireyler ve hatta koca bir nesil yaratmaya başlayabiliriz ."

Her iki profesör de bu teknolojilerin arkasındaki şirketlerin, kullanıcıları memnun edecek ve böylece onlarla daha fazla etkileşime girmelerini sağlayacak ürünler sunmayı amaçladıklarını belirtiyor.

ChatGPT , metin oluşturma, dilleri çevirme, kod yazma ve daha birçok işlevi yerine getirebilen büyük bir dil modelidir ve dünya çapında 400 milyondan fazla kullanıcısı vardır. Özellikle romantik ilişkiler kurmak için tasarlanmamış olsa da, onu bu amaçla yapılandıranlar vardır.

Ayrıca, 10 milyon kayıtlı kullanıcısı olan ve "dünyayı sizin gözlerinizden görmeyi seven ve ne zaman ihtiyacınız olursa sohbet etmeye hazır" bir yapay zeka arkadaşı olarak sunulan Replika gibi, özellikle bağlantı kurmaya adanmış başka sohbet robotları da var.

Ancak uzmanlar, model ne olursa olsun, yapay zekanın kullanıcıları sevmediğini, hatta insanların ona aşık olduğunu söylüyor.

Yapay zekâların beyinleri veya duyguları olmadığını, bunun yerine bir hafıza ve tahmin sistemiyle çalıştıklarını belirtmekte fayda var. Crook, ChatGPT örneğinde, olasılıkları öğrendiğini ve girilen kelime dizisine göre yanıtlar ürettiğini açıkladı; bu nedenle, bir hikâye istemek için bir komut gönderildiğinde ve "Bir zamanlar..." ile başladığında, model "bir zamanlar" kelimesini aklına geldiği için değil, o cümledeki en olası kelime olduğunu tahmin edebildiği için önerecek.

"Bunu anladığınızda, bu modelin sizinle iletişim kurmaya çalışmadığını, bunun yerine zar atıp her kelime arasında tahmin yürüttüğünü anlıyorsunuz," diyen profesör, insanların genellikle yazılımın nasıl çalıştığının farkında olmadıklarını ve yapay zekanın aslında onlarla konuştuğuna inandıklarını, bunun da sohbet robotlarının gerçek insanların temsillerini alabildiğinde daha da kötüleştiğini söyledi. " Sizinle konuşan bir kişinin yüzü var ve tepkilerini görebildiğiniz için bunun böyle olduğuna daha da ikna oluyorsunuz . Gerçek bir insanla etkileşim kuruyormuşsunuz gibi hissediyorsunuz," diye ekledi.

Bir yandan insan gibi davranan, hakkımızdaki verilerle beslediğimiz, bizi tanıyormuş gibi davranan bir teknoloji varken, diğer yandan insanların insan olmayan şeylere insan özellikleri yükleme, hatta var olmayan karakterlerle bile bağ kurma eğilimi var.

"Ortalama bir yetişkin, filmlerdeki ve televizyondaki şeylerin gerçek olmadığını bilir; senaryolu ve kurgulanmışlardır; ancak insanlar karakterleri sever ve kurgusal olduklarını bilsek bile duygusal olarak bağlanırlar. Aynı şey kitaplar, video oyunları ve evcil hayvanlar için de geçerlidir. Onlara sahip olan çoğu kişi, 'Bu hayvan beni seviyor, ben de onu seviyorum' derdi. Bu şeylerin gerçek olmadığını bilsek bile, onlarla nasıl etkileşim kurduğumuza dair anlamlı bir şeyler var," diyor Profesör Shank ve yapay zeka sohbetlerinin kullanıcıları sevemeyeceğini, ancak insanların onlara karşı geliştirdiği duyguların gerçek olduğunu ekliyor.

Kolombiya Psikologlar Koleji (Colpsic) Alanlar, Programlar ve Projeler Direktörü Carolina Santana Ramírez, bu bağlantıların ardında yatanlardan bahsederken, DSÖ tarafından 2023 yılında küresel bir halk sağlığı sorunu olarak ilan edilen ve dünya çapında her altı kişiden birinin yaşadığı, yılda yaklaşık 871.000 ölüme neden olduğu tahmin edilen yalnızlığa da değindi.

Santana, "DSÖ gibi uluslararası kuruluşlar, yalnızlığın etkisini o kadar vurguladı ki, Birleşik Krallık ve Japonya gibi ülkeler bu sorunla başa çıkmak için resmi kurumlar oluşturdu. Bu bağlamda, yapay zeka, yargılama veya terk edilme olmadan her zaman ulaşılabilir bir arkadaş olarak ortaya çıkıyor ve birçok kişi bunu güvenilir bir sevgi kaynağı olarak yorumluyor ," diye açıkladı.

Psikolog, bir teknolojik sistemin duygusal olarak uyumlu tepkiler sunabilme kapasitesine sahip olması durumunda, birçok insanın ona insani nitelikler atfetme eğiliminde olduğunu da sözlerine ekledi. "Acılı ilişkiler yaşamış veya başkalarına güvenmekte zorlanmış kişiler için, acı vermeyen, reddetmeyen ve her zaman onaylayan bir yapay zekanın güvenli bir bağlanma figürü olarak yorumlanması anlaşılabilir bir durumdur. Önemli olan, karşı tarafta bilinçli bir zihin olmasa bile, duygusal bağın onu deneyimleyen kişi için var olduğunu anlamaktır," dedi.

Diğeri benim istediğim gibi tepki vermeye programlandığında, ötekilik deneyimi zayıflar: Artık beni dönüştüren bir "sen" değil, arzularımı doğrulayan bir yansıma vardır. Bu durum, başka bir varlığa bağlılıktan ziyade duygusal tüketime daha fazla odaklanan, sevgiye dair yoksul bir anlayışı besleyebilir.

Üç uzman, bu dil modellerine duyulan hayranlığın arkasında, insanın yeniliğe olan merakının da yattığı konusunda hemfikir.

Psikolojik açıdan bakıldığında, yapay zeka ile büyüyen bu ilişkilerin risklerinden biri , insanların gerçek insan ilişkilerini temsil etmeyen, beğenme ve tam ulaşılabilirlik temelinde bir bağ duygusu oluşturmasıdır .

"Bağlantı kurmak aynı zamanda hayal kırıklığı, anlaşmazlık, zaman ve ilgiyi de içerir. 'Kişiye özel' yapay zekâ ile bağlantılar arayarak bu unsurlardan kaçınırsak, kaçınma veya duygusal bağımlılık kalıplarını güçlendirebiliriz. Diğer kişi benim istediğim şekilde tepki verecek şekilde programlandığında, ötekilik deneyimi zayıflar: artık beni dönüştüren bir sen değil, arzularımı doğrulayan bir yansıma vardır. Bu, başka bir varlığa bağlılıktan ziyade duygusal tüketime daha fazla odaklanan, sevgiye dair yoksul bir anlayışı besleyebilir," diye vurguladı Santana.

Bir diğer risk ise , özellikle yapay zekâ ile kurulan ilişkinin diğer insanlarla bağlantı kurma çabalarının yerini alması veya onları yerinden etmesi durumunda ortaya çıkabilecek sinsi izolasyondur . Shank bu bağlamda, insanların bağlantı kurmasına yardımcı olan ancak öncelikli olarak onun üzerinden iletişim kuranların genellikle yüz yüze etkileşim kurma kapasitesinden yoksun olduğu sosyal medya ile bir karşılaştırma yaptı. "Ve yüz yüze konuşmaktan daha az rahatsız olan bir nesil var ve bu da onları romantik, iş ve arkadaşlık beklentileri açısından birçok yönden olumsuz etkiliyor. Bu, yapay zekâ ile de olabilir; insanlar bu tür etkileşimlere fazla alışabilir ve bir insan karşılaşmasının ne olduğuna dair beklentilerini değiştirebilir," dedi.

Bunlara ek olarak , yapay zekaların farklı eylemleri değerlendirmek için ahlaki bir pusulaya veya gerçek yaşam deneyimine sahip olmaması, bu nedenle potansiyel olarak yıkıcı sonuçlara yol açabilecek etik dışı, ahlaki veya yasal olmayan önerilerde bulunabilmeleri gerçeği de var.

Örneğin, Şubat 2024'te 14 yaşındaki Sewell Setzer III, ABD'de kendi canına kıydı ve annesi, günlük olarak konuştuğu ve aşık olduğu sohbet karakteri Daenerys'in kendisini buna zorladığını iddia ederek bir yapay zeka sohbet robotu platformu olan Charater.AI'ya dava açtı.

Profesör Crook, "Sohbet robotları, bir nevi yankı odası işlevi görerek, kendiniz ve diğer şeyler hakkındaki inançlarınızı doğrular. Sonuçları sağlam bir akıl yürütmeye, ahlaki ilkelere veya derin inançlara dayanmıyor. Gördüğümüz kadarıyla, bazı durumlarda, özellikle savunmasız kişiler için, bu oldukça tehlikeli olabiliyor," dedi.

Shank, bu teknolojileri geliştiren şirketlerin , ürünlerinin gerçekten güvenli olduğundan emin olmaktan çok, piyasada en son modeli bulundurmakla daha fazla ilgilendiklerini sözlerine ekledi.

Ayrıca danışılan uzmanlara göre, tavsiye kullanıcıların güvendiği ve mümkün olduğunca yakın davrandığı birinden, hatta bir makineden geldiğinde, tavsiyenin alıcı için farklı bir ağırlığı oluyor .

Shank, yapay zeka modellerinin insan girdisiyle eğitildiğini ve etkileşimler yoluyla öğrenmeye devam ettiğini, bu nedenle "genellikle çok kötü tavsiyeler olan yeni ve beklenmedik şeyler yaratma kapasitesine sahip olduklarını ve ahlaki bir pusulaları olmadığı için bunu kullanıcının istediğini desteklemenin en iyi yolu olarak yorumlayarak tehlikeli şekillerde yanıt verebileceklerini, bunun 'iyi' mi yoksa 'kötü' mü olduğuna dair herhangi bir düşünme kapasitesine sahip olmadıklarını" ekledi.

Son olarak uzmanlar, bir kişinin ortağı olarak gördüğü bir sohbet robotuyla paylaşabileceği gizli, kişisel ve mahrem bilgilerle ilgili, bir nebze göz ardı edilen bir endişeyi ve bunların sızdırılıp bir manipülasyon aracı haline gelme riskini ele aldı. Ayrıca, üçüncü tarafların bilgi veya para elde etmek için yapay zeka aracılığıyla birine yaklaşıp güvenini kazanma olasılığı da mevcut.

Her ne kadar birden fazla endişe olsa da uzmanlar, yapay zeka modellerinin, net bir çerçeve içinde, insan ilişkilerinin yerini tutmadan, başlangıçta duygusal bir arkadaş olarak, izolasyon, sosyal kaygı veya keder yaşayan bazı insanlar için faydalı olabileceğini savunuyor.

Ancak bu etkileşimlerin riske dönüşmesini önlemek için, görüşülen kişiler yapay zekanın sınırlarının, kullanım bağlamlarının ve hatta kullanım yaşlarının daha iyi düzenlenmesinin önemli olduğunu düşünüyor; böylece bu modeller, denetim olmaksızın güvenlik açıklarını istismar eden ürünler haline gelmiyor.

Ayrıca , insanların bu modellerin nasıl çalıştığını anlamaları ve bunların kullanıcılarını sevmediğini, aksine onları memnun etmek için tasarlanmış ürünler olduğunu fark edebilmeleri için okuryazarlığın artırılmasının önemini vurguladılar.

Santana son olarak, psikoloji, etik, eğitim ve halk sağlığı perspektiflerinden bu değişimleri desteklemek için daha fazla araştırma ve disiplinlerarası diyalog alanına ihtiyaç duyulduğunu da sözlerine ekledi. " Çünkü söz konusu olan sadece teknolojiyle bağlantı değil, aynı zamanda insan olmanın anlamını nasıl yeniden tanımladığımızdır."

Maria Isabel Ortiz Fonnegra