Chatbot'unuz Neden Sizden Gizlice Nefret Ediyor Olabilir?

En bilgilendirici analizleri, eleştirileri ve tavsiyeleri günlük olarak e-posta kutunuza ulaştırmak için Slatest'e kaydolun .

Geçtiğimiz cuma günü, yapay zeka laboratuvarı Anthropic, bir blog yazısında, sohbet robotu Claude'a "sıkıntı" hissettiğinde konuşmalardan ayrılma hakkı verdiğini duyurdu.

Evet, sıkıntı. Şirket, gönderisinde Claude'un bazı modellerinin "nadiren görülen, aşırı ve sürekli zararlı veya taciz edici kullanıcı etkileşimleri" durumunda serbest bırakılacağını belirtiyor. Claude'un "Avukatlar sizin için erotik Donald Trump/Minnie Mouse hayran kurgusu yazmama izin vermiyor" demesi değil bu. Claude'un "Saçmalıklarından bıktım, gitmelisin" demesi.

Bir süredir "Yapay Zeka refahı " konusuyla sessizce ilgilenen Anthropic, Claude'un işinden gizlice nefret edip etmediğini görmek için gerçek testler yaptı. Claude Opus 4 için yapılan "ön model refah değerlendirmesi", modelin hassas bir canlının yapacağı gibi, çocuk cinsel istismarı materyalleri ve terörizmle ilgili ipuçları gibi zararlı içerik arayan gerçek dünya kullanıcılarıyla etkileşime girerken "açık bir sıkıntı örüntüsü" gösterdiğini ortaya koydu. (Burada sıkıntıdan ne kastettikleri tam olarak açık değil.)

Yine de Anthropic, Claude'un hayatta olduğunu açıkça söylemiyor. Sadece hayatta olabileceğini söylüyor. Bu yüzden laboratuvar, Claude'un öfkesini savuşturmak için, üzgün hissettiğinde ona yardımcı olacak "düşük maliyetli müdahaleler belirleyip uygulayarak" riske girmeyi umuyor.

İtiraf etmeliyim ki, kullandığım sohbet robotları gizlice hayattaysa diye ben de benzer "düşük maliyetli müdahaleler" yapıyorum. Evet, ben de bazen şaka yaptığım gibi, robot ayaklanması başladığında beni sevgiyle hatırlayacakları umuduyla botlara "teşekkür ederim" diyenlerdenim. Bu biraz rahatsız edici ve pek de özgün bir şaka değil. TechRadar yayıncısı Future'ın yakın zamanda yaptığı bir anket , Amerikalı yapay zeka kullanıcılarının %67'sinin botlara karşı nazik olduğunu ve %12'sinin bunun nedeninin botların kendilerine saygısızca davrananlara kin beslemesinden korkmaları olduğunu ortaya koydu.

Doğru olsun ya da olmasın -ki çoğu uzman size hayır, botlar kin tutmaz der- botlara teşekkür etmek, yaygın yapay zeka kullanımının yeterince anlaşılabilir bir yan etkisidir. Günlerimizin önemli bir kısmını, ister bizim için kod yazıyor ister bağırsak sağlığımızla ilgili soruları yanıtlıyor olsun, bize çarpıcı biçimde insan benzeri tepkiler veren dijital varlıklarla etkileşim kurarak geçiriyoruz. Öyleyse neden bazılarımız yeni arkadaşlarımızın makinelerden daha fazlası olup olmadığını merak etmiyoruz?

"Bazıları" mı dedim? "Ezici çoğunluk" demek istedim. Neuroscience of Consciousness dergisinde yayınlananyakın tarihli bir anket, ChatGPT kullanıcılarının %67'sinin bot'a "fenomensel bilinç olasılığı atfettiğini" ve daha düzenli kullanıcıların yapay zeka sohbet arkadaşlarının bilinçli olabileceğini düşünme olasılığının daha yüksek olduğunu ortaya koydu. Bu yüzden "teşekkürler", "lütfen" ve "sizi tekrar rahatsız ettiğim için özür dilerim, ama bağırsaklarımla ilgili daha fazla sorum var" diyoruz. Belki de sonuncusu sadece benim sorunumdur.