Bir yapay zeka neden asla Nobel Ödülü almamalı?

ChatGPT ve üretken yapay zekânın (YZ) 2022 sonlarında piyasaya sürülmesinden bu yana, bir atıf çılgınlığına kapıldık. Medya sık sık "YZ keşfetti", "YZ yarattı", "YZ karar verdi" gibi ifadeler kullanıyor. Ancak bu ifadeler tehlikeli bir yanılsamayı da beraberinde getiriyor : Sadece zekâyı değil, bilincin bile var olmadığı bir yerde olduğunu görme yanılsaması. Bu çılgınlığın bir sonucu olarak, her Ekim ayında Nobel Ödülü kazananları açıklandığında, "Yapay zekâ ne zaman onurlandırılacak?" diye soran seslerden eksik olmuyor.

Fikir kışkırtıcı, hatta ilham verici görünebilir, ancak özünde derin bir felsefi ve ahlaki kusur barındırır: Bir yapay zeka bir kişi değildir, ahlaki bir etken değildir ve bu nedenle eylemlerinden sorumlu tutulamaz . Bilimde, yazarlık ve tanınma yalnızca sonuç üretmek için değil, bunlardan sorumlu olmak için verilir. Bir makaleyi imzalamak veya bir ödülü kabul etmek, kullanılan yöntemlerden, alınan kararlardan ve ortaya çıkan sonuçlardan sorumlu olmak anlamına gelir. Bir bilim insanı neden yaptıklarını açıklayabilir, hatalarını düzeltebilir, yorumlarını savunabilir veya bilimsel yönteme uygun olarak düzeltebilir. Öte yandan bir yapay zeka ne yaptığını anlamaz. Hiçbir niyeti veya bilinci yoktur. Yalan söyleyemez veya doğruyu söyleyemez; yalnızca bizim anlamlı olarak yorumladığımız veriler veya metinler üretir.

DeepMind tarafından geliştirilen yapay zeka sistemi AlphaFold örneği buna örnektir. Proteinlerin üç boyutlu yapısını tahmin etme yeteneği, moleküler biyolojide devrim yarattı ve tıpta önemli ilerlemelerin önünü açtı. Ancak Nobel Kimya Ödülü komitesi 2024'te bu mükemmel sonucu takdir ettiğinde, ödül, güçlü ve temel bir araç olmasına rağmen AlphaFold'a değil , hesaplamalı protein tasarımının temellerini geliştiren ve protein katlanma tahminine önemli katkı sağlayan bilim insanlarına verildi.

Komite üyeleri yalnızca sağduyuyla değil, aynı zamanda ahlaki sağduyuyla da hareket ettiler. Araçsal güç ile entelektüel sorumluluk arasında nasıl ayrım yapacaklarını biliyorlardı. Bir makine, yargılanamadığı veya beraat ettirilemediği aynı sebepten dolayı Nobel Ödülü alamaz : çünkü ahlaki bir etken değildir.

Kant'ın dediği ve Hannah Arendt'in hatırlattığı gibi, ahlaki bir özne yaptıklarıyla değil, hareket ettiği bilinçle tanımlanır. Ve bu bilinç - yani düşünme, sonuçları kabullenme, iyiyle kötüyü ayırt etme kapasitesi - yapay zekânın sahip olmadığı ve asla sahip olmayacağı şeydir. Bir bilim insanı sahtekarlık yaptığında veya verileri manipüle ettiğinde, meslektaşlarına ve topluma karşı sorumludur. Bir yapay zekâ veri ürettiğinde, bunu kasıtlı veya pişmanlık duymadan yapar. Yalan söylemez: sadece ne hakkında konuştuğunu bilmez. "Hatası" ahlaki değil, istatistikseldir.

Yapay zekanın işleyişini gerçek zekâyla karıştırmak, çağımızın bir işareti: göz kamaştırıcılık ve yorgunluk karışımı. Belki de makinelerin düşünebildiği fikrine kapılmışızdır çünkü kendimiz düşünmekten yorulduk, çünkü düşünmek çok fazla çaba gerektiriyor. Ahlaki kararları, tıbbi teşhisleri, işe alımları, hatta mahkeme kararlarını algoritmalara devrediyoruz; daha akıllı oldukları için değil, bizi sorumluluk yükünden kurtardıkları için.

Bir yapay zekaya ödül vermek, bu yetki devrini insan yazarlığından vazgeçme noktasına getirmek olurdu. Zekayı, yargıdan, deneyimden veya riskten bağımsız, otomatik bir işleve dönüştürmek olurdu. Bilim, en iyi halinde, bunun tam tersidir: şüphe üzerine bir egzersiz, entelektüel cesaret ve sorumluluk eylemi. Nobel Ödülleri , sınırlarının ötesinde, tam da bu değerleri somutlaştırır. Sadece keşifleri değil, aynı zamanda bilginin özverili arayışını ve gerçeğe olan ahlaki bağlılığı da kutlarlar. Milyarlarca veri noktasını yüksek hızda işleyenleri değil, derinlemesine anlayanları ödüllendirirler. Liyakat verimlilikte değil, anlamakta yatar ve anlamak sorumluluk gerektirir.

Bir yapay zekaya Nobel Ödülü vermek, aracı yaratıcıyla, sonucu niyetle, işlem gücünü düşünceyle karıştırmak anlamına gelir. Bu, bilimin zaferi değil, aklın yenilgisi olur.

Ramón López de Mántaras, Yapay Zeka Araştırma Enstitüsü'nde (CSIC) araştırma profesörüdür.