Ari Aster'in 'Eddington' Adlı Eserinin Özündeki Gizemli Yapay Zeka Gizliliği

Korku harikası Ari Aster'ın yeni filmi Eddington , izleyicileri ikiye böldü ve yönetmenin teknolojiyle olan kolektif ilişkimiz hakkında tam olarak ne söylemeye çalıştığı konusunda internette birçok tartışmaya yol açtı (ipucu: muhtemelen iyi bir şey değil). Hikâye, COVID-19 pandemisi sırasında sosyal medya kaynaklı kaosa sürüklenen Teksas'taki küçük bir kasabayı konu alıyor. Filmde, kasabanın belediye başkanı Pedro Pascal ile mücadele eden yerel şerif Joe Cross rolünde Joaquin Phoenix yer alıyor. Bu esnada, kasabanın geri kalanı çeşitli siyasi ve kültürel anlaşmazlıklar yüzünden aklını kaçırıyor.

Filmin hikâyesi karmaşık ve alt hikâyelerle dolu, ancak en ilgi çekici anlatılardan biri, şehir sınırları yakınında tartışmalı yeni bir veri merkezinin kurulmasını içeriyor. Bu uğursuz yeni tesisin arkasındaki şirketin çok ilginç bir adı var: SolidGoldMagikarp. Anlaşılan o ki, bu isim yapay zeka geliştirmede "glitch token" olarak bilinen nispeten belirsiz bir kavrama gönderme yapıyor.

Yapay zeka eğitimi dünyasında, "tokenleştirme" süreci, insan metninin LLM tarafından yorumlanabilen sayısal verilere dönüştürülmesini içerir. Bunu yapmak için araştırmacılar, "tokenleştirici" adı verilen yazılım programlarına büyük miktarda insan metni yüklerler. Tokenleştiriciler, insanların anlayabileceği ham verileri, makine tüketimi için tasarlanmış, "token" adı verilen ayrıştırılmış verilere dönüştürür. Tokenler daha sonra "eğitim" sırasında bir dil modeline aktarılır. Eğitim süreci, bir algoritmaya bir insanla etkileşim kurmayı öğretmeyi içerir; ChatGPT gibi sohbet robotları, bir insanın komutuna yanıt vermeyi ve bir çıktı veya yanıt üretmeyi bu şekilde öğrenir.

Tokenleştirme, büyük miktarda veriyi işleme çabasını daha verimli ve daha az maliyetli hale getirebildiği için şirketler için mali bir avantaj sağlayabilir ve bir tokenleştirici, insan girdisini bir bilgisayarın anlayabileceği ikili koda çeviren bir yazılım derleyicisine benzetilebilir.

Büyük dil modelleri, insan komutlarına dayalı dil oluşturmak için tasarlanmış öngörücü algoritmalardır. Otomatik düzeltme gibi, ChatGPT de kelime dizilerini öğrenip tekrarlamak üzere tasarlanmıştır. Yapay zeka firması Leap Labs'ın CEO'su Jessica Rumbelow, Gizmodo'ya verdiği demeçte, "Yaptıkları tek şey tam olarak bu," dedi. Örnek olarak, "Yani, 1, 2, 3, 4 giriyorsunuz ve model 5'i tahmin etmek üzere eğitiliyor," diye ekledi.

Yapay zeka eğitim süreci sırasında LLM programlarına girilen jetonlar, bir programa insanlarla nasıl konuşacağını öğretmenin kritik bir parçasıdır. Ancak bu kuralın önemli bir istisnası vardır ve bu da "aksaklık jetonları" olarak bilinen olgudur. Rumbelow, jeton sisteminin "genellikle, modelin daha önce hiç görmediği jetonlar olmadığı sürece, gerçekten iyi çalıştığını" söyledi. Bir LLM programı, üzerinde eğitim almadığı bir jetonla karşılaştığında, programda çok garip davranışlar sergileyebilir.

SolidGoldMagikarp, geçmişte LLM programlarına tuhaf davranışlar getiren böyle bir "glitch token"dır. Rumbelow bunu bilirdi. Kendisi ve araştırma ortağı Matthew Watkins, anormal token fenomenini araştırırken bu özel glitch token'ı keşfettiler . Rumbelow, token'ın LLM programına girildiğinde tuhaf sonuçlar ürettiğini söylüyor. Program saçma sapan şeyler söyleyebilir, dolaylı, uğursuz ifadeler ve düşünceler dile getirebilir veya kullanıcıya karşı saldırgan ve düşmanca davranışlar sergileyebilir.

Rumbelow, "Bunun, modelin eğitim süreci boyunca o jetonu görmemesi durumunda ortaya çıkan bir durum olduğunu düşünüyoruz," dedi. Yapay zekanın "girdiyle ne yapacağını bilmediğini" çünkü daha önce hiç görmediğini söyledi.

Uyarı: İleride Spoiler Var!

Kısacası, SolidGoldMagikarp gibi ifadeler, bir yapay zeka modelini geçici olarak çıldırtabilecek belirsiz ifadelerdir. SolidGoldMagikarp, Aster'ın yeni filminin temalarıyla nasıl bağlantılı? Bu herkesin tahminine kalmış, ancak kolayca birkaç yorum yapılabilir.

Tüm çeşitliliklerine rağmen, Aster'ın tüm filmlerinin hemen hemen aynı sonla bittiğini belirtmekte fayda var. Her film, karanlığın güçlerinin hikâyenin kahramanına karşı zafer kazanmasıyla sona erer. Her durumda, karakter karanlık gücün komplo planlarının bir parçası haline gelir. Kalıtsal'da Graham ailesi, bir cadılar meclisinin şeytani töreninde çaresiz piyonlar haline gelir. Midsommar'da Dani'nin bastırılmış öfkesi, Hårga tarafından erkek arkadaşına karşı bir silah olarak kullanılır. Beau Korkuyor'da ise , baş karakter annesinin boğucu ağından kaçmayı başaramaz ve tüm hayatı, Kafkavari bir aşağılanma ritüelinin temelini oluşturur.

Teknolojiyle sorunlu ilişkimizi konu alan Eddington filminde, muzaffer karanlık güç internetin kendisidir ve kasabanın sakinleri, özellikle de Joe, onun veri odaklı entrikalarına kapılmış durumdadır. İnternetin hayatlarımız üzerindeki hakimiyetinin fiziksel tezahürü olan veri merkezi, filmin asıl kazananıdır ve tüm insan karakterler onun elçileri, piyonları veya kurbanları haline gelir. Aster'ın veri merkezine, bir tür dijital büyüyle, aklı başında bir sistemi altüst edebilecek bir haydut adını verme kararı, teknolojinin hayatlarımızı ele geçirirken hepimize neler yaptığını anlatma şekli olabilir ve muhtemelen gelecekte olacaklar için bir uyarıdır.