Trump'ın Önyargısız Yapay Zeka Emri Daha Fazla Önyargıdan İbaret

2 Kasım 2022'de New York'ta bir Google AI etkinliğine katıldım. Temalardan biri sorumlu yapay zekaydı. Yöneticilerin teknolojilerini insan değerleriyle nasıl uyumlu hale getirdiklerini anlatırken, yapay zeka modellerinin esnekliğinin iki ucu keskin bir kılıç olduğunu fark ettim. Modeller, örneğin önyargıları en aza indirmek için, aynı zamanda belirli bir bakış açısını dayatmak için de değiştirilebilirdi. Hükümetler, istenmeyen gerçekleri sansürlemek ve propagandayı teşvik etmek için manipülasyon talep edebilirdi. Bunu, Çin gibi otoriter bir rejimin kullanabileceği bir şey olarak hayal ettim. Amerika Birleşik Devletleri'nde, Anayasa, hükümetin özel şirketler tarafından oluşturulan yapay zeka modellerinin çıktılarıyla oynamasını elbette engelleyecekti.

Trump yönetimi bu Çarşamba günü, ülkenin ve hatta insanlığın karşı karşıya olduğu en hayati sorunlardan biri için kapsamlı bir eylem planı olan Yapay Zeka manifestosunu yayınladı. Plan genel olarak yapay zeka üstünlüğü yarışında Çin'i geride bırakmaya odaklanıyor. Ancak bir kısmı Çin'in oyun planıyla daha uyumlu görünüyor. ABD hükümeti, gerçeği söylemek gerekirse, yapay zeka modellerinin artık Donald Trump'ın bu kelimeye ilişkin tanımına uymasını istiyor.

Bu niyeti 28 sayfalık planda açıkça ifade edilmiş olarak bulamayacaksınız. Bunun yerine, "Bu sistemlerin baştan sona ifade ve ifade özgürlüğü göz önünde bulundurularak inşa edilmesi ve ABD hükümet politikasının bu amaca müdahale etmemesi esastır. Yapay zeka çağında ifade özgürlüğünün gelişmesini ve Federal hükümet tarafından tedarik edilen yapay zekanın sosyal mühendislik gündemlerini değil, gerçeği nesnel olarak yansıtmasını sağlamalıyız." deniyor.

Son cümleye kadar her şey yolundaydı, ancak son cümle şu soruyu gündeme getiriyor: Kime göre gerçek? Ve tam olarak bir "sosyal mühendislik gündemi" nedir? Bununla ilgili bir ipucunu, Ticaret Bakanlığı'na Biden dönemi yapay zeka kurallarını incelemesi ve "yanlış bilgi, Çeşitlilik, Eşitlik ve Kapsayıcılık ve iklim değişikliğine yapılan atıfları ortadan kaldırması" talimatını veren bir sonraki paragrafta alıyoruz. (Yayınlanan planda yazıldığı gibi garip bir şekilde büyük harfle yazılmış.) İklim değişikliğini kabul etmek sosyal mühendislik midir? Gerçek konusuna gelince, planla ilgili bir bilgi sayfasında Beyaz Saray, "LLM'ler doğruyu söyleyecek ve tarihsel doğruluğu, bilimsel araştırmayı ve nesnelliği önceliklendirecektir" diyor. Kulağa hoş geliyor, ancak bu, Amerikan tarihini "yüceltici" yorumlarla sınırlayan , iklim değişikliğini inkar eden ve Donald Trump'ın Amerika'nın en büyük başkanı olduğu iddialarını nesnel gerçek olarak gören bir yönetimden geliyor. Bu arada, daha bu hafta Trump'ın Truth Social hesabı Obama'nın hapisteki yapay zeka videosunu yeniden yayınladı.

Trump, Çarşamba günü Washington'da planı öven bir konuşmasında, direktifin arkasındaki mantığı şöyle açıkladı : "Amerikan halkı yapay zeka modellerinde uyanık Marksist çılgınlık istemiyor," dedi. Ardından "Federal Hükümette Uyanık Yapay Zekanın Önlenmesi" başlıklı bir yürütme emri imzaladı. "Federal Hükümetin özel pazardaki yapay zeka modellerinin işlevselliğini düzenlemekten çekinmesi gerektiğini" belirtirken, "Federal tedarik bağlamında, ideolojik gündemlere doğruluk ve kesinliği feda eden modeller tedarik etmeme yükümlülüğü olduğunu" beyan ediyor. Tüm büyük yapay zeka şirketleri hükümet ihalelerine göz diktiği için, emir, genel olarak LLM'lerin Beyaz Saray'ın tarih, cinsel kimlik ve diğer hassas konulara ilişkin yorumlarına sadakat göstermesini sağlamak için arka kapı bir çaba gibi görünüyor. Hükümetin neyi ihlal olarak gördüğü konusunda herhangi bir şüphe varsa, emir birkaç paragrafta çeşitliliği destekleyen, ırksal önyargıyı ortaya koyan veya cinsiyet eşitliğine değer veren yapay zekayı şeytanlaştırıyor. Pogo uyarısı —Trump'ın yukarıdan aşağıya ideolojik önyargıyı yasaklayan kararnamesi, yukarıdan aşağıya ideolojik önyargının açık bir uygulamasıdır.

Bu taleplerin nasıl karşılanacağına şirketler karar verecek. Bu hafta model davranışları üzerinde çalışan bir OpenAI mühendisiyle konuştum ve bana şirketin zaten tarafsızlık için çabaladığını söyledi. Teknik anlamda, uyanıklık karşıtı olmak gibi hükümet standartlarını karşılamanın büyük bir engel olmaması gerektiğini söylediler. Ancak bu teknik bir anlaşmazlık değil: Anayasal bir anlaşmazlık. Anthropic, OpenAI veya Google gibi şirketler, hukuk lisans programlarında ırksal önyargıyı en aza indirmeye karar verirse veya modellerin tepkilerinin iklim değişikliğinin tehlikelerini yansıtmasını sağlamak için bilinçli bir seçim yaparsa, Birinci Değişiklik muhtemelen bu kararları Yapay Zeka Eylem Planı'nda övülen "konuşma ve ifade özgürlüğü"nün kullanılması olarak koruyor. Bu hakkı kullanan şirketlere hükümet sözleşmeleri vermeyi reddeden bir hükümet emri, müdahalenin özüdür.

Yapay zeka geliştiren şirketlerin bu konuda anayasal haklarını öne sürerek karşı koyacağını düşünebilirsiniz. Ancak şimdiye kadar hiçbir Büyük Teknoloji şirketi Trump yönetiminin planına alenen itiraz etmedi. Google, Beyaz Saray'ın altyapıyı güçlendirme gibi kendi özel meselelerine verdiği desteği kutladı . Anthropic, plan hakkında olumlu bir blog yazısı yayınlasa da, Beyaz Saray'ın bu ayın başlarında güçlü ihracat kontrollerini aniden terk etmesinden şikayet etti. OpenAI ise nesnelliğe ulaşmaya yakın olduğunu söylüyor. Kendi ifade özgürlüklerini savunmaktan başka bir şey yapmıyorlar.

Bu çekingenlik anlaşılabilir çünkü genel olarak Yapay Zeka Eylem Planı, yapay zeka şirketleri için bulunmaz bir nimet. Biden yönetimi Büyük Teknoloji şirketlerinin denetlenmesini zorunlu kılarken , Trump'ın planı, Çin'i yenmek için ulusal mücadelede bir ortak olarak gördüğü sektör için büyük bir yeşil ışık. Yapay zeka güçlerinin devasa veri merkezleri inşa ederken çevresel itirazları göz ardı etmelerine olanak tanıyor. Özel sektöre aktarılacak yapay zeka araştırmalarına destek sözü veriyor. Hatta yapay zekayı kendi başlarına düzenlemeye çalışan eyaletler için bazı federal fonları sınırlayan bir hüküm bile var. Bu, eyalet düzenlemelerini on yıl boyunca yasaklayacak olan son bütçe tasarısının başarısızlığa uğrayan bir bölümü için teselli ödülü.

Geri kalanımız içinse, "uyanıklık karşıtı" emir o kadar kolay göz ardı edilemiyor. Yapay zeka, haber ve bilgilerimizi giderek daha fazla aldığımız bir araç haline geliyor. Amerika Birleşik Devletleri'nin kuruluş ilkelerinden biri, bu tür kanalların hükümet müdahalesinden bağımsız olması olmuştur. Mevcut yönetimin, CBS gibi medya devlerinin ana şirketlerini, kurumsal hedefleri gözetmek için gazetecilik ilkelerinden ödün vermeye nasıl zorladığını gördük. Bu "uyanıklık karşıtı" gündemi yapay zeka modellerine de genişlettiğimizde, benzer düzenlemelerin beklenmesi mantıksız değil. Senatör Edward Markey, Alphabet, Anthropic, OpenAI, Microsoft ve Meta'nın CEO'larına doğrudan mektup yazarak emre karşı çıkmaları çağrısında bulundu. "Bu kararnamenin detayları ve uygulama planı henüz net değil," diye yazıyor, "ancak bu, yapay zeka sohbet robotlarının Trump yönetimini kızdıracak konuşmalar yapmamasını sağlamak için Büyük Teknoloji şirketlerine önemli finansal teşvikler sağlayacak." Bana yaptığı bir açıklamada, "Cumhuriyetçiler, ChatGPT'yi Fox & Friends gibi göstermek için hükümetin gücünü kullanmak istiyor," dedi.

Tahmin edebileceğiniz gibi, bu görüş, yapay zeka planı üzerinde çalışan Beyaz Saray ekibi tarafından paylaşılmıyor. Amaçlarının gerçek tarafsızlık olduğuna ve vergi mükelleflerinin tarafsız gerçeği yansıtmayan yapay zeka modelleri için ödeme yapmak zorunda kalmaması gerektiğine inanıyorlar. Nitekim planın kendisi, gerçekler çarpıtıldığında neler olabileceğine dair bir örnek olarak Çin'i işaret ediyor. Hükümete, "Çin Komünist Partisi'nin söylemleri ve sansürüyle uyum" belirlemek için Çin Halk Cumhuriyeti'ndeki sınır modellerini incelemesi talimatını veriyor. Yapay zekanın kurumsal efendileri biraz dik durmazsa, Amerikan sınır modellerinin gelecekteki bir değerlendirmesi, Beyaz Saray'ın söylemleri ve sansürüyle birebir uyumlu olduğunu ortaya çıkarabilir. Ancak bir yapay zeka modeline danışarak bunu öğrenemeyebilirsiniz. Çok uyanıksınız.

Bu, Steven Levy'nin Backchannel bülteninin bir sayısıdır . Steven Levy'nin önceki haberlerini buradan okuyabilirsiniz .