Büyük Dil Modelleri Yapay Zeka Ajanlarını mı Düşlüyor?

Uyku sırasında insan beyni farklı anıları ayıklayarak önemli olanları pekiştirir, önemsiz olanları ise atar. Peki ya yapay zeka da aynısını yapabilseydi?

Kiralayanlara yerel alışveriş ve restoran fırsatları sunan bir şirket olan Bilt , yakın zamanda tam da bunu yapma umuduyla birkaç milyon emlakçı görevlendirdi.

Bilt, Letta adlı bir girişimin teknolojisini kullanıyor ve bu teknoloji, ajanların önceki konuşmalardan ders çıkarmasını ve birbirleriyle anılarını paylaşmasını sağlıyor. "Uyku zamanı hesaplama" adı verilen bir süreç kullanarak, ajanlar uzun vadeli bellek kasasında hangi bilgilerin saklanacağına ve daha hızlı hatırlamak için neye ihtiyaç duyulabileceğine karar veriyor.

Bilt'te yapay zeka mühendisi olarak çalışan Andrew Fitz, "Bir [bellek] bloğunda tek bir güncelleme yaparak yüz binlerce etkenin davranışını değiştirebiliriz," diyor. "Bu, etken bağlamı üzerinde ayrıntılı kontrol istediğiniz her senaryoda faydalıdır," diye ekliyor ve çıkarım sırasında modele iletilen metin istemine atıfta bulunuyor.

Büyük dil modelleri genellikle yalnızca bağlam penceresine bilgi eklenmişse "hatırlayabilir". Bir sohbet robotunun en son konuşmanızı hatırlamasını istiyorsanız, bunu sohbete yapıştırmanız gerekir.

Çoğu yapay zeka sistemi, bağlam penceresinde yalnızca sınırlı miktarda bilgiyi işleyebilir; bu da verileri kullanma becerilerinin zayıflamasına ve halüsinasyon görmelerine veya kafalarının karışmasına neden olur. İnsan beyni ise aksine, faydalı bilgileri saklayıp daha sonra hatırlayabilir.

Letta CEO'su Charles Packer, "Beyniniz sürekli gelişiyor ve bir sünger gibi daha fazla bilgi ekliyor," diyor. "Dil modellerinde ise durum tam tersi. Bu dil modellerini yeterince uzun süre bir döngü içinde çalıştırırsanız, bağlam zehirlenir; raydan çıkar ve sadece sıfırlamak istersiniz."

Packer ve kurucu ortağı Sarah Wooders, daha önce, hukuk yüksek lisansı (LL.M.) öğrencilerinin hangi bilgilerin kısa süreli ve uzun süreli bellekte saklanacağına karar vermelerine yardımcı olmayı amaçlayan açık kaynaklı bir proje olan MemGPT'yi geliştirmişti. Letta ile ikili, ajanların arka planda öğrenmesine olanak tanıyan yaklaşımlarını genişletti.

Bilt'in Letta ile iş birliği, yapay zekaya faydalı bilgileri depolama ve hatırlama yeteneği kazandırma yönündeki daha kapsamlı bir girişimin parçası. Bu sayede sohbet robotları daha akıllı, temsilcilerin hata yapma olasılığı ise daha düşük olabilir. Görüştüğüm uzmanlara göre, modern yapay zekada bellek henüz yeterince gelişmemiş durumda ve bu da yapay zeka araçlarının zekâsını ve güvenilirliğini zayıflatıyor.

Yapay zeka ajanlarında hafızayı geliştirmek için bir yöntem geliştiren bir başka şirket olan LangChain'in kurucu ortağı ve CEO'su Harrison Chase, hafızayı bağlam mühendisliğinin hayati bir parçası olarak gördüğünü söylüyor; burada bir kullanıcı veya mühendis, bağlam penceresine hangi bilgilerin girileceğine karar verir. LangChain, şirketlere ajanlar için kullanıcılar hakkında uzun vadeli bilgilerden yakın zamandaki deneyimlerin anılarına kadar çeşitli bellek depolama türleri sunuyor. Chase, "Hafızanın bir bağlam biçimi olduğunu savunuyorum," diyor. "Bir yapay zeka mühendisinin işinin büyük bir kısmı, temelde modele doğru bağlam [bilgisini] sağlamaktır."

Tüketici yapay zeka araçları da giderek daha az unutkan hale geliyor. OpenAI, Şubat ayında ChatGPT'nin kullanıcılara daha kişiselleştirilmiş bir deneyim sunmak için ilgili bilgileri saklayacağını duyurdu ; ancak şirket bunun nasıl çalıştığını açıklamadı.

Letta ve LangChain, yapay zeka sistemleri kuran mühendisler için geri çağırma sürecini daha şeffaf hale getiriyor.

Yapay zeka barındırma platformu Hugging Face'in CEO'su ve Letta'ya yatırım yapan Clem Delangue, "Sadece modellerin değil, aynı zamanda bellek sistemlerinin de açık olmasının çok önemli olduğunu düşünüyorum" diyor.

İlginç bir şekilde, Letta CEO'su Packer, yapay zeka modellerinin neyi unutacaklarını öğrenmelerinin de önemli olabileceğini ima ediyor. "Bir kullanıcı, 'üzerinde çalıştığımız o projeyi hafızanızdan silin' derse, aracı geriye dönüp her bir hafızayı geriye dönük olarak yeniden yazabilmelidir."

Yapay hafıza ve rüya kavramı bana Philip K. Dick'in, şık ve distopik Blade Runner filmine ilham veren, akıl almaz romanı "Androidler Elektrikli Koyun Düşler mi ?"i hatırlatıyor. Büyük dil modelleri henüz hikâyenin asi replikantları kadar etkileyici olmasa da, onların hafızaları da en az onlar kadar kırılgan olabiliyor .

Bu , Will Knight'ın Yapay Zeka Laboratuvarı bülteninin bir sayısıdır . Önceki bültenleri buradan okuyabilirsiniz.