Yapay zeka hala bir halüsinasyon sorunu yaşıyor: MongoDB, gelişmiş yeniden sıralayıcılar ve gömülü modellerle bunu nasıl çözmeyi hedefliyor?

Yapay zeka sorgusundan mümkün olan en iyi sonucu alabilmek için kuruluşların mümkün olan en iyi verilere ihtiyacı vardır.

Birçok kuruluşun bu zorluğun üstesinden gelmek için sahip olduğu cevap, geri alma ile artırılmış üretimdir (RAG). RAG ile sonuçlar bir veritabanından alınan verilere dayanır. Ancak, ortaya çıktığı üzere, tüm RAG'ler aynı değildir ve bir veritabanını mümkün olan en iyi sonuçlar için optimize etmek gerçekten zor olabilir.

Veritabanı tedarikçisi MongoDB, AI veya RAG dünyasına yabancı değil. Şirketin aynı isimli veritabanı halihazırda RAG için kullanılıyor ve MongoDB ayrıca AI uygulamaları geliştirme girişimleri başlattı. Şirket ve kullanıcıları (örneğin tıbbi dev Novo Nordisk ) gen AI ile başarı elde etmiş olsa da, hala yapılması gereken daha çok şey var.

Özellikle, halüsinasyon ve doğruluk, bazı kuruluşların gen AI'yı üretime sokmasını engelleyen bir sorun olmaya devam ediyor. Bu amaçla, MongoDB bugün gelişmiş yerleştirme ve alma modelleri geliştiren özel bir şirket olan Voyage AI'yı satın aldığını duyurdu. Voyage, bulut veri devi Snowflake tarafından desteklenen bir turda Ekim 2024'te 20 milyon dolar fon topladı . Satın alma, Voyage AI'nın yerleştirme oluşturma ve yeniden sıralama konusundaki uzmanlığını (AI destekli arama ve alma için kritik bileşenler) doğrudan MongoDB'nin veritabanı platformuna getirecek.

MongoDB CPO'su Sahir Azam VentureBeat'e yaptığı açıklamada, "Geçtiğimiz yıl boyunca ve özellikle kuruluşlar yapay zeka destekli uygulamaları nasıl inşa edebileceklerini düşünmeye başladıkça, inşa ettikleri uygulamaların kalitesinin ve güveninin veya bunların eksikliğinin, yapay zekayı kritik görev kullanım durumlarına uygulamanın önündeki engellerden biri haline geldiği giderek daha da netleşti" dedi.

RAG'ın arkasındaki temel fikir, eğitilmiş verilerden oluşan bir bilgi tabanına güvenmek yerine, yeni nesil yapay zeka motorunun bir veritabanından sağlam veriler alabilmesidir.

Son derece doğru RAG oluşturmak oldukça karmaşıktır ve halüsinasyonlar için hala potansiyel bir risk vardır; bu, MongoDB ve kullanıcılarının karşılaştığı bir zorluktur. Azam, gen AI RAG'ın bir kullanıcıyı başarısızlığa uğrattığı belirli bir örnek veya olay vermeyi reddetse de, doğruluğun her zaman bir endişe kaynağı olduğunu belirtti.

Doğruluğu artırmak ve halüsinasyonu azaltmak birden fazla adım içerir. İlki, geri çağırma kalitesini artırmaktır (RAG'deki 'R').

Voyage AI'nın kurucusu ve CEO'su Tengyu Ma, VentureBeat'e "Çoğu durumda, geri alma kalitesi yeterince iyi değil" dedi. "Geri alma adımında, ilgili bilgileri geri almıyorlarsa, geri alma çok faydalı olmuyor ve büyük dil modeli (LLM) bir bağlamı tahmin etmek zorunda olduğu için halüsinasyon görüyor."

Voyage AI modelleri artık MongoDB'nin bir parçası olarak RAG'ı birkaç temel yoldan iyileştirmeye yardımcı oluyor:

• Alana özgü modeller ve yeniden sıralayıcılar: Bunlar, belirli dikeylerden gelen büyük miktardaki yapılandırılmamış veriler üzerinde eğitilir ve bu sayede söz konusu alanların terminolojisini ve semantiğini daha iyi anlamaları sağlanır.
• Özelleştirme ve ince ayar: Kullanıcılar, benzersiz veri kümeleri ve kullanım durumları için alma mekanizmasını ince ayarlayabilir.

MongoDB, son derece optimize edilmiş yerleştirme ve yeniden sıralama teknolojisine sahip olmanın gerekliliğini ve değerini fark eden ilk veya tek satıcı değil. Sonuçta, Snowflake'un Voyage AI'ya yatırım yapmasının ve şirketin modellerini kullanmasının nedenlerinden biri de bu.

MongoDB tarafından satın alındıktan sonra bile Voyage AI'nın modellerinin Snowflake ve Voyage AI'nın diğer kullanıcıları için hala kullanılabilir olacağını belirtmek önemlidir. Büyük fark, Voyage AI'nın artık MongoDB'nin veritabanı platformlarına giderek daha fazla entegre edilecek olmasıdır.

Gelişmiş yerleştirme modellerini doğrudan bir veritabanına entegre etmek, diğer rakip veritabanı satıcıları tarafından da benimsenen bir yaklaşımdır. Haziran 2024'te DataStax, gelişmiş yerleştirme ve alma modellerini birleştiren kendi RAGStack teknolojisini duyurdu.

Azam, MongoDB'nin biraz farklı olduğunu savundu. Birincisi, analitik bir veritabanının aksine operasyonel bir veritabanıdır. Ayrıca, yalnızca içgörüler ve analizler sağlamanın aksine, MongoDB işlemleri ve gerçek dünya operasyonlarını güçlendirmeye yardımcı olur. MongoDB ayrıca, geleneksel bir ilişkisel veritabanından farklı bir yapıya sahip olan bir "belge modeli veritabanı" olarak da bilinir. Bu yapı, yapılandırılmamış verilerle ilgili bilgileri (AI uygulamaları için kritik bir unsur) temsil etmede özellikle iyi olmayan sütunlara ve tablolara dayanmaz.

Azam, "Müşterinin bilgilerine ilişkin meta verilerin yönetimini, işletmede olup bitenlerin kalbini oluşturan operasyonları ve işlemleri ve ayrıca geri alma işleminin temelini tek bir sistemde birleştiren tek veritabanı teknolojisiyiz" dedi.

Yüksek doğruluklu yerleştirme ve alma modellerine olan ihtiyaç, aracı yapay zeka tarafından daha da hızlandırılıyor.

Ma, "Ajan AI'nın hala geri alma yöntemlerine ihtiyacı var çünkü bir ajan bağlam dışında kararlar alamaz," dedi. "Bazen, aslında birden fazla geri alma bileşeni tek bir kararda bile kullanılır."

Ma, Voyage AI'nın şu anda aracı AI kullanım durumları için oldukça özelleştirilmiş belirli modeller üzerinde çalıştığını belirtti. Aracı AI'nın daha fazla optimizasyondan faydalanabilecek farklı sorgu türlerini kullanabileceğini açıkladı.

Gen AI giderek operasyonel kullanım durumlarına doğru ilerledikçe, halüsinasyon riskini ortadan kaldırma ihtiyacı açıkça çok önemlidir. MongoDB, gen AI ile başarılı olmuş olsa da, Azam, Voyage AI'nın entegrasyonunun yeni görev açısından kritik kullanım durumlarını açmasını bekliyor.

Azam, "Eğer artık, 'Hey, bugün sadece bazı durumlarda %30 veya %60'a kadar çıkabilen sonuçların doğruluğu için uygulamalarınızda %90'ın çok üzerinde doğruluk sağlayabiliriz' diyebiliyorsak, insanların yazılım uygulamalarında yapay zekayı uygulayabilecekleri fırsat türleri açısından ufuk genişler" dedi.

VB Daily ile iş kullanım örneklerine ilişkin günlük içgörüler

Patronunuzu etkilemek istiyorsanız, VB Daily sizin için burada. Şirketlerin üretken yapay zeka ile ilgili olarak düzenleyici değişikliklerden pratik dağıtımlara kadar neler yaptıklarına dair içeriden bilgiler veriyoruz, böylece maksimum yatırım getirisi için içgörüler paylaşabilirsiniz.

Gizlilik Politikamızı okuyun

Abone olduğunuz için teşekkürler. Daha fazla VB bültenine buradan göz atın.

Bir hata oluştu.