Yapay ajan insanın yerini almaz, onunla birlikte çalışır

Aracı yapay zeka, yakın zamana kadar bildiğimiz robotik süreç otomasyonu veya akıllı otomasyondan nasıl farklıdır?

Temel fark, aracı yapay zekanın büyük dil modellerini analitik, süreç otomasyonu ve iş kurallarıyla bütünleştirmesidir. Geleneksel RPA büyük dil modellerini kullanmıyordu. Ancak bugün, karmaşık kararlar alabilen gerçek akıllı aracılar oluşturmak için bu bileşenleri (sohbet robotları, otomasyon, analitik ve LLM) bir araya getiriyoruz. Bu çok açık bir evrim.

Çoklu ajan sistemlerinden bahsetmişken, siz de bu yöne doğru mu ilerliyorsunuz?

Kesinlikle evet. Sas Intelligent Decisioning ile şirketler çoklu ajanslı ajans akışları oluşturabilirler. Bir ipotek başvurusu değerlendirme sürecini düşünün: Bir "yönlendirici" acente, talep edilen iş türünü belirler ve en uygun acenteyi etkinleştirir. Örneğin kredi riski, dolandırıcılık tespiti veya sonraki eylem önerisi için. Her ajanın belirli bir rolü vardır ve hiyerarşik bir şekilde işbirliği yapabilirler.

Bir ajan sorunlu veya kısmi içerik üretirse ne olur? Kontrollerinizi planladınız mı?

Kesinlikle. Çoklu ajan akışında, Llm tarafından üretilen metinlerdeki önyargıları kontrol etmeye adanmış bir ajan ekleyebiliriz. Bir anormallik tespit ederse, çift kontrol için ikinci bir ajanı devreye sokabilir veya bir insanı dahil edebilir. Tırmanma sistemin ayrılmaz bir parçasıdır. Bu, araçlarımızın temel özelliklerinden biridir.

İçerik önyargısını tespit etmek için hangi modelleri kullanıyorsunuz?

NLP modelleri ile iş kurallarının bir kombinasyonunu kullanıyoruz. Yaklaşımımız bütünseldir: Dilsel zekayı her sektörün veya müşterinin özel kısıtlamalarıyla birleştiriyoruz.

Yönetişimden bahsetmişken: Sistemlerinize ne tür güvenlik entegre ediyorsunuz?

Güvenlik bariyerleri hassas bilgilerin maskelenmesi veya tespit edilmesi, şirket politikalarına uyum veya model performansı ile ilgili olabilir. Bunların hepsi organizasyonun tanımlayabileceği ve karar alma akışı içerisinde uygulanan kurallardır.

Peki hassas verileri teknik olarak nasıl tespit edersiniz?

OCR ve sınıflandırma ve tespit tekniklerini kullanıyoruz. Bu, analitik ve yönetişim araçlarımıza entegre edilmiş bir süreçtir.

Etkensel Yapay Zeka sıklıkla birden fazla etkenin varlığıyla ilişkilendirilir. Doğru mu?

Kısmen. Etkensel Yapay Zeka, bir sistemin “etkenliğe”, yani hareket etme yeteneğine sahip olduğu anlamına gelir. Tek bir etken bile bir etken sistemi olabilir. Çoklu ajan sistemleri bunun gelişmiş, ancak tek başına bir versiyonu değildir.

Peki ya insan müdahalesi? Çoklu ajan sistemleri insan kontrolünü çok fazla azaltma riski taşıyor mu?

Gerçekten büyük bir risk. Ancak bizim deneyimlerimize ve müşterilerimizin bize söylediklerine göre, tam otonom sistemler kritik durumlarda sıklıkla başarısız oluyor. Finans, sağlık veya sigorta gibi düzenlenmiş sektörlerde, insan gözetimi olmadan hata payına yer veremezsiniz. Bu nedenle insanın en azından belirli evrelerde karar alma döngüsünün içinde kalması gerekir.

Sas kendi LLM programını geliştirmeyi düşünüyor mu?

Hayır, kendi LLM bölümümüzü kurmaya yatırım yapmıyoruz. Değerin, müşterinin seçtiği herhangi bir modeli (OpenAI, Anthropic, Mistral veya diğerleri) güvenli, izlenebilir ve yönetilen bir ortamda entegre etme yeteneğinde yattığına inanıyoruz.

Peki yapay zeka nihayetinde insan işçilerin yerini alacak mı?

Mesele iş meselesi değil, beceri meselesi. Elbette bazı roller ortadan kalkacak ama çok daha fazlası doğacak, tıpkı 90'larda internetin başına geldiği gibi. Aradaki fark şu ki, bu sefer 30 yıldan değil, 5 veya 10 yıldan bahsediyoruz. Gelecekte, yapay zekayı nasıl kullanacağınızı bilip bilmediğinizi sormayacaklar: bunu doğal karşılayacaklar.