Google'ın yapay zekası Hindistan'daki uçak kazasıyla ilgili 'halüsinasyonlar' görüyor ve uçak modelini değiştiriyor

Arama motoruna eklenen yeni yapay zeka özelliği Google Overviews, dikkat çekici bir hata yaptı: Hindistan'da yaşanan AI171 sefer sayılı uçak kazasının ardından yapay zeka, olaydaki uçağın modelini Boeing 787 ile Airbus A330 referanslarını karıştırarak karıştırdı ve bilgileri sanki tamamen güvenilirmiş gibi gösterdi.

Bu tür hatalara "halüsinasyonlar" denir, bu, gerçek gibi görünen veriler veya yanıtlar icat etmeyi içeren, üretken AI sistemlerine özgü bir fenomendir. Kaynaklara bağlantı veren geleneksel bir arama motorunun aksine, Google Genel Bakış gibi araçlar web'i "özetlemeye" çalışır ve bazen içeriği yanlış bir şekilde birleştirerek bir trajedi gibi hassas bağlamlarda kritik olabilecek hatalara neden olur.

Google Genel Bakış'ta neler oldu?

Geçtiğimiz perşembe günü, Hindistan'da bir Air India Boeing 787 uçağının kalkıştan kısa bir süre sonra düştüğü ciddi bir uçak kazası meydana geldi. Yerdeki birkaç kişi de dahil olmak üzere 260'tan fazla kişi öldü . Bu, dünya çapında etki yaratan bir trajedi ve sıklıkla olduğu gibi, birçok kullanıcı ne olduğunu ve hangi tür uçağın karıştığını bulmak için internette bilgi aramaya başladı. Ancak burada, Google'ın yapay zekasıyla ilgili bir sorun ortaya çıktı.

Arama sonuçlarına göre otomatik yanıtlar üreten AI Genel Bakış aracı yanlış bilgiler vermeye başladı. Bazı kişiler, kazayla ilgili bilgi aradıklarında AI'nın uçağın Airbus A330 olduğunu güvenle söylediğini , ancak diğer zamanlarda Boeing 787 olduğunu söylediğini ve bazen ikisini karıştırdığını fark etti. Gerçekten bir karmaşaydı.

Google'ın yapay zekası Hindistan'daki uçak kazasında uçak modelini neden yanlış tahmin etti?

ArsTechnica'ya göre bu yapay zeka internette bulduklarını özetleyerek çalışıyor ancak her zaman okuduklarını tam olarak anlamıyor. Kazayla ilgili birçok makalede Airbus'tan Boeing'e rakip olarak bahsediliyor. Bu onu şaşırtmış olabilir ve çok kendinden emin görünse de yanlış bir şeyler söylemesine yol açmış olabilir.

Google, AI'sının hatalar yapabileceğini ve her oluşturulan özetin sonuna bir uyarı eklediğini açıklayarak konuştu, ancak sorun şu ki bu uyarıyı görmezden gelmek kolay . Bu durumda, hata Airbus'ı üzmüş olabilir , çünkü adı uçaklarıyla hiçbir ilgisi olmayan bir kazayla ilişkilendirilmişti.

Mountain View şirketi bu yanlış cevabı elediklerini doğruladı, ancak bu bizi yapay zeka ile ilgili bir sonuca götürüyor: Bu tür araçlar yararlı olsa da, söylediklerine her zaman tam olarak güvenemeyebilirsiniz , bu nedenle bilgileri dikkatlice kontrol etmelisiniz.

Bültenimize kaydolun ve en son teknoloji haberlerini doğrudan e-posta kutunuza alın.