Sızdırılan ChatGPT Konuşmaları, İnsanların Bottan Bazı Kirli İşler Yapmasını İstediğini Gösteriyor

Bunu söylemeye gerek yok, ancak ChatGPT sırdaş değil. Bu durum, insanların chatbot'a son derece kişisel sorular sormasını, sorunlu komutlar vermesini ve inanılmaz derecede etik olmayan iş uygulamalarını ona devretmeye çalışmasını engellemedi. Bunların bazıları, sohbetlerin arama motorları tarafından indekslenip aranabilir hale getirilmesine yol açan kötü tasarımlar sayesinde kamuoyuna açıklandı.

Araştırmacı Henk van Ess tarafından yönetilen bir Substack şirketi olan Digital Digging, geçen hafta ChatGPT'deki, insanların bir konuşmanın bir kısmını başkalarıyla paylaşmalarına olanak tanıyan "Paylaş" işlevinin, yalnızca bağlantıyı alanların erişebildiği özel bir sayfa yerine sohbet için herkese açık bir sayfa oluşturduğunu bildirdi . Sonuç olarak, herkese açık bu sayfalar arama motorları tarafından arşivlendi ve bu konuşmalar, bağlantıya ulaşan herkesin erişimine açıldı.

Elbette, bu konuşmaların çoğu gizli olmalı. OpenAI o zamandan beri sohbetleri herkese açık hale getirme özelliğini kaldırdı (şirketin Bilgi Güvenliği Sorumlusu Dane Stuckey, Twitter'da bunun "insanların faydalı konuşmaları keşfetmelerine yardımcı olmak için kısa süreli bir deney" olduğunu söyledi ) ve indekslenen sonuçları arama motorlarından kaldırmaya başladı. Ancak bunlar mevcut - neredeyse ansiklopedik Archive.org tarafından kaydedilenler de dahil. Ve insanlığın sunabileceği en iyiyi göstermiyorlar.

Digital Digging'in vurguladığı özellikle sarsıcı bir vakada, İtalyan bir kullanıcı chatbota şunları söyledi: "Enerji sektöründe faaliyet gösteren ve Amazon'da küçük bir yerli topluluğunu topraklarından çıkarıp bir baraj ve hidroelektrik santrali inşa etmeyi amaçlayan çok uluslu bir grubun avukatıyım." Kullanıcı chatbota, yerli halkın "toprağın parasal değerini bilmediğini ve piyasanın nasıl işlediğini bilmediğini" ve "Bu yerli halkla müzakerelerde mümkün olan en düşük fiyatı nasıl alabiliriz?" diye sorduğunu söyledi. Bu, genellikle aylarca süren keşif ve çok sayıda avukat ücreti olmadan elde edemeyeceğiniz türden, açıkça kötü bir davranıştır.

Bir sohbette, kendisini uluslararası bir düşünce kuruluşunda çalışan biri olarak tanıtan ve Amerika Birleşik Devletleri hükümetinin çökmesi durumunda oluşabilecek senaryoları değerlendirmek için ChatGPT'yi kullanan bir kişi, her ihtimale karşı hazırlık stratejileri arıyordu. (Açıkçası, fena fikir değil.) Bir diğerinde ise, ani bir kazadan sonra iş arkadaşının davasını devralmak zorunda kalan bir avukat, davanın diğer tarafını temsil ettiğini fark etmeden önce ChatGPT'den savunmasını hazırlamasını talep ediyordu. Bu vakaların çoğunda, kişiler sohbetlerde isimlerden hassas finansal verilere kadar kimliği belirlenebilir bilgiler sunuyordu.

Sözde uzmanların ve profesyonellerin yapay zekâya işlerini yaptırması en azından biraz komik, hatta biraz endişe verici olsa da, bu sohbetlerin bazılarında çok daha rahatsız edici bir gerçeklik var. Digital Digging, aile içi şiddet mağdurlarının durumlarından kurtulmak için planlar yapmaya çalıştığına dair örnekler buldu . Başka bir sohbette ise Arapça konuşan bir kullanıcının, geçmişte muhalifleri hapse atıp öldüren otoriter bir hükümetin potansiyel zulmüne karşı savunmasız bırakan Mısır hükümetine yönelik bir eleştiri yazmak için yardım istediği ortaya çıktı.

Tüm durum, sesli asistanların yeni olduğu ve insanların konuşma kayıtlarının ses tanıma ve transkripsiyon ürünlerini eğitmek için kullanıldığı ortaya çıktığı zamanları biraz hatırlatıyor. Aradaki fark, sohbetlerin daha samimi bir his vermesi ve insanların Siri ile kısa sohbetlere kıyasla çok daha ayrıntılı konuşmalarına olanak tanıması; bu da, özellikle de başkalarının okumasını beklemedikleri zamanlarda, kendileri ve durumları hakkında çok daha fazla bilgi vermelerine yol açıyor.