OpenAI, Çin, Rusya, İran ve Kuzey Kore ile Bağlantılı 10 Kötü Amaçlı Yapay Zeka Operasyonunu Kapattı

Yapay zeka alanında öncü şirketlerden OpenAI , Çin, Rusya, Kuzey Kore ve İran gibi ülkelerdeki kötü niyetli gruplar tarafından yapay zeka araçlarının yaygın şekilde kötüye kullanılmasına karşı aktif bir şekilde mücadele ettiğini açıkladı.

OpenAI, bu haftanın başlarında yayınladığı yeni bir raporda, sadece üç ayda on büyük ağı başarıyla kapattığını duyurarak, çevrimiçi tehditlerle mücadele konusundaki kararlılığını ortaya koydu.

Rapor, kötü aktörlerin ikna edici çevrimiçi aldatmacalar yaratmak için AI'yı nasıl kullandığını vurguluyor. Örneğin, Çin'e bağlı gruplar, Sneer Review adlı bir kampanyada gerçek kullanıcılarmış gibi davranarak TikTok ve X gibi platformlarda toplu sahte yorumlar ve makaleler yayınlamak için AI'yı kullandı.

Bunlar arasında Pakistanlı aktivist Mahrang Baloch'u pornografik bir filmde görünmekle suçlayan sahte bir video da vardı. Ayrıca, ABD içinde kutuplaştırıcı tartışmalar için içerik üretmek amacıyla yapay zekayı kullandılar; buna gümrük vergileri gibi konulardaki tartışmaları etkilemek için ABD gazilerinin sahte profillerini oluşturmak da dahildi; bu operasyona Uncle Spam adını verdiler.

Öte yandan Kuzey Koreli aktörler, yapay zeka kullanarak sahte özgeçmişler ve iş başvuruları hazırladılar . Verileri çalmak için küresel olarak uzaktan BT işleri aradılar. Bu arada, Rus grupları tehlikeli yazılımlar geliştirmek ve siber saldırılar planlamak için yapay zekayı kullandılar, bir operasyon olan ScopeCreep, bilgileri çalmak ve tespit edilmekten saklanmak için tasarlanmış kötü amaçlı yazılımlar oluşturmaya odaklandı.

İranlı bir grup olan STORM-2035 (diğer adıyla APT42, Imperial Kitten ve TA456 ), ABD göçü, İskoç bağımsızlığı ve diğer hassas siyasi konular hakkında İspanyolca ve İngilizce tweetler oluşturmak için tekrar tekrar AI kullandı. Yerel sakinler gibi görünmek için genellikle gizlenmiş profil resimleri olan sahte sosyal medya hesapları oluşturdular.

Yapay zeka yaygın dolandırıcılıklarda da kullanılıyor. Dikkat çeken bir vakada, muhtemelen Kamboçya merkezli, Yanlış Numara adlı bir operasyon, bir görev dolandırıcılığı için mesajları çevirmek üzere yapay zekayı kullandı. Bu plan, sosyal medya gönderilerini beğenmek gibi basit çevrimiçi aktiviteler için yüksek ücret vaat ediyordu.

Dolandırıcılık açık bir örüntüyü takip etti: yüksek ücretler teklif eden bir "ping" (soğuk temas), bir "zing" (sahte kazançlarla güven ve heyecan oluşturma) ve son olarak bir "sokma" (kurbanlardan sözde daha büyük ödüller karşılığında para talep etme). Bu dolandırıcılıklar İngilizce, İspanyolca ve Almanca dahil olmak üzere birden fazla dilde yürütüldü ve kurbanları WhatsApp ve Telegram gibi uygulamalara yönlendirdi.

Şirket, OpenAI'nin bu faaliyetlere karışan hesapları aktif olarak tespit edip yasakladığını ve AI'yı soruşturma ekipleri için bir 'kuvvet çarpanı' olarak kullandığını iddia ediyor. Bu proaktif yaklaşım, çoğu zaman bu kötü amaçlı kampanyaların çoğunun kapatılmadan önce çok az gerçek etkileşim veya sınırlı gerçek dünya etkisi elde ettiği anlamına geliyor.

AI kötüye kullanımına karşı mücadelesine ek olarak OpenAI, kullanıcı gizliliği konusunda da önemli bir yasal zorlukla karşı karşıyadır. 13 Mayıs'ta, Yargıç Ona T. Wang liderliğindeki bir ABD mahkemesi, OpenAI'ye ChatGPT konuşmalarını korumasını emretti .

Bu emir, OpenAI'nin AI modellerini eğitmek için milyonlarca telif hakkıyla korunan makalelerini yasadışı bir şekilde kullandığını iddia eden The New York Times ve diğer yayıncılar tarafından açılan bir telif hakkı ihlali davasından kaynaklanmaktadır. ChatGPT'nin içeriklerini izin veya tazminat olmadan yeniden üretme, özetleme veya taklit etme yeteneğinin iş modellerini tehdit ettiğini savunuyorlar.

OpenAI, bu emre itiraz ederek, şirketin kullanıcı gizliliği ve kontrolüne olan bağlılığına aykırı hareket etmesini zorunlu kıldığını belirtti. Şirket, kullanıcıların genellikle sohbetlerde hassas kişisel bilgileri paylaştığını ve bunların silinmesini veya gizli kalmasını beklediklerini vurguladı. Bu yasal talep, OpenAI için karmaşık bir zorluk yaratıyor.