Milyonlarca Kişi Her Gün Kullanıyor. İnternetin En Önemli Web Sitelerinden Biridir. Botlar Onu Parça Parça Yok Ediyor.

En bilgilendirici analizleri, eleştirileri ve tavsiyeleri günlük olarak e-posta kutunuza ulaştırmak için Slatest'e kaydolun .

ChatGPT'nin ilk çıkışının Silikon Vadisi'ni yapay zeka çılgınlığı fabrikasına dönüştürmesinden bu yana geçen yıllarda, internetin en canlı toplulukları, özellikle otomatik üretilen çıktılar daha karmaşık hale geldikçe, ortaya çıkan yapay zeka saçmalığına nasıl uyum sağlayacakları konusunda kafa yoruyor. Belki de hiçbir platform bu bilmeceyi, 20 yıldır dünyanın dört bir yanındaki milyonlarca insanı birbirine bağlayan anonim mesaj panosu ağı Reddit'ten daha iyi örnekleyemez ; çünkü oradaki birçok kullanıcı, gerçekten de hala diğer insanlarla bağlantı kurup kurmadıklarını merak ediyor.

Bu tür endişeler yeni değil, ancak yapay zeka destekli manipülasyonun şok edici bir uygulaması sayesinde arttı. Nisan ayı sonlarında, popüler subreddit r/ChangeMyView'un moderasyon ekibi, Zürih Üniversitesi'nden araştırmacıların topluluk üyeleri üzerinde " yetkisiz bir deney " gerçekleştirdiğini ve "yapay zekanın görüşleri değiştirmek için nasıl kullanılabileceğini incelemek amacıyla yapay zeka tarafından oluşturulan yorumları kullandığını" açıkladı. Moderatörler, Zürih akademisyenlerinin Mart ayında kendilerine ulaşarak "son birkaç ayda, r/ChangeMyView'da yapay zeka tarafından oluşturulan yorumları yayınlamak için birden fazla hesap kullandığımızı" ve diğer varsayımsal rollerin yanı sıra "tecavüz kurbanı" ve "Black Lives Matter'a karşı çıkan siyah bir adam" gibi davrandığımızı bildirdiklerini yazdı. Zürih'teki ekip, "Yorum yazmak için bir yapay zekanın kullanıldığını açıklamadık çünkü bu, çalışmayı uygulanamaz hale getirirdi" diye yazdı . "Ancak, bu konunun toplumsal açıdan yüksek önemi göz önüne alındığında, kurallara aykırı olsa bile, bu tür bir çalışma yürütmenin hayati önem taşıdığına inanıyoruz."

r/ChangeMyView denetçileri bu noktada hemfikir olmadılar ve üniversiteye bir etik şikayeti sunarak çalışmanın yayınlanmamasını talep ettiler ve Reddit'in hukuk ekibindeki üst düzey yöneticilerle iletişime geçtiler. LLMResearchTeam kullanıcı adı altında subreddit sorularını yanıtlamaya davet edilen isimsiz araştırmacılar, "Bu araştırmanın potansiyel faydalarının risklerinden önemli ölçüde daha ağır bastığına inanıyoruz" dediler. Zaten öfkeli olan Reddit kullanıcıları bundan memnun değildi. ( Temsili bir yorum : "Son derece iyi yönetilen ve etkili bir topluluğu potansiyel olarak istikrarsızlaştırabilir. Bu gerçek bir zarardır.") Reddit'in yöneticileri de memnun değildi: Baş Hukuk Sorumlusu Ben Lee, "Zürih Üniversitesi ve bu özel araştırma ekibiyle resmi yasal taleplerle iletişim kurma sürecindeyiz" diye bir gönderi paylaştı ve şirket yöneticilerinin deney için kullanılan tüm hesapları yasakladığını belirtti. Okul daha sonra 404 Media'ya çalışmayı yayınlamayacağını bildirdi ve araştırmacılar Mayıs ayı başında r/ChangeMyView'a resmi bir özür göndererek "rahatsızlıktan pişman olduklarını" ve topluluk güvenini zedeleyen diğer durumlara karşı koruyucu önlemler almak için subreddit ile "iş birliği" yapmayı teklif ettiler.

Moderatörler, araştırmacıların işbirliği teklifini reddettiklerini belirterek, "Bu olay CMV'yi hala çözmeye çalıştığımız şekillerde olumsuz etkiledi." dediler. Yaklaşık beş yıldır r/ChangeMyView'da aktif yorumcu olan bir kullanıcı, deneyin sonuçlarının "paylaşım yapma ilgimi bir nevi öldürdü. Burada çok şey öğrendiğimi düşünüyorum ama Reddit'in artık çok eğlenceli olması için çok fazla yapay zeka botu var. Bu konuda neredeyse paranoyak oldum." dedi. Başka bir kullanıcı da "çok sayıda popüler alt dizinin yapay zeka gönderileri ve bot yorumlarıyla dolu" olduğunu kabul etti . Diğer alt dizinlerde paylaşılan Zürih çalışmasıyla ilgili haber kapsamı bağlantıları, siber uzayın çoğunun yalnızca diğer botlarla etkileşime giren botlarla dolu olduğu yönündeki uzun süredir devam eden iddia olan " ölü internet teorisini " sürekli olarak gündeme getirdi. Popüler r/PublicFreakout alt dizininin moderatörleri, bir Reddit mesajında ​​bana, haberin "bu bot çiftliklerinin Reddit genelinde aktif ve başarılı olduğuna dair şüphelerimizi doğruladığını" söyledi. Başka bir kullanıcı da, isminin açıklanmaması koşuluyla bana yazdığı mektupta, artık her etkileşime "artan şüpheyle" baktığını söyledi.

15 yıldır Reddit kullanıcısı olan ar/ChangeMyView moderatörü Brandon Chin-Shue, subreddit içinde daha önce de çalışmalar yürütüldüğünü ancak yalnızca moderatörlerin önceden açık onayıyla ve kullanıcılarına bildirimlerle birlikte yürütüldüğünü söyledi. Chin-Shue, "Genellikle birkaç ayda bir öğrencilerinin ChangeMyView'a gelip tartışma ve münazaranın nasıl işlediğini öğrenmelerini isteyen bir öğretmen geliyor veya bazı bilgileri toplamak isteyen bir araştırma asistanı oluyor," dedi. "Geçtiğimiz birkaç yıl boyunca ChangeMyView bu tür şeylere az çok açıktı." ChatGPT yaratıcısı OpenAI'nin, yeni o3-mini modelinin argümanlara yanıt üretmede ne kadar "ikna edici" olabileceğini test etmek için subreddit'te düzenlediği yakın tarihli bir çalışmaya işaret etti; Girişim, 2024'te o1 modeli için r/ChangeMyView'da da benzer bir deney gerçekleştirmişti. OpenAI ayrıca r/AskReddit , r/SubSimulatorGPT2 ve r/AITA (diğer adıyla "Ben Pislik Miyim?") gibi forumlarda da üretken metin modellerini test etti.

Chin-Shue, "Sadece kullanıcıların değil, moderatörlerin de uyması gereken oldukça katı kurallarımız var," diye ekledi. "Kullanıcılarımızla iletişim kurma konusunda iyi olmaya çalışıyoruz. Her araştırma talebi aldığımızda ve kabul ettiğimizde, insanlara haber veriyoruz." Ayrıca, kendisinin ve diğer moderatörlerin, Reddit'in bu fiyasko boyunca verdiği yanıt ve yardımdan genel olarak memnun olduklarını belirtti.

Bu her zaman böyle olmadı, özellikle de platformun yapay zeka dönemi ayarlamaları söz konusu olduğunda. 2022 sonlarında ChatGPT'nin tanıtımının patlaması, Reddit'in ücretsiz bir forumdan ziyade yeni gelir kaynakları (ücretli abonelikler, reklamlar) ve borsada halka arz ile kendi kendini idame ettiren bir işletme gibi çalışma planlarıyla hızla ilerledi. En tartışmalı para kazanma kararı, CEO Steve Huffman'ın, yapay zeka şirketlerinden gelen web tarayıcılarının model eğitimi için otomatik olarak sindirebileceği ve kullanabileceği Reddit metni miktarını kısıtlamanın bir yolu olarak, Reddit'in daha önce ücretsiz olan veri API'sine erişim için ücret alma planıydı. Bu, özellikle mobil uygulamaları, kullanıcı botlarını ve Reddit deneyimini geliştirmek ve özelleştirmek için diğer uzantıları kodlamak için ücretsiz API erişiminden yararlananlar olmak üzere Reddit kullanıcıları arasında yaygın bir isyana yol açtı. Ancak Huffman, bu mağdur kullanıcıların isyanını bastırarak , fiyat etiketini yerleştirerek, Reddit hisselerini halka açarak ve hatta şirketi 2024'ün sonlarında ilk karlı çeyreğine ulaştırarak galip geldi.

Belki de en önemlisi, o yıl boyunca özel AI anlaşmaları yaptı. Google artık şirkete, AI modellerini Reddit metinlerinde eğitme izni için yılda 60 milyon dolar ödüyor ve teknoloji devi ayrıca Reddit sayfalarını arama dizinlerinde görüntülemek için özel haklar elde ediyor. (Analistlere göre, Reddit artık Google'ın AI Genel Bakışlarında en çok atıfta bulunulan ikinci web sitesi , giderek AI ile dolup taşan Quora'nın hemen arkasında.) Eski Reddit yöneticisi Sam Altman'ın başkanlığındaki OpenAI, ChatGPT yanıtlarında Reddit çıktısını atıfta bulunmak, OpenAI tanıtımı için Reddit reklam yuvalarını kullanmak ve sosyal platformun uygulama içi özellikler için OpenAI yazılımını kullanmasına izin vermek için platformla bir ortaklık kurdu . ( Semafor Cuma günü , Reddit'in, Reddit kullanıcılarının kimliklerini, girişimin tartışmalı göz küresi tarama teknolojisi aracılığıyla doğrulamaları için Altman tarafından kurulan bir başka şirket olan Worldcoin ile görüşmelerde bulunduğunu bildirdi.) Reddit'in şu anda test ettiği şirket içi yapay zeka araçları arasında, reklam verenlerin ağ üzerinde kitlesel ilgi ve onay yaratan konular hakkında bilgi edinmeleri için bir " Reddit Answers " ​​üretici arama özelliği ve bir " Reddit Insights " aracı yer alıyor. Ayrıca, daha önce bildirdiğim gibi, Elon Musk ve Luigi Mangione gibi tartışmalı ünlüler hakkındaki yorumlara yönelik aşırı agresif bir denetim uyguladıkları gerekçesiyle bazı tepkilere yol açan moderasyon botları da var.

Yine de, Reddit'in kapıcılığının kabul edilebilir bir mücadele olduğu kabul edildi . Huffman, geçen yıl Verge ile yaptığı bir röportajda , Reddit verilerini uygun tazminat ödemeden kullandıkları için Anthropic, Perplexity ve Microsoft gibi yapay zeka şirketlerine öfkelendi. O zamanlar Anthropic, Verge'e "Reddit, web tarama nedeniyle engelleme listemizde" demişti. Ancak Reddit, Anthropic'in hala çok açık sözlü olduğunu düşünmüyor ve bu ay, yapay zeka girişimini izinsiz olarak "Reddit'in sunucularına yüz binden fazla kez saldırmaya devam ettiği" gerekçesiyle dava etti ; Anthropic bu iddiaya "katılmıyor." Reddit'in baş hukuk görevlisi Lee, Slate'e yaptığı bir açıklamada, "Anthropic gibi kâr amacı güden kuruluşların Reddit içeriğini milyarlarca dolar karşılığında ticari olarak sömürmesine, reddit kullanıcılarına hiçbir karşılık vermeden veya gizliliklerine saygı göstermeden tahammül etmeyeceğiz." diye yazdı.

Yırtıcı AI tarayıcılarını denetlemekten daha zor bir görev varsa, o da Reddit etkileşimlerini kişisel, sağlıklı ve mümkün olduğunca botsuz tutmaktır. Moderatörler gönüllülük esasına göre çalıştığından, özellikle daha büyük topluluklardan sorumlularsa, yorumları ve gönderileri denetlemek için yapabilecekleri çok şey vardır. Yaklaşık 4,7 milyon üyesi olan r/PublicFreakout'un moderatörleri bana "en düşük seviyede, aylık 250.000'den fazla yorum aldıklarını" yazdılar.

"Oldukça büyük ve aktif bir ekibimiz var ancak ayda bu kadar çok yorum okumamız mümkün değil ve kesinlikle her yorumcunun profilini inceleyemeyiz," dedi moderatörlerden biri. Zakku_Rakusihi kullanıcı adını kullanan, r/BrianThompsonMurder alt dizininde moderatör olarak görev yapan ve günlük işinde makine öğrenimi yazılımlarıyla çalışan eski bir Reddit kullanıcısı bana "Reddit'in önemli bir kısmının yapay zekaya katılmadığını" ve bu nedenle onunla hiç etkileşime girmeyi reddettiğini söyledi; bu da kullanıcıların otomatik yanıtların veya oluşturulan metnin olası işaretlerini fark etmesini zorlaştırıyor. "Birçok kullanıcı etkileşimlerin çoğunu hala insan olarak görüyor, bazı yapay zeka metinleri oldukça belirgin olsa bile. Bunu insanlara birkaç kez söylemek zorunda kaldım ve anlamıyorlar. Beyinlerinde otomatik olarak belirmiyor." Özellikle yapay zeka tarafından üretilen görseller söz konusu olduğunda durumun daha da kötüleştiğini sözlerine ekledi: "Yardımcı olduğum sanat ve kendin yap (DIY) ile ilgili alt dizinlerde, 'yapay zeka tarafından üretilen sanata izin verilmez' kurallarını uygulamak zorunda kaldık."

İşleri daha da karmaşık hale getiren şey, Reddit kullanıcılarının sitenin insanların düşündüğünden daha fazla bot içerdiğinden uzun zamandır şüpheleniyor olması ; kurucuların platformun ilk günlerinde etkinlik yanılsaması yaratmak için sahte hesaplar kullandıklarını itiraf ettikleri zamana kadar. Gerçekten de, ChatGPT üretken yapay zekayı ana akıma getirmeden çok önce Reddit'te çok sayıda bot ve sahte kullanıcı vardı. Ancak bu botların hepsi aldatıcı veya kötü niyetli değildi; birçoğu, toplulukların kurallara uymasını sağlamak için moderatörler tarafından konuşlandırılan araçlardı.

2010'ların ortasında, veri güvenliği şirketi Imperva, 2015 yılında tüm web'deki trafiğin büyük bir kısmının hem "iyi" hem de "kötü" botlar tarafından oluşturulduğunu tespit eden bir rapor yayınladı . O zamandan beri, özellikle Reddit için "ölü internet teorisi" antenleri açıldı. ChatGPT sonrası dönemde, bu platformun artık çoğunlukla diğer botlarla etkileşime giren botlar olduğunu iddia eden forum gönderileri , denemeler ve Reddit gönderilerinde bolca bulabilirsiniz; bu durum Quora ve DeviantArt gibi sevilen internet depolarının başına geldi. Zürih deneyi ortaya çıkmadan önce bile, bir r/ChangeMyView posteri "şu anda açıkça konuşulandan çok daha fazla bot etkinliği devam ediyor ve botların etkileri insanların kabul etmeye istekli olduğundan daha belirgin." iddiasında bulundu.