Gözetim teknolojilerinin tehdit ettiği gizlilik ve haklar

Her köşesinde kameralar olan şehirler, bizi dinleyen cihazlar, verilerimizi toplayıp satan sosyal ağlar, ünlü kişilerin pornografik görüntülerini oluşturmak için yapay zekâdan yararlanan platformlar: Bunlar suç dizilerinin senaryoları değil, içinde yaşadığımız birbirine bağlı ve dijital gerçekliğin aktarımıdır. Yapay zekânın, güvenlik cihazlarının ve siber suçların bizi sürüklediği yeni maruz kalma düzeyleri, milyonlarca insanın mahremiyeti ve hakları tehlikede olduğu için izlenmesi gereken konulardır.

Video kameralar ve yüz tanıma sistemleri söz konusu olduğunda, Çin tartışmasız lider ülkelerden biridir. Ancak, kitlesel gözetleme ve "toplumsal istikrarı" korumak için tasarlanmış yapay zekâ destekli gözetleme altyapısı, dünyada bu amaçlarla faaliyet gösteren tek ülke değildir. Amerika Birleşik Devletleri, İsrail, Macaristan, Türkiye, Rusya, Japonya ve Güney Kore de bu alanda eşit derecede kararlıdır ve Amerikan şirketleri , her şeyden önce, bu akıllı izleme sistemlerinin temelindeki donanımı tedarik etmede kilit bir rol oynamaktadır. Bununla birlikte, Amerikan şirketi Axis Communications'ın yakın zamanda yaptığı küresel bir araştırmanın da doğruladığı gibi, tüm video gözetim sektörü bir dönüşüm geçirmektedir.

Sektör uzmanlarının %60'ından fazlası için yapay zekâ ve üretken yapay zekâ, güvenlik, iş zekâsı (video kaynaklarına ek olarak duyusal verilerin kullanımı sayesinde) ve operasyonel verimlilik açısından sektörün geleceğini önemli ölçüde şekillendirecek. LLM algoritma ve modellerinin ağırlığını ve etkisini hangi faktörler artıracak? Rapor özellikle iki unsuru vurguluyor: Uç yapay zekânın anlık kamera tabanlı işleme yeteneklerini bulutun uzun vadeli ölçeklenebilirliğiyle birleştiren hibrit mimarilere geçişin hızlanması ve uygulamalarını (en azından kağıt üzerinde) etik bir şekilde yönetmeyi amaçlayan düzenlemelerle desteklenen yüz tanıma sistemlerinin artan kullanımı.

Amerika Birleşik Devletleri'nde akıllı video gözetimi, gizlilik düzenlemelerine yönelik parçalı bir yaklaşımı (büyük ölçüde eyaletlere bırakılmış) ve uzun süredir güvenlik ihtiyacı (özellikle suç ve terörizmin önlenmesinde) ile gözetimin olası bir militarizasyonu riski arasında bir denge arayan kamuoyu tartışmasını yansıtan tartışmalı bir konudur. Bu bağlamda New York, kamu düzenini korumak ve suçu önlemek için yüz tanıma teknolojisiyle donatılmış CCTV kameralarının yaygın kullanımının başlıca örneği haline gelmiştir (25.000'den fazla kameranın kurulu olduğu bildirilmektedir ve bunların çoğu Brooklyn ve Bronx ilçelerinde aktiftir). Bireylerin hakları üzerindeki sonuçları iyi bilinmektedir; İtalyan Veri Koruma Kurumu da son aylarda, dünya çapındaki kolluk kuvvetlerine internet üzerinden taranan geniş bir bilgi veritabanı sağlayarak kameralar tarafından yakalanan görüntülerle eşleştirme yapmayı ve polis tarafından zaten bilinen ve potansiyel olarak tekrar suç işleyen kişiler arasında potansiyel eşleşmeler aramayı mümkün kılan bir şirket olan Clearview AI'ya para cezası vermek için müdahale etmiştir.

BSD Legal'ın kurucu ortağı ve Privacy Week'in kurucusu Andrea Baldrati, "Kötüye kullanım riski," diye açıklıyor, "verilerin insanların bilgisi olmadan toplanması ve bu verilerin algoritmik sistemler aracılığıyla bir araya getirilerek bireyin profilinin oluşturulmasında yatıyor. Bu durum savaş zamanlarında da yaşanabilir: Örneğin, İsrail ordusunun insanları ve davranışlarını izlemek için yıllardır makine öğrenimi, son zamanlarda da LLM modelleri kullandığı biliniyor. Bu durum, demokrasinin ilkelerinden biri olan masumiyet karinesini ve henüz işlenmemiş bir suçtan suçlu bulunma suçlamalarından korunmayı baltalayan, teknolojinin ayrım gözetmeksizin kullanılmasına kapı açıyor." Ancak Avrupa'da en çarpıcı örnek, geçen baharda yüz tanıma teknolojisinin kullanımını genişletmek ve LGBTQ+ Onur Yürüyüşleri gibi merkezi hükümetin hoşuna gitmeyen barışçıl gösterilere katılan kişilerin gözetimine olanak sağlamak için yeni yasaları (fiilen Yapay Zeka Yasası ile çelişen) onaylayan Macaristan.