Prywatność i prawa zagrożone przez technologie nadzoru

Miasta z kamerami na każdym kroku, urządzenia, które nas podsłuchują, sieci społecznościowe gromadzące i sprzedające nasze dane, platformy wykorzystujące sztuczną inteligencję do tworzenia pornograficznych wizerunków znanych osób: to nie scenariusze rodem z seriali kryminalnych , ale transpozycja połączonej i cyfrowej rzeczywistości, w której żyjemy. Nowe poziomy narażenia, na jakie narażają nas sztuczna inteligencja, urządzenia bezpieczeństwa i cyberprzestępczość, to kwestie, które należy monitorować, ponieważ prywatność i prawa milionów ludzi są zagrożone.

Jeśli chodzi o kamery wideo i systemy rozpoznawania twarzy, Chiny są bezsprzecznie jednym z liderów. Ich infrastruktura nadzoru wspomagana sztuczną inteligencją, zaprojektowana do masowej inwigilacji i utrzymania „stabilności społecznej”, nie jest jednak jedyną na świecie, która działa w tym zakresie. Stany Zjednoczone, Izrael, Węgry, Turcja, Rosja, Japonia i Korea Południowa są w równym stopniu zaangażowane w ten front, a firmy amerykańskie odgrywają kluczową rolę w dostarczaniu sprzętu, na którym opierają się te inteligentne systemy monitoringu. Jednak cała branża monitoringu wizyjnego przechodzi transformację, co potwierdza niedawne globalne badanie przeprowadzone przez amerykańską firmę Axis Communications.

Dla ponad 60% branżowych ekspertów, sztuczna inteligencja (AI) i AI generatywna znacząco ukształtują przyszłość branży pod względem bezpieczeństwa, analityki biznesowej (Business Intelligence – dzięki wykorzystaniu danych sensorycznych oprócz źródeł wideo) oraz wydajności operacyjnej. Jakie czynniki zwiększą znaczenie i wpływ algorytmów i modeli LLM? Raport podkreśla w szczególności dwa elementy: przyspieszenie przejścia na architektury hybrydowe, które łączą możliwości przetwarzania natychmiastowego opartego na kamerach, charakterystyczne dla AI brzegowej, z długoterminową skalowalnością chmury, oraz rosnące wykorzystanie systemów rozpoznawania twarzy, wspierane przez przepisy, które mają na celu regulowanie ich stosowania w sposób (przynajmniej teoretycznie) etyczny.

W Stanach Zjednoczonych inteligentny monitoring wizyjny jest tematem kontrowersyjnym, odzwierciedlającym fragmentaryczne podejście do regulacji prywatności (w dużej mierze pozostawione poszczególnym stanom) oraz debatę publiczną, która od dawna dąży do znalezienia równowagi między potrzebą bezpieczeństwa (zwłaszcza w zapobieganiu przestępczości i terroryzmowi) a ryzykiem potencjalnej militaryzacji nadzoru. W tym kontekście Nowy Jork stał się doskonałym przykładem powszechnego stosowania kamer CCTV wyposażonych w technologię rozpoznawania twarzy (podobno zainstalowano ich ponad 25 000, z których większość działa w dzielnicach Brooklyn i Bronx) w celu ochrony porządku publicznego i zapobiegania przestępczości. Konsekwencje dla praw jednostek są dobrze znane, podobnie jak włoski Urząd Ochrony Danych Osobowych, który w ostatnich miesiącach interweniował, nakładając grzywnę na Clearview AI, firmę dostarczającą organom ścigania na całym świecie ogromną bazę danych informacji przeszukiwanych przez internet, umożliwiającą dopasowywanie ich do obrazów rejestrowanych przez kamery i wyszukiwanie potencjalnych odpowiedników wśród osób już znanych policji i potencjalnie recydywistów.

„Ryzyko nadużyć” – wyjaśnia Andrea Baldrati, partner założycielski BSD Legal i założyciel Privacy Week – „polega na gromadzeniu danych bez wiedzy ludzi i agregowaniu ich za pomocą systemów algorytmicznych w celu stworzenia profilu danej osoby. Może się to również zdarzyć w kontekście wojny: wiadomo na przykład, że izraelska armia od lat wykorzystuje uczenie maszynowe, a ostatnio modele LLM, do monitorowania ludzi i ich zachowań. Otwiera to drogę do bezkrytycznego wykorzystania technologii, co podważa jedną z zasad demokracji: domniemanie niewinności i ochronę przed oskarżeniami o popełnienie przestępstwa, które jeszcze nie zostało popełnione”. W Europie najbardziej uderzającym przypadkiem są jednak Węgry, które wiosną ubiegłego roku przyjęły nowe przepisy (w praktyce sprzeczne z ustawą o sztucznej inteligencji) rozszerzające wykorzystanie technologii rozpoznawania twarzy i umożliwiające nadzór nad osobami uczestniczącymi w pokojowych demonstracjach, które nie podobają się rządowi centralnemu, takich jak parady równości LGBTQ+.