Privacidade e direitos ameaçados por tecnologias de vigilância

Cidades com câmeras em cada esquina, aparelhos que nos escutam, redes sociais que coletam e vendem nossos dados, plataformas que exploram inteligência artificial para criar imagens pornográficas de pessoas famosas: esses não são cenários de séries policiais , mas a transposição da realidade interconectada e digital em que vivemos. Os novos níveis de exposição a que a inteligência artificial, os dispositivos de segurança e o cibercrime nos levam são questões que precisam ser monitoradas, pois a privacidade e os direitos de milhões de pessoas estão em jogo.

Quando se trata de câmeras de vídeo e sistemas de reconhecimento facial, a China é inquestionavelmente um dos países líderes. Sua infraestrutura de vigilância aprimorada por IA, projetada para vigilância em massa e manutenção da "estabilidade social", não é, contudo, a única ativa no mundo com esses objetivos. Os Estados Unidos, Israel, Hungria, Turquia, Rússia, Japão e Coreia do Sul estão igualmente empenhados nessa área, e as empresas americanas , principalmente, desempenham um papel fundamental no fornecimento do hardware que sustenta esses sistemas inteligentes de monitoramento. No entanto, todo o setor de videovigilância está passando por uma transformação, como confirmado por um recente estudo global da empresa americana Axis Communications.

Para mais de 60% dos especialistas do setor, a IA e a IA generativa moldarão significativamente o futuro da indústria em termos de segurança, inteligência de negócios (graças ao uso de dados sensoriais além de fontes de vídeo) e eficiência operacional. Quais fatores aumentarão o peso e o impacto dos algoritmos e modelos de aprendizado de máquina? O relatório destaca dois elementos em particular: a transição acelerada para arquiteturas híbridas, que combinam os recursos de processamento instantâneo baseados em câmeras da IA ​​de borda com a escalabilidade de longo prazo da nuvem, e o uso crescente de sistemas de reconhecimento facial, apoiado por regulamentações que visam governar sua aplicação de maneira (pelo menos em teoria) ética.

Nos Estados Unidos, a vigilância por vídeo inteligente é um tema controverso, refletindo uma abordagem fragmentada à regulamentação da privacidade (em grande parte deixada a cargo de cada estado) e um debate público que há muito busca um equilíbrio entre a necessidade de segurança (especialmente na prevenção do crime e do terrorismo) e o risco de uma potencial militarização da vigilância. Nesse contexto, Nova York tornou-se um exemplo primordial do uso generalizado de câmeras de vigilância equipadas com tecnologia de reconhecimento facial (mais de 25.000 câmeras estão instaladas, a maioria delas ativas nos bairros do Brooklyn e do Bronx, segundo relatos) para proteger a ordem pública e prevenir crimes. As consequências para os direitos individuais são bem conhecidas, assim como a Autoridade Italiana de Proteção de Dados, que interveio nos últimos meses para multar a Clearview AI, empresa que fornece às agências de segurança pública do mundo todo um vasto banco de dados com informações coletadas na internet para permitir a comparação com imagens capturadas por câmeras e a busca por possíveis correspondências entre indivíduos já conhecidos pela polícia e potenciais reincidentes.

"O risco de abuso", explica Andrea Baldrati, sócia-fundadora da BSD Legal e fundadora da Privacy Week, "reside na coleta de dados sem o conhecimento das pessoas e na agregação desses dados por meio de sistemas algorítmicos para construir um perfil do indivíduo. Isso também pode acontecer em contextos de guerra: sabe-se, por exemplo, que o exército israelense utiliza aprendizado de máquina há anos, e recentemente modelos LLM, para monitorar pessoas e comportamentos. Isso abre caminho para um uso indiscriminado da tecnologia que mina um dos princípios da democracia: a presunção de inocência e a proteção contra acusações de crimes ainda não cometidos." Na Europa, porém, o caso mais flagrante é o da Hungria, que na primavera passada aprovou novas leis (efetivamente em conflito com a Lei de Inteligência Artificial) para expandir o uso da tecnologia de reconhecimento facial e permitir a vigilância de pessoas que participam de manifestações pacíficas desaprovadas pelo governo central, como as paradas do Orgulho LGBTQ+.