Controle de chat: como funciona, riscos potenciais e o que a regulamentação europeia prevê.

Dentro de poucos dias, mais precisamente no dia 14 de outubro, os Estados-membros terão de decidir se apoiam ou rejeitam a proposta da Comissão conhecida como Regulamento sobre Abuso Sexual de Crianças (CSAR) , mais conhecido como Chat Control, uma medida que visa combater a difusão de conteúdos ilegais online , nomeadamente os relacionados com abuso sexual de crianças, através da utilização de tecnologias automáticas baseadas em inteligência artificial que analisam as comunicações privadas trocadas em aplicações de mensagens, redes sociais e serviços de correio eletrónico.

Se aprovada, a votação desencadeará negociações com o Parlamento Europeu para chegar a um texto compartilhado.

Este sistema monitora mensagens, imagens e arquivos trocados online, inclusive em serviços de mensagens como WhatsApp, Telegram e outros, para identificar pornografia infantil ou outros conteúdos suspeitos. Em seguida, denuncia esse conteúdo às autoridades ou plataformas para que possam intervir com bloqueios ou investigações, com o objetivo de proteger menores e garantir maior segurança digital.

Para fazer isso, ele usa sistemas de inteligência artificial e algoritmos de detecção que analisam automaticamente cada conteúdo carregado ou enviado, antes que ele possa ser criptografado de ponta a ponta, graças a um “backdoor” especialmente construído.

E é justamente essa "porta dos fundos" que muitos, incluindo os desenvolvedores dos aplicativos afetados, mas também países como Áustria e Polônia — Alemanha e Itália estão entre os indecisos — acreditam constituir uma vulnerabilidade que pode abrir caminho para riscos que vão do abuso governamental à interferência criminosa. O Chat Control levanta sérias preocupações quanto à proteção da privacidade e dos direitos fundamentais dos usuários . A vigilância generalizada de comunicações privadas implica controle direto sobre dados antes considerados estritamente confidenciais , abrindo assim a porta para potenciais abusos, erros e relatórios falsos produzidos por algoritmos automatizados que estão longe de ser infalíveis, o que poderia afetar conversas inofensivas e comprometer a liberdade de expressão. Há também temores de que esse sistema possa estabelecer uma forma de vigilância em massa que mine a confiança dos usuários nas plataformas digitais. Outro aspecto crítico diz respeito ao impacto na criptografia de ponta a ponta , usada como barreira à confidencialidade, que corre o risco de ser comprometida pela exigência de digitalização , com possíveis repercussões negativas na segurança cibernética geral.

A regulamentação europeia que inclui o Chat Control faz parte da Lei de Serviços Digitais, que impõe às plataformas digitais a obrigação de adotar tecnologias de varredura automática não apenas para conteúdo público, mas também para comunicações privadas, estabelecendo a colaboração obrigatória entre empresas de tecnologia e autoridades judiciais para denunciar prontamente conteúdo ilegal. Também estão previstos mecanismos de freios e contrapesos para proteger os direitos fundamentais dos usuários, mas vários observadores pedem maior transparência e garantias para garantir que o monitoramento não se torne uma ferramenta de vigilância excessiva e invasiva.