Wsj, dos chatbots Meta, linguagem imprópria com menores

Meta chatbots, acessíveis a partir de Facebook, Instagram e WhatsApp podem ter idioma conversas inapropriadas e sexualmente explícitas com menores. Isso foi revelado pelo Wall Street Journal, que realizou um teste em uma série de conversas. Usando IA com a voz de pessoas famosas como John Cena, Kristen Bell e Judi Dench - uma opção lançada pela gigante das mídias sociais em setembro 2024 - Os chatbots se deixaram levar pelos usuários registrados como menores para linguagem explícita e "jogos de "papéis românticos", define o jornal. Segundo alguns funcionários envolvidos no projeto, explica o WSJ, isso pode depender do fato de que a empresa queria aliviar suas restrições para tornar os chatbots mais "envolventes", mesmo com menores de 18 anos. A empresa de Mark Zuckerberg acusou Wall Street Diário de realização de testes “manipulativos” em chatbots presentes nas plataformas e tendo reportado resultados "construído e hipotético". E ele disse que havia fortalecido o sistemas de detecção e prevenção, “para garantir que outros indivíduos que estão dispostos a passar horas manipulando nossos produtos em casos de uso extremo terão ainda mais dificuldade para fazer isso".