O aplicativo Meta AI permite que você "descubra" conversas estranhamente pessoais das pessoas

"Em quais países mulheres mais jovens gostam de homens brancos mais velhos?", diz uma mensagem pública de um usuário na plataforma de IA do Meta. "Preciso de detalhes, tenho 66 anos e sou solteiro. Sou de Iowa e estou aberto a me mudar para um novo país se encontrar uma mulher mais jovem." O chatbot respondeu com entusiasmo: "Você está procurando um novo começo e amor em um novo lugar. Que empolgante!", antes de sugerir "países mediterrâneos como Espanha ou Itália, ou até mesmo países do Leste Europeu".

Esta é apenas uma das muitas conversas aparentemente pessoais que podem ser visualizadas publicamente no Meta AI , uma plataforma de chatbot que também funciona como um feed social e foi lançada em abril . No aplicativo Meta AI, uma aba "descobrir" mostra uma linha do tempo das interações de outras pessoas com o chatbot; uma breve rolagem para baixo no site do Meta AI revela uma extensa colagem. Embora algumas das perguntas e respostas em destaque sejam inofensivas — itinerários de viagem, dicas de receitas —, outras revelam locais, números de telefone e outras informações confidenciais, todas vinculadas a nomes de usuários e fotos de perfil.

Calli Schroeder, consultora jurídica sênior do Electronic Privacy Information Center, disse em uma entrevista à WIRED que viu pessoas "compartilhando informações médicas, informações sobre saúde mental, endereços residenciais e até mesmo coisas diretamente relacionadas a processos judiciais pendentes".

“Tudo isso é extremamente preocupante, porque acho que isso mostra como as pessoas estão entendendo mal o que esses chatbots fazem ou para que servem, e também porque estão entendendo mal como a privacidade funciona com essas estruturas”, diz Schroeder.

Não está claro se os usuários do aplicativo sabem que suas conversas com a IA do Meta são públicas ou quais usuários estão trollando a plataforma depois que veículos de notícias começaram a noticiar o ocorrido. As conversas não são públicas por padrão; os usuários precisam optar por compartilhá-las.

Não faltam conversas entre usuários e o chatbot de IA do Meta que parecem ter a intenção de serem privadas. Um usuário solicitou ao chatbot de IA que fornecesse um formato para rescisão de contrato de locação de um inquilino, enquanto outro solicitou que ele fornecesse uma advertência acadêmica com dados pessoais, incluindo o nome da instituição de ensino. Outra pessoa perguntou sobre a responsabilidade de sua irmã em potencial fraude fiscal corporativa em uma cidade específica, usando uma conta vinculada a um perfil do Instagram que exibe nome e sobrenome. Outra pessoa solicitou que ele desenvolvesse uma declaração de caráter para um tribunal que também fornecesse uma miríade de informações de identificação pessoal sobre o suposto criminoso e o próprio usuário.

Há também muitos casos de perguntas médicas, incluindo pessoas revelando suas dificuldades com a evacuação, pedindo ajuda para urticária e perguntando sobre uma erupção cutânea na parte interna das coxas. Um usuário contou ao Meta AI sobre sua cirurgia no pescoço e incluiu sua idade e profissão na mensagem. Muitas contas, mas não todas, parecem estar vinculadas a um perfil público do indivíduo no Instagram.

O porta-voz da Meta, Daniel Roberts, escreveu em uma declaração por e-mail à WIRED que os bate-papos dos usuários com a Meta AI são privados, a menos que os usuários passem por um processo de várias etapas para compartilhá-los no feed do Discover. A empresa não respondeu a perguntas sobre quais medidas estão em vigor para o compartilhamento de informações de identificação pessoal na plataforma Meta AI.

Em uma publicação no blog da empresa anunciando o aplicativo, a Meta afirmou que "nada é compartilhado no seu feed a menos que você decida postar". A empresa também menciona que os usuários podem instruir a IA a "lembrar certas coisas sobre você" e "também fornece respostas mais relevantes às suas perguntas, aproveitando informações que você já escolheu compartilhar nos produtos Meta, como seu perfil e conteúdo que você gosta ou com o qual interage".

“As pessoas realmente não entendem que nada que você insere em uma IA é confidencial”, diz Schroeder. “Nenhum de nós sabe realmente como todas essas informações estão sendo usadas. A única coisa que sabemos com certeza é que elas não ficam entre você e o aplicativo. Elas vão para outras pessoas, pelo menos para o Meta.”

Após o lançamento inicial do aplicativo de IA da Meta, os críticos foram rápidos em apontar possíveis problemas de privacidade, com uma manchete chamando-o de " um desastre de privacidade prestes a acontecer". Apesar dessas preocupações, o ritmo de desenvolvimento e implantação dessa IA não mostra sinais de desaceleração, especialmente na Meta: o CEO Mark Zuckerberg anunciou recentemente que o assistente de IA da Meta tem 1 bilhão de usuários nas plataformas da empresa, e foi relatado que a Meta está criando um novo laboratório de IA liderado pelo cofundador da Scale AI, Alexandr Wang, dedicado à construção de superinteligência.

"A Meta está ciente de quanta informação sensível seus usuários estão erroneamente disponibilizando publicamente?", perguntou um usuário à Meta AI na quinta-feira, em uma consulta que apareceu no feed público.

“Alguns usuários podem compartilhar informações confidenciais involuntariamente devido a mal-entendidos sobre os padrões da plataforma ou alterações nas configurações ao longo do tempo”, respondeu o chatbot. “O Meta oferece ferramentas e recursos para ajudar os usuários a gerenciar sua privacidade, mas é um desafio constante.”