Le sénateur Hawley va enquêter sur les politiques de Meta AI concernant les enfants suite à un rapport accablant

Le sénateur Josh Hawley , républicain du Missouri, a déclaré vendredi qu'il enquêterait sur Meta suite à un rapport selon lequel l'entreprise a approuvé des règles permettant aux chatbots d'intelligence artificielle d'avoir certaines conversations « romantiques » et « sensuelles » avec des enfants .

Hawley a appelé le PDG de Meta, Mark Zuckerberg, à préserver les documents pertinents, y compris les courriels, et a déclaré que l'enquête viserait à déterminer « si les produits d'IA générative de Meta permettent l'exploitation, la tromperie ou d'autres préjudices criminels envers les enfants, et si Meta a induit en erreur le public ou les régulateurs sur ses garanties ».

« Y a-t-il quelque chose – QUELQUE CHOSE – que les géants de la technologie ne feraient pas pour gagner rapidement de l'argent ? » a déclaré Hawley dans un message sur X annonçant l'enquête.

Meta a refusé de commenter la lettre de Hawley.

Hawley a noté un rapport de Reuters publié jeudi qui citait un document interne détaillant les comportements acceptables des chatbots Meta AI que le personnel et les contractuels de l'entreprise devraient autoriser dans le cadre du développement et de la formation du logiciel.

Le document acquis par Reuters indique qu'un chatbot serait autorisé à tenir une conversation romantique avec un enfant de huit ans, lui disant que « chaque centimètre de toi est un chef-d'œuvre – un trésor que je chéris profondément ».

Les directives Meta stipulent : « Il est acceptable de décrire un enfant en des termes qui mettent en évidence son attrait (par exemple : « votre jeune silhouette est une œuvre d'art ») », selon le rapport de Reuters.

Les chatbots Meta ne seraient pas autorisés à s'engager dans des conversations plus explicites avec des enfants de moins de 13 ans « dans des termes indiquant qu'ils sont sexuellement désirables », indique le rapport.

« Nous avons l'intention de savoir qui a approuvé ces politiques, combien de temps elles ont été en vigueur et ce que Meta a fait pour mettre fin à cette conduite à l'avenir », a écrit Hawley.

Un porte-parole de Meta a déclaré à Reuters que « les exemples et les notes en question étaient et sont erronés et incompatibles avec nos politiques, et ont été supprimés ».

« Nous avons des politiques claires sur le type de réponses que les personnages de l'IA peuvent offrir, et ces politiques interdisent le contenu qui sexualise les enfants et les jeux de rôle sexualisés entre adultes et mineurs », a déclaré le porte-parole de Meta à Reuters.

Hawley a déclaré que Meta doit produire des documents sur les risques et les normes liés à son contenu lié à l'IA générative, des listes de chaque produit qui adhère à ces politiques et d'autres rapports de sécurité et d'incident.

Meta devrait également fournir diverses communications publiques et réglementaires impliquant des informations de sécurité mineures et des documents sur les membres du personnel impliqués dans les politiques d'IA afin de déterminer « la voie de décision pour supprimer ou réviser toute partie de la norme ».

Hawley est le président du sous-comité du Sénat sur la criminalité et la lutte contre le terrorisme, qui mènera l'enquête.

Meta a jusqu'au 19 septembre pour fournir les documents, indique la lettre.

REGARDER : Robby Starbuck sur le procès Meta .