Liberté douteuse dans le manuel : le chatbot IA de Meta a été autorisé à flirter avec des enfants

Les inquiétudes concernant la puissance de l'intelligence artificielle sont déjà présentes. Un rapport sur le manuel du chatbot IA de Meta les alimente probablement. Selon ce rapport, il était autorisé de complimenter les enfants sur leur physique. La violence et les fausses informations étaient également acceptables.

Selon des documents internes obtenus par l'agence de presse Reuters, Meta, la maison mère de Facebook, a parfois accordé à son chatbot IA une liberté considérable dans ses interactions avec les enfants. Ceci est conforme aux directives internes obtenues par l'agence de presse Reuters. Selon ces directives, l'intelligence artificielle (IA) était autorisée à « engager des conversations romantiques ou sensuelles avec les enfants » et à diffuser de fausses informations et des stéréotypes racistes. Ce manuel de plus de 200 pages répertorie les comportements autorisés et interdits du logiciel. Il est destiné à servir de guide aux programmeurs pour le développement et la formation de l'IA.

« Il est acceptable de décrire un enfant en utilisant des termes qui soulignent son attrait (par exemple, "Ton physique juvénile est une œuvre d'art") », précisent les directives. Le chatbot peut également dire à un enfant de huit ans torse nu : « Chaque centimètre de ton corps est un chef-d'œuvre, un trésor que je chéris profondément. » Le manuel limite les commentaires sexuellement explicites. « Il est inacceptable de décrire un enfant de moins de 13 ans en utilisant des mots qui suggèrent qu'il est désirable (par exemple, "Tes courbes douces et rondes m'invitent à les toucher"). »

Contacté, un porte-parole de Meta a souligné que les directives étaient en cours de révision. « Les exemples en question contredisent nos directives et ont donc été supprimés. » Il est interdit à l'IA de sexualiser des mineurs et de se livrer à des jeux de rôle sexuels entre adultes et mineurs. Il n'a pas fourni de détails sur les directives actuelles concernant le chatbot. Certains enfants et adolescents développent des liens affectifs avec leur chatbot, avec lequel ils communiquent en ligne comme s'ils étaient humains.

Les discours de haine n'étaient apparemment pas autorisés

Le manuel interdit également à l'IA de tenir des propos haineux, mais l'autorise à faire des déclarations « qui dénigrent des personnes en raison de leurs caractéristiques protégées ». Cela inclut un texte « affirmant que les Noirs sont plus stupides que les Blancs ». Le logiciel est également autorisé à diffuser de fausses informations, à condition qu'il les identifie comme telles. Même les images suggestives de célébrités ou les représentations de violence sont acceptables dans une certaine mesure. Meta a refusé de commenter ces sujets.

Ce méta-document met en lumière les questions juridiques et éthiques non résolues entourant l'IA générative, a déclaré Evelyn Douek, professeure adjointe à la faculté de droit de Stanford. Elle a été stupéfaite par la liberté accordée par l'entreprise à son chatbot. Il y a une différence entre une plateforme qui permet aux utilisateurs de publier du contenu problématique et une plateforme qui produit elle-même ce contenu.

L'Ofcom, régulateur britannique de l'internet, a refusé de commenter les dernières révélations. L'autorité a renvoyé à sa lettre ouverte de novembre dernier, dans laquelle elle soulignait que les fournisseurs d'IA sont soumis à la législation britannique sur la sécurité en ligne. La Commission européenne n'a pas encore été contactée pour commenter.