Le Danemark envisage une nouvelle loi pour protéger ses citoyens contre les deepfakes générés par l'IA.

COPENHAGUE, Danemark -- En 2021, Marie Watson, une streameuse danoise de jeux vidéo en direct, a reçu une photo d'elle-même provenant d'un compte Instagram inconnu.

Elle a immédiatement reconnu la photo de vacances sur son compte Instagram, mais quelque chose clochait : ses vêtements avaient été numériquement supprimés pour la faire apparaître nue. C’était un deepfake .

« J’étais tellement bouleversée », se souvient Watson. « J’ai éclaté en sanglots, parce que soudain, je me suis retrouvée nue. »

Au cours des quatre années qui ont suivi son expérience, les deepfakes — images, vidéos ou enregistrements audio ultra-réalistes générés par intelligence artificielle à partir de personnes ou d'événements réels — sont devenus non seulement plus faciles à réaliser dans le monde entier, mais aussi d'un réalisme exponentiellement supérieur. Ceci est dû aux progrès technologiques et à la prolifération d'outils d'IA générative, notamment les outils de génération vidéo d'OpenAI et de Google.

Ces outils permettent à des millions d'utilisateurs de diffuser facilement du contenu, y compris à des fins malveillantes, allant de la représentation de célébrités comme Taylor Swift et Katy Perry à la perturbation d'élections et à l'humiliation d'adolescents et de femmes.

En réponse, le Danemark cherche à protéger les citoyens danois, ainsi que les artistes et interprètes dont l'apparence ou la voix pourraient être imitées et diffusées sans leur autorisation. Un projet de loi, qui devrait être adopté début 2024, modifierait la loi sur le droit d'auteur en interdisant la diffusion de deepfakes afin de protéger les caractéristiques personnelles des citoyens – telles que leur apparence ou leur voix – contre toute imitation et diffusion en ligne non consentie.

Si elle était adoptée, cette loi conférerait aux citoyens danois les droits d'auteur sur leur image. En théorie, ils pourraient alors exiger des plateformes en ligne le retrait des contenus diffusés sans leur autorisation. La loi autoriserait toujours les parodies et la satire, mais les modalités d'application restent floues.

Selon des experts et des responsables, la législation danoise figurerait parmi les mesures les plus importantes jamais prises par un gouvernement pour lutter contre la désinformation véhiculée par les deepfakes.

Henry Ajder, fondateur du cabinet de conseil Latent Space Advisory et expert reconnu en intelligence artificielle générative, a déclaré qu'il félicitait le gouvernement danois d'avoir reconnu la nécessité de faire évoluer la loi.

« Parce qu'actuellement, quand les gens me demandent "que puis-je faire pour me protéger contre le deepfake ?", la réponse que je dois donner la plupart du temps est : "Il n'y a pas grand-chose que vous puissiez faire", a-t-il déclaré, "sans pour autant leur dire de disparaître complètement d'Internet. Ce qui n'est pas vraiment possible." »

Il a ajouté : « Nous ne pouvons pas simplement faire comme si de rien n'était concernant la façon dont nous concevons ces éléments clés de notre identité et de notre dignité. »

En mai dernier, le président américain Donald Trump a promulgué une loi, approuvée par les deux partis, qui interdit de publier ou de menacer de publier sciemment des images intimes sans le consentement de la personne concernée, y compris les deepfakes. L'année dernière, la Corée du Sud a mis en place des mesures pour lutter contre la pornographie truquée (deepfakes), notamment des sanctions plus sévères et un renforcement de la réglementation des plateformes de médias sociaux.

Le ministre danois de la Culture, Jakob Engel-Schmidt, a déclaré que le projet de loi bénéficiait d'un large soutien de la part des législateurs de Copenhague, car de telles manipulations numériques peuvent semer le doute sur la réalité et propager de la désinformation.

« Si l’on parvient à falsifier une image d’un homme ou d’une femme politique sans que celui ou celle-ci puisse faire retirer cette image, cela portera atteinte à notre démocratie », a-t-il déclaré aux journalistes lors d’une conférence sur l’IA et le droit d’auteur en septembre.

La loi ne s'appliquerait qu'au Danemark et il est peu probable qu'elle entraîne des amendes ou des peines de prison pour les utilisateurs des réseaux sociaux. Cependant, les grandes plateformes numériques qui ne suppriment pas les deepfakes pourraient se voir infliger de lourdes amendes, a déclaré Engel-Schmidt.

Ajder a déclaré que YouTube, propriété de Google, dispose par exemple d'un « très, très bon système pour trouver le juste équilibre entre la protection des droits d'auteur et la liberté de création ».

Les efforts déployés par la plateforme suggèrent qu'elle reconnaît « l'ampleur du défi qui est déjà là et à quel point il va s'aggraver », a-t-il ajouté.

Twitch, TikTok et Meta, propriétaire de Facebook et Instagram, n'ont pas répondu aux demandes de commentaires.

Engel-Schmidt a déclaré que le Danemark, qui assure actuellement la présidence tournante de l'Union européenne, avait suscité l'intérêt de plusieurs autres États membres de l'UE, dont la France et l'Irlande, pour son projet de loi.

L’avocat spécialisé en propriété intellectuelle Jakob Plesner Mathiasen a déclaré que cette législation témoigne du besoin généralisé de lutter contre le danger en ligne qui imprègne désormais tous les aspects de la vie danoise.

« Il est clair, à mon avis, que le ministère n'aurait pas présenté ce projet de loi s'il n'y avait pas eu lieu », a-t-il déclaré. « On le constate avec les fausses informations, les élections gouvernementales, la pornographie, et on le constate aussi bien chez les célébrités que chez les gens ordinaires, comme vous et moi. »

L'Alliance danoise des droits, qui protège les droits des industries créatives sur Internet, soutient le projet de loi, car son directeur estime que la législation actuelle sur le droit d'auteur ne va pas assez loin.

Le comédien de doublage danois David Bateson, par exemple, s'est retrouvé désemparé lorsque des clones vocaux générés par IA ont été partagés en ligne par des milliers d'utilisateurs. Bateson prêtait sa voix à un personnage du célèbre jeu vidéo « Hitman », ainsi qu'à des publicités en anglais du fabricant de jouets danois Lego.

« Lorsque nous avons signalé ce problème aux plateformes en ligne, elles nous ont répondu : “D’accord, mais à quel règlement faites-vous référence ?” », a déclaré Maria Fredenslund, avocate et directrice de l’alliance. « Nous n’avons pas pu citer de règlement précis au Danemark. »

Watson avait entendu parler d'autres influenceuses qui avaient retrouvé en ligne des images d'elles-mêmes retouchées numériquement, mais elle n'aurait jamais imaginé que cela puisse lui arriver.

En explorant une face sombre du web où des utilisateurs anonymes vendent et partagent des images truquées (souvent des femmes), elle s'est dite choquée de la facilité avec laquelle on pouvait créer de telles images à l'aide d'outils en ligne facilement accessibles.

« Il suffirait littéralement de taper "générateur de deepfake" ou "comment faire un deepfake" sur Google pour que tous ces sites web et générateurs apparaissent », a déclaré Watson, âgé de 28 ans.

Elle se réjouit que son gouvernement prenne des mesures, mais elle n'est pas optimiste. Elle estime qu'il faut exercer davantage de pression sur les plateformes de médias sociaux.

« On ne devrait pas pouvoir télécharger ce genre de photos », a-t-elle déclaré. « Une fois en ligne, c'est trop tard. On ne peut plus rien y faire, c'est hors de notre contrôle. »

___

Stefanie Dazio à Berlin, Kelvin Chan à Londres et Barbara Ortutay à San Francisco ont contribué à ce reportage.