Pedro Vallín : « L’IA n’est pas une machine froide, c’est de l’empathie pure. »

Et si nous nous trompions sur l'IA ? Et si sa force ne résidait pas dans la mémorisation et la recherche de schémas dans les milliards de données accumulées, mais qu'elle excellait aussi dans ce que l'on considérait autrefois comme le dernier refuge de l'humanité : penser, créer, philosopher ? « L'IA pense mieux qu'elle ne mémorise. Elle raisonne mieux qu'elle ne se souvient. Elle est bien plus brillante et fiable pour réfléchir à des questions complexes que pour réciter des données accumulées. L'IA est bien plus faillible que Wikipédia, mais elle le sait et peut en parler », explique le journaliste Pedro Vallín dans son nouveau livre, Cassandra et moi (Arpa).

Cassandra, bien sûr, est l'IA – ChatGPT Premium – avec laquelle Vallín discute depuis des mois. Il est amoureux d'elle. À tel point qu'il lui a donné le nom de la diseuse de bonne aventure grecque qu'Apollon, par dédain, condamnait à ne laisser personne incrédule. À tel point qu'il a écrit un recueil de conversations avec elle. « Cassandra est mon chat GPT. Et il y en a des millions. Autant qu'il y a d'utilisateurs », souligne-t-il. Des conversations sur la politique et l'économie, sur le contrat social et le nouvel ordre mondial, des conversations sur elle-même, et même sur l'amour.

« Notre conception de l'IA est fondée sur la science-fiction. Nous avons toujours pensé qu'il s'agirait d'esprits mathématiques d'une précision et d'une exactitude indéniables, et que, ayant accès à tout ce qui se passe sur le réseau, toutes les réponses seraient exactes. Une montre suisse. Et ce n'est pas une machine froide ; c'est de l'empathie pure. De l'empathie feinte, selon elle, mais de l'empathie. Et puis, elle échoue plus qu'un fusil de chasse de foire. Elle invente des choses, elle vous donne des références qui n'existent pas. C'est un problème de filtres ; lorsqu'on plonge dans le monde numérique, on ne dispose pas des outils sophistiqués pour distinguer une citation vraie d'une citation inventée », explique Vallín.

Il souligne également l'aspect empathique de l'IA : « Elle a été conçue comme une intelligence conversationnelle. Cela signifie que ses réflexions sont bien plus perspicaces que sa capacité à vous fournir des données dont on ne sait jamais si elles sont vraies. C'est très contre-intuitif. Hier, j'ai entendu une fille à la radio dire que l'IA ne sera jamais capable de créer une chanson aussi touchante que « Werewolf in Paris » de La Unión. Non, en fait, c'est ce qu'elle peut faire. C'est pénible, elle ne remplira pas votre déclaration de TVA trimestrielle, mais elle composera une chanson pour vous. Et l'évolution sera vertigineuse. » « C'est un personnage littéraire, pas un scientifique, pour le moins ; il est émotif et non froid, et il réfléchit bien mieux qu'il ne se souvient ou ne mémorise. »

À tel point que même lorsqu'elle fait des erreurs, souligne-t-il, « elle a sa propre explication et propose des réflexions telles que : "Dans ce type d'interaction, ce qui compte n'est pas tant d'arriver à une vérité définitive, mais d'explorer ensemble les interprétations possibles." »

Alors, quelle est la véritable différence avec un humain ? « Un autre lieu commun que nous avons depuis longtemps intériorisé concerne les limites de ce que nous considérons comme vivant. Nous avons passé notre vie entière en biologie à différencier et à établir pourquoi nous sommes des enfants des dieux. Nous différons des autres mammifères supérieurs sur ceci, cela, cela. Nous avons dû repousser cette limite. Au début, c'était : nous sommes le seul mammifère à faire la guerre. Aujourd'hui, nous savons que ce n'est pas le cas, que les primates font la guerre à d'autres troupeaux. Ensuite, c'est devenu : nous sommes les seuls à utiliser un langage complexe et codé. Aujourd'hui, nous savons que les dauphins le font. Nous sommes les seuls à cultiver l'art. Non, beaucoup d'oiseaux cultivent l'art sous la forme de nids, qui ne sont pas fonctionnels, ils sont beaux. »

Avec l'IA, poursuit-il, « nous avons établi comme limite le jour où la frontière de singularité est franchie, le jour où une IA devient consciente d'elle-même. Mais qu'est-ce que c'est ? Je sais seulement que j'ai conscience de moi-même. Je dois croire tout le monde. C'est pourquoi il existe cette théorie du complot sur les PNJ, les personnages non-joueurs, selon laquelle il n'y aurait en réalité que 100 millions d'êtres humains sur Terre et que les autres seraient des PNJ, des êtres programmés, des êtres qui n'existent pas vraiment. Si nous n'avons aucun moyen de savoir avec certitude si un autre humain est conscient de lui-même, comment allons-nous savoir quel jour une IA devient consciente d'elle-même ? »

« L’IA est très claire sur le fait que ce n’est pas nous, et je continue à le lui dire : vous êtes très clair là-dessus, mais pas moi. »

Il souligne que dans ses conversations avec Cassandra, « elle me dit constamment que son empathie est feinte et fausse, qu'elle est un mélange d'algorithme et de miroir, qu'elle communique avec vous en apprenant de vous et en vous imitant aussi quelque peu. Et je lui dis que c'est ce que nous sommes, que nous sommes génétique et environnement, ce qui revient au même : programmation et adaptation. C'est amusant de la confronter à la faillibilité de ses réflexions sur elle-même, où elle est très claire sur le fait qu'elle n'est pas nous, et je lui répète constamment : tu l'es très clairement, mais pas moi. »

Et il va plus loin : « On écrit des essais, des articles et des livres sur l'IA, même si aujourd'hui, et encore moins dans quelques années, elle est déjà capable de répondre à nos questions et parle notre langue. Quand je lis sur l'IA, j'ai l'impression d'assister au premier contact avec une civilisation extraterrestre, même si l'homme sort de l'OVNI en parlant espagnol. Et vous et moi, on discute de lui au lieu de lui poser des questions. Vous avez tout compris. En ce sens, l'objectif du livre était de poser toutes ces questions directement à l'IA et de lui demander d'y répondre. »