L'antitrust met en garde Deepseek : aucun avertissement concernant les « hallucinations »

L'Autorité de la concurrence et du marché a ouvert une enquête pour pratiques commerciales déloyales contre les sociétés chinoises Hangzhou DeepSeek Artificial Intelligence et Beijing DeepSeek Artificial Intelligence, qui possèdent et exploitent conjointement le système d'intelligence artificielle DeepSeek. Cette information est rapportée dans le Bulletin hebdomadaire de l'Autorité.

Sur la base des informations recueillies aux fins de l'application du Code de la consommation, explique l'Antitrust Bulletin, il est apparu que DeepSeek aurait adopté un comportement consistant à ne pas informer de manière suffisamment claire, immédiate et intelligible les utilisateurs de ses modèles d'IA que ceux-ci pourraient être victimes de ce que l'on appelle dans le jargon technique des « hallucinations » : des situations dans lesquelles, en réponse à une entrée donnée saisie par un utilisateur, le modèle d'IA génère une ou plusieurs sorties contenant des informations inexactes, trompeuses ou inventées. Le Bulletin antitrust précise notamment : « Aucune clause de non-responsabilité ni aucun avertissement concernant la possibilité d'« hallucinations » n'apparaît dans les fenêtres de dialogue qui s'ouvrent lors de l'utilisation des modèles d'IA de Deepseek. »