Un homme a été escroqué de plus de 100 millions de dollars par une fausse petite amie générée par l'IA

Un habitant de Shanghai a perdu plus de 27 000 dollars (environ 111 millions de pesos colombiens) après avoir été piégé dans une relation virtuelle avec un prétendu partenaire créé à l'aide de l'intelligence artificielle, ont rapporté les médias d'État chinois.

Les escrocs ont utilisé des outils d'intelligence artificielle générative pour produire des vidéos et des photographies réalistes d'une femme inexistante, a rapporté la chaîne publique CCTV.

Convaincu de l'authenticité de leur relation, l'homme a effectué des virements totalisant environ 200 000 yuans (environ 27 580 dollars ou 113 millions de pesos colombiens) sur le compte qu'il croyait appartenir à sa partenaire.

Les escrocs ont utilisé ce contenu manipulé pour le persuader de contribuer financièrement à une entreprise et de couvrir les frais médicaux d’un membre de sa famille. Pour étayer leur accusation, ils ont fabriqué des documents médicaux et une fausse carte d’identité.

Citant une enquête des autorités, CCTV a déclaré que l'opération avait été menée par une « équipe d'escrocs qui ont envoyé des vidéos et des photos créées par l'IA ou en combinant plusieurs images ».

Les médias d’État ont également souligné que la victime « n’avait jamais rencontré » en personne la femme avec laquelle il était en contact. Dans une vidéo diffusée par CCTV, des images d'une femme ont été montrées dans différents scénarios, par exemple tenant une palette de peintures et marchant dans une rue de la ville.

Les outils d’intelligence artificielle capables de générer du contenu visuel et écrit très réaliste sont de plus en plus utilisés dans les stratagèmes frauduleux.

Plus tôt ce mois-ci, la société technologique Meta a mis en garde les utilisateurs contre les risques des rencontres en ligne , affirmant que les escroqueries liées à l'IA générative étaient en augmentation.

Meta a alerté les utilisateurs sur la montée des escroqueries sentimentales en ligne, où les criminels créent de fausses identités pour profiter des personnes à la recherche d'un partenaire.

Ces tactiques incluent l’utilisation de l’intelligence artificielle générative pour rendre leurs canulars plus convaincants.

« Il s’agit d’un nouvel outil dans l’arsenal des escrocs », a déclaré David Agranovich, directeur de la politique de lutte contre les menaces mondiales chez Meta. Selon lui, les responsables de ces fraudes changent constamment de stratégie, c'est pourquoi les plateformes doivent mettre à jour leurs méthodes de détection.

Les méta-applications comme Instagram et WhatsApp utilisent des systèmes qui identifient les comportements suspects plutôt que de se concentrer uniquement sur les images , leur permettant de détecter les activités frauduleuses malgré les astuces de l'IA. « Cela rend notre détection et notre application un peu plus résistantes à l'IA générative », a déclaré Agranovich. À titre d’exemple, il a cité une opération récemment démantelée qui avait pour origine le Cambodge et qui ciblait des personnes parlant chinois et japonais.

Les chercheurs d'OpenAI ont découvert que le système de fraude utilisait des outils de la société d'intelligence artificielle basée à San Francisco pour créer et traduire du contenu, a rapporté Meta.

L'intelligence artificielle générative est disponible depuis plus d'un an, mais son utilisation par les fraudeurs s'est accrue ces derniers mois, selon Rachel Tobac, PDG de SocialProof Security. « Ils peuvent également utiliser ces faux robots qui permettent de créer un personnage ou de passer des appels téléphoniques en utilisant un clone vocal sans avoir besoin d'intervention humaine », prévient Tobac. Il a ajouté : « Ils les appellent des agents, mais ils ne sont pas utilisés pour le service client. Ils sont utilisés pour des escroqueries de manière automatisée. »

À l’approche de la Saint-Valentin, le 14 février, et alors que le temps hivernal frappe l’hémisphère nord, les escrocs voient une opportunité de manipuler émotionnellement leurs victimes. « Nous constatons clairement un afflux d’escrocs qui profitent de cette solitude au milieu de l’hiver », a déclaré Tobac.

Le but principal de ces escroqueries est d'obtenir de l'argent en gagnant la confiance de la victime, puis en lui demandant une aide financière ou des informations personnelles pour accéder aux comptes bancaires . « Être poliment paranoïaque est très utile, tout comme vérifier que les gens sont bien ceux qu'ils prétendent être », a déclaré Tobac.

Les opérations de fraude sont réparties sur plusieurs plateformes et Meta n'en détecte qu'une partie. En 2023, l'entreprise a supprimé plus de 408 000 comptes dans les pays d'Afrique de l'Ouest utilisés pour se faire passer pour des militaires ou des hommes d'affaires et attirer des victimes en Australie, au Royaume-Uni, en Europe et aux États-Unis.

Dans le cadre de ses efforts pour lutter contre ces fraudes, Meta teste un système de reconnaissance faciale permettant d'identifier les profils suspects signalés par les utilisateurs ou détectés par ses outils de sécurité.

*Ce contenu a été réécrit avec l'aide de l'intelligence artificielle, à partir d'informations de l'AFP, et a été relu par un journaliste et un rédacteur en chef.