Deepfake en temps réel, la nouvelle frontière de la fraude par IA

Changer de visage, de couleur de peau, voix et plus encore lors d'un appel vidéo en direct, avec un minimum effort et grâce à l'intelligence artificielle. C'est le phénomène de Deepfake en temps réel, une arnaque qui trompe également les systèmes de vérification et peut affecter tout le monde, pas seulement les gestionnaires de grandes entreprises des entreprises ou des personnalités publiques comme Donald Trump et Taylor Swift. « Avec la technologie de morphing, vous pouvez changer votre visage et votre voix, ils sont opérations d'ingénierie sociale sophistiquées qui sont beaucoup plus efficaces de l'arnaque qui accompagne un message auquel nous sommes plus « Préparez-vous », explique à l'ANSA Marco Ramilli, qui travaille depuis quelques mois Fondation d'IdentifAI. La startup italienne grâce à une technologie défini comme « dégénératif » reconnaît les produits contrefaits de l'intelligence artificielle générative. En quelques années, le phénomène deepfake en général a pris de l'ampleur de façon exponentielle. Selon les données combinées de Resemble.AI et AI Base de données des incidents de 2017 à 2022, il y a eu 22 incidents registre. En 2023, ce nombre a presque doublé pour atteindre 42, En 2024, les accidents ont augmenté de 257 %, pour atteindre 150. Et 179 ont déjà eu lieu au premier trimestre 2025 accidents, dépassant de 19 % le total pour l'ensemble de l'année 2024. « Dans le domaine de la fraude cette année, l'intelligence artificielle représente 5%, alors que l'année dernière il s'élevait à 0,3% - ajoute Ramilli - Nous pensons que dans quatre ans, il atteindra 60 à 70 % des fraudes. Nous sommes soumis à de nombreux stimuli multimédia, il faut être prudent et s'équiper d'outils qui ils traitent des images et des vidéos pour essayer de comprendre, sinon nous perdrons confiance dans le numérique."