Les escrocs ont utilisé des outils d’IA deepfake pour créer de fausses personnalités en ligne et piéger les victimes lors d’appels vidéo.

Lundi, la police de Hong Kong a annoncé l’arrestation de 27 personnes impliquées dans une opération d’escroquerie à la romance qui utilisait des techniques de substitution de visage par l’IA pour escroquer des victimes à hauteur de 46 millions de dollars par le biais de faux investissements en crypto-monnaies, rapporte le South China Morning Post. Le Réseau d’escrocs créait des personnages féminins attrayants pour les rencontres en ligne, en utilisant des outils non spécifiés pour transformer leurs apparences et leurs voix.
Parmi les personnes arrêtées figurent six jeunes diplômés de l’université qui auraient été recrutés pour mettre en place de fausses plateformes d’échange de crypto-monnaies. Une source anonyme a déclaré au South China Morning Post que cinq des personnes arrêtées étaient soupçonnées d’avoir des liens avec Sun Yee On, un important groupe criminel organisé (souvent appelé » triade « ) à Hong Kong et en Chine.
« Le syndicat présentait aux victimes des relevés de transactions de bénéfices fabriqués de toutes pièces, affirmant que leurs investissements leur rapportaient gros », a déclaré Fang Chi-kin, chef de l’unité régionale de lutte contre la criminalité des Nouveaux Territoires du Sud.
Les escrocs, qui opèrent depuis un immeuble de 4 000 pieds carrés à Hong Kong, ont d’abord contacté les victimes sur les plateformes de médias sociaux en utilisant des photos générées par l’intelligence artificielle. Les images représentaient des personnes séduisantes avec des personnalités, des professions et des niveaux d’études attrayants.
L’escroquerie a pris une tournure plus avancée lorsque les victimes ont demandé des appels vidéo. Le surintendant Iu Wing-kan a déclaré que la Technologie deepfake transformait les escrocs en ce qui semblait être des femmes séduisantes, gagnant la confiance des victimes et construisant ce qu’elles pensaient être une romance avec les escrocs.
Les victimes ont réalisé qu’elles avaient été dupées lorsqu’elles ont tenté de retirer de l’argent des fausses plateformes.
L’opération de police a abouti à la saisie d’ordinateurs, de téléphones portables et d’environ 25 756 dollars de produits suspects et de montres de luxe au siège du syndicat. La police a déclaré que les victimes étaient originaires de plusieurs pays, dont Hong Kong, la Chine continentale, Taïwan, l’Inde et Singapour.
Un problème de deepfake en temps réel qui s’aggrave
Les deepfakes en temps réel sont devenus un problème croissant au cours de l’année écoulée. En février, le bureau de Hong Kong de la société d’ingénierie britannique Arup a perdu 25 millions de dollars à la suite d’une escroquerie à l’IA dans laquelle les auteurs ont utilisé des deepfakes de cadres supérieurs au cours d’une vidéoconférence pour inciter un employé à transférer de l’argent.
La nouvelle de l’escroquerie survient également alors que l’Office des Nations Unies contre la drogue et le crime (ONUDC) a récemment lancé un avertissement, note The Record dans un rapport sur le récent réseau d’escroquerie. L’agence a publié la semaine dernière un rapport soulignant les progrès technologiques des syndicats du crime organisé en Asie, mentionnant en particulier l’utilisation croissante de la technologie deepfake dans la fraude.
L’agence de l’ONU a identifié plus de 10 fournisseurs de logiciels deepfake qui vendent leurs services sur Telegram à des groupes criminels en Asie du Sud-Est, ce qui montre l’accessibilité croissante de cette technologie à des fins illégales.
Certaines entreprises tentent de trouver des solutions automatisées aux problèmes posés par la criminalité assistée par l’IA, notamment Reality Defender, qui crée un logiciel tentant de détecter les deepfakes en temps réel. Certaines techniques de détection des « deepfakes » peuvent fonctionner pour le moment, mais à mesure que les faux gagnent en réalisme et en sophistication, nous pourrions assister à une course aux armements de plus en plus intense entre ceux qui cherchent à tromper les autres et ceux qui veulent empêcher la tromperie.
Jad MARCHI est un ardent défenseur de la technologie, passionné par son potentiel de transformation. Ayant accumulé une décennie d’expérience dans le secteur technologique, Jean a travaillé sur une variété de projets innovants qui l’ont amené à comprendre le paysage changeant de ce domaine. Il est fasciné par l’évolution rapide de la technologie et son impact sur notre société. Que ce soit l’intelligence artificielle, la robotique, la blockchain ou la cybersécurité, il est toujours à la recherche des dernières tendances. Ses articles cherchent à informer, à inspirer et à provoquer des réflexions sur la façon dont la technologie façonne notre avenir.
