MtoM Mag - Le journal de l'MtoM.

Lors de la conférence européenne annuelle Kaspersky HORIZONS, une démonstration a mis en évidence la capacité des systèmes de reconnaissance faciale à identifier des individus malgré une altération significative de leur apparence. Ces systèmes peuvent en effet reconnaître une personne même lorsque son visage a été radicalement modifié par des outils d’intelligence artificielle générative (GenAI) pour simuler un vieillissement ou un rajeunissement, produisant parfois des images qui, pour l’œil humain, sont méconnaissables.

Alors que les technologies de reconnaissance faciale sont de plus en plus intégrées dans des secteurs tels que la sécurité, le contrôle aux frontières, la santé, la finance et le marketing, les progrès de l’IA générative permettent simultanément la création d’images synthétiques très réalistes et des modifications faciales sophistiquées. Les applications basées sur l’IA sont désormais largement utilisées pour l’amélioration d’images, la retouche, la modification de visages et la transformation d’identités, produisant souvent des résultats impossibles à distinguer de photographies authentiques.

Pour mieux comprendre comment les systèmes de vérification faciale réagissent à ces transformations, l’équipe globale de recherche et d’analyse de Kaspersky (GReAT) a mené une expérience indépendante en utilisant une bibliothèque logicielle open source d’apprentissage automatique et de vision par ordinateur, largement adoptée dans la recherche sur la reconnaissance faciale et les systèmes d’analyse visuelle automatisés.

Au cours de l’expérience, des portraits originaux ont été traités à l’aide d’outils d’IA générative pour simuler des scénarios de vieillissement et de rajeunissement. Dans de nombreux cas, les images résultantes apparaissaient aux observateurs humains comme des individus complètement différents. Malgré ces changements visuels substantiels, le système de reconnaissance faciale a systématiquement associé les images modifiées par l’IA aux identités d’origine, et ce, à travers 10 cas de test indépendants.

L’expérience comprenait des scénarios de vieillissement et de rajeunissement générés par l’IA, des comparaisons de portraits visuellement divergents et une vérification à l’aide de logiciels de reconnaissance faciale modernes.

Les résultats suggèrent que les systèmes de reconnaissance faciale actuels s’appuient sur des caractéristiques faciales géométriques et structurelles plus profondes, plutôt que sur les similitudes visuelles superficielles perçues par les humains. Même lorsque l’apparence faciale change de manière significative, les algorithmes de reconnaissance peuvent toujours détecter des marqueurs biométriques persistants qui restent stables malgré les transformations synthétiques.

D’un point de vue de la cybersécurité, ces résultats mettent en évidence un double risque évident. D’une part, ils démontrent la robustesse des systèmes d’authentification faciale face à certaines formes de manipulation visuelle générées par l’IA. D’autre part, ils soulèvent d’importantes questions quant au détournement potentiel de l’IA générative à des fins d’usurpation d’identité, de création d’identités synthétiques et de contournement des processus de vérification humains.

« Bien que cette expérience ne constitue pas une étude à grande échelle, elle représente une preuve de concept pour une attaque potentielle basée sur l’IA, que le secteur devrait prendre en compte. Elle illustre une implication pratique cruciale : les transformations faciales générées par l’IA peuvent préserver l’identité biométrique même lorsque la perception humaine interprète les images comme des individus totalement différents. Cela crée de nouveaux défis en matière de confiance numérique, de vérification d’identité et de prévention de la fraude, à l’ère d’une évolution rapide des médias synthétiques », explique Maher Yamout, chercheur principal en sécurité au sein de l’équipe globale de recherche et d’analyse (GReAT) de Kaspersky.

Alors que les technologies de médias synthétiques continuent d’évoluer, les chercheurs de Kaspersky soulignent que ces développements exigent une attention accrue de la part des développeurs de systèmes d’identité numérique, des professionnels de la cybersécurité et des régulateurs, afin de garantir que les technologies biométriques restent sécurisées, fiables et résilientes face aux menaces émergentes pilotées par l’IA.

https://www.kaspersky.fr