Chema Alonso, CDCO de Telefónica et expert en sécurité bien connu, a fait une apparition remarquée à Expérience virtuelle OpenEXPO 2021, qu'il a parrainé dans ce huitième édition de l'événement qui a eu lieu en ligne. Dans cette participation, il a également profité de l'occasion pour évoquer un sujet intéressant tel que les deepfakes générés par l'IA et les nouveaux défis auxquels la cybersécurité est confrontée avec ces pratiques.
Vous avez sûrement vu des vidéos dans lesquelles quelqu'un apparaît avec le visage d'une autre personne disant ou faisant quelque chose que la personne à qui appartient ce visage n'a pas dit ou fait. Ces vidéos peuvent être obtenues de manière relativement simple, elles inondent Internet, notamment les réseaux sociaux, et servent d'outils aux utilisateurs. canulars et campagnes de désinformation.
Dans OpenEXPO Virtual Experience 2021, ils ont voulu introduire de nouveaux sujets conformément au panorama actuel de la technologie et de l'open source, et parmi eux des technologies telles que intelligence artificielle, Machine Learning ou Deep Learning. Chema Alonso s'est concentré sur les deepfakes qui peuvent être réalisés à l'aide de ces technologies et sur les nouveaux défis auxquels la cybersécurité est confrontée.
Compte tenu de la montée en puissance de ces fausses vidéos, qui sont passées de 15.000 2019 en 50.000 à près de 2020 XNUMX en XNUMX, et continuent de croître, c'est devenu un sujet de préoccupation. De plus, le 96% de ces deepfakes sont des vidéos pornographiques, avec des scènes de sexe explicite utilisant les visages d'une célébrité, d'un politicien ou d'un influenceur.
Face à cette menace, comme l'a précisé Chema Alonso, il faut agir sur deux fronts: analyse médico-légale d'images et extraction de données biologiques. Son discours pour OpenEXPO Virtual Experience 2021 s'est concentré précisément sur cela, où il a montré un plug-in pour Chrome qu'il a développé avec son équipe pour pouvoir détecter les DeepFakes.
Pour son fonctionnement, il s'appuie sur 4 piliers essentiels:
- FaceForensics ++: pour tester des images basées sur un modèle et s'entraîner sur sa propre base de données pour gagner en efficacité.
- Exposer les vidéos DeepFake en détectant les artefacts de déformation du visage- Détectez les limitations avec un modèle CNN, car les algorithmes d'IA actuels produisent souvent des images de résolutions quelque peu limitées.
- Exposer des contrefaçons profondes en utilisant des poses de tête incohérentes: au moyen d'un modèle HopeNet, des incohérences ou des erreurs peuvent être détectées dans les poses du faux modèle qui sont introduites lors de l'introduction du visage synthétisé.
- Les images générées par CNN sont étonnamment faciles à repérer… pour le moment: Il peut être confirmé que les images actuelles générées par CNN partagent des défauts systématiques.
Plus d'informations - Site officiel de l'événement