Chema Alonso, el CDCO de Telefónica y conocido experto en seguridad, hizo una aparición estelar en OpenEXPO Virtual Experience 2021, a la que ha apadrinado en esta octava edición del evento que se ha celebrado online. En esta participación también aprovechó para tratar un tema tan interesante como los deepfakes generados por IA y los nuevos retos a los que se enfrenta la ciberseguridad con estas prácticas.
Seguro que has visto algunos vídeos en los que aparece alguien con la cara de otra persona diciendo o haciendo algo que esa persona a la que pertenece dicha cara no ha dicho o hecho. Estos vídeos se pueden conseguir de una forma relativamente sencilla, y están inundando Internet, especialmente las redes sociales, y siendo usados como herramientas para los bulos y las campañas de desinformación.
En OpenEXPO Virtual Experience 2021 se han querido introducir nuevos temas acordes con el panorama actual de la tecnología y el código abierto, y entre ellos tecnologías como la inteligencia artificial, Machine Learning o Deep Learning. Chema Alonso se ha centrado en los deepfakes que se pueden conseguir con ayuda de estas tecnologías, y en los nuevos retos a los que se enfrenta la seguridad cibernética.
Dado el aumento de estos vídeos falsos, que crecieron desde los 15.000 en 2019 hasta los casi 50.000 de 2020, y sigue creciendo, se ha convertido en un tema preocupante. Además, el 96% de estos deepfakes son vídeos pornográficos, con escenas de sexo explícito usando caras de alguna celebrity, político, o influencer.
Ante esta amenaza, según ha aclarado Chema Alonso, se debe actuar desde dos frentes: análisis forense de las imágenes y la extracción de los datos biológicos. Precisamente en eso se centró su discurso para OpenEXPO Virtual Experience 2021, donde mostró un plug-in para Chrome que ha desarrollado junto a su equipo para poder detectar los DeepFakes.
Para su funcionamiento se apoya en 4 pilares esenciales:
- FaceForensics++: para probar las imágenes en base a un modelo y entrenando sobre su propia base de datos para mejorar la eficacia.
- Exposing DeepFake Videos by Detecting Face Warping Artifacts: detecta las limitaciones con un modelo CNN, dado que los algoritmos de IA actuales suelen generar imágenes de resoluciones algo limitadas.
- Exposing Deep Fakes Using Inconsistent Head Poses: mediante un modelo HopeNet se pueden detectar incoherencias o errores en las poses del modelo fake que se introducen al introducir la cara sintetizada.
- CNN-generated Images Are Surprisingly Easy To Spot… for now: se puede confirmar que las imágenes actuales generadas por CNN comparten defectos sistemáticos.
Más información – Web Oficial del Evento