Chema Alonso, Telefónicas CDCO og kjente sikkerhetsekspert, gjorde et fantastisk utseende på OpenEXPO Virtual Experience 2021, som han har sponset i dette åttende utgave av arrangementet som har blitt holdt online. I denne deltakelsen benyttet han også anledningen til å diskutere et interessant tema som deepfakes generert av AI og de nye utfordringene som cybersikkerhet står overfor med denne praksisen.
Du har sikkert sett noen videoer der noen dukker opp med ansiktet til en annen person som sier eller gjør noe som personen som ansiktet tilhører ikke har sagt eller gjort. Disse videoene kan fås på en relativt enkel måte, og de oversvømmer Internett, spesielt sosiale nettverk, og blir brukt som verktøy for brukere. hoaxes og desinformasjonskampanjer.
I OpenEXPO Virtual Experience 2021 har de ønsket å introdusere nye emner i tråd med dagens panorama av teknologi og åpen kildekode, og blant dem teknologier som kunstig intelligens, Maskinlæring eller dyp læring. Chema Alonso har fokusert på deepfakes som kan oppnås ved hjelp av disse teknologiene, og på de nye utfordringene som cybersikkerhet står overfor.
Gitt økningen av disse falske videoene, som vokste fra 15.000 2019 i 50.000 til nesten 2020 XNUMX i XNUMX, og fortsetter å vokse, har det blitt et bekymringsfullt tema. i tillegg 96% av disse deepfakes er pornografiske videoer, med scener av eksplisitt sex som bruker ansiktene til en kjendis, politiker eller influencer.
Stilt overfor denne trusselen, som Chema Alonso har presisert, tiltak må utføres fra to fronter: rettsmedisinsk analyse av bilder og utvinning av biologiske data. Hans tale for OpenEXPO Virtual Experience 2021 fokuserte nettopp på det, der han viste en plugin-modul for Chrome som han har utviklet sammen med teamet sitt for å kunne oppdage DeepFakes.
For sin drift er den avhengig av 4 viktige søyler:
- FaceForensics ++- Å teste bilder basert på en modell og opplæring i din egen database for å forbedre effektiviteten.
- Eksponere DeepFake-videoer ved å oppdage gjenstander for ansiktsforvrengning- Oppdag begrensninger med en CNN-modell, da nåværende AI-algoritmer ofte produserer bilder med noe begrensede oppløsninger.
- Å eksponere dype forfalskninger ved å bruke inkonsekvente hodestillinger: ved hjelp av en HopeNet-modell kan inkonsekvenser eller feil oppdages i posene til den falske modellen som introduseres når du introduserer det syntetiserte ansiktet.
- CNN-genererte bilder er overraskende enkle å få øye på ... foreløpig: Det kan bekreftes at de nåværende bildene generert av CNN deler systematiske feil.
Mer informasjon - Offisiell nettside for arrangementet