צ'מה אלונסו, CDCO של טלפוניקה ומומחה אבטחה ידוע, הופיע בכוכבים חוויה וירטואלית של OpenEXPO 2021, שהוא חסות בזה המהדורה השמינית של האירוע שנערך באופן מקוון. בהשתתפות זו הוא גם ניצל את ההזדמנות לדון בנושא מעניין כמו זיוף עמוק שנוצר על ידי AI והאתגרים החדשים העומדים בפני אבטחת הסייבר עם פרקטיקות אלה.
בוודאי ראיתם כמה סרטונים שבהם מישהו מופיע עם פנים של אדם אחר שאומר או עושה משהו שהאדם שאליו שייך אותו פנים לא אמר או עשה. ניתן להשיג את הסרטונים הללו בצורה פשוטה יחסית, והם מציפים את האינטרנט, בעיקר את הרשתות החברתיות, ומשמשים כלים למשתמשים. מתיחות וקמפיינים של דיסאינפורמציה.
ב- OpenEXPO Virtual Experience 2021 הם רצו להציג נושאים חדשים בהתאם לפנורמה הנוכחית של טכנולוגיה וקוד פתוח, וביניהם טכנולוגיות כמו בינה מלאכותית, למידה ממוחשבת או למידה עמוקה. צ'מה אלונסו התמקדה בזיופים העמוקים שניתן להשיג בעזרת טכנולוגיות אלה, ובאתגרים החדשים העומדים בפני אבטחת הסייבר.
לאור העלייה בסרטונים המזויפים הללו, שצמחו מ -15.000 בשנת 2019 לכמעט 50.000 בשנת 2020, וממשיכה לגדול, זה הפך לעניין של דאגה. בנוסף 96% מהזיופים העמוקים האלה הם סרטונים פורנוגרפיים, עם סצנות של יחסי מין מפורשים המשתמשות בפנים של ידוען, פוליטיקאי או משפיע.
מול האיום הזה, כפי שהבהירה צ'מה אלונסו, יש לנקוט בפעולה משתי חזיתות: ניתוח פלילי של תמונות ומיצוי נתונים ביולוגיים. הנאום שלו ל- OpenEXPO Virtual Experience 2021 התמקד בדיוק בזה, שם הוא הראה תוסף עבור Chrome שפיתח יחד עם הצוות שלו כדי שיוכל לזהות את DeepFakes.
לצורך פעולתו היא נשענת 4 עמודים חיוניים:
- FaceForensics ++: לבדיקת תמונות על בסיס מודל והדרכה על בסיס נתונים משלך לשיפור היעילות.
- חשיפת סרטוני DeepFake על ידי איתור חפצי עיוות פנים- זיהוי מגבלות באמצעות מודל CNN, מכיוון שאלגוריתמי AI הנוכחיים מייצרים לרוב תמונות ברזולוציות מוגבלות במקצת.
- חשיפת זיופים עמוקים באמצעות תנוחות ראש לא עקביות: באמצעות מודל HopeNet, ניתן לזהות סתירות או שגיאות בתנוחות של המודל המזויף המוצגות בעת הצגת הפנים המסונתזות.
- באופן מפתיע קל לזהות תמונות שנוצרו על ידי CNN ... לעת עתה: ניתן לאשר שהתמונות הנוכחיות שנוצרו על ידי CNN חולקות פגמים שיטתיים.
עוד מידע - האתר הרשמי של האירוע