Chema Alonso, CDCO của Telefónica và chuyên gia bảo mật nổi tiếng, đã xuất hiện xuất sắc tại Trải nghiệm ảo OpenEXPO 2021, mà anh ấy đã tài trợ trong phiên bản thứ tám của sự kiện đã được tổ chức trực tuyến. Trong lần tham gia này, ông cũng đã có cơ hội thảo luận về một chủ đề thú vị như deepfakes do AI tạo ra và những thách thức mới mà an ninh mạng phải đối mặt với những hoạt động này.
Chắc chắn bạn đã xem một số video trong đó một người nào đó xuất hiện với khuôn mặt của một người khác đang nói hoặc làm điều gì đó mà người mà khuôn mặt đó thuộc về họ chưa nói hoặc làm. Những video này có thể được lấy một cách tương đối đơn giản và chúng đang tràn ngập trên Internet, đặc biệt là các mạng xã hội và được sử dụng làm công cụ cho người dùng. các chiến dịch lừa bịp và thông tin sai lệch.
Trong OpenEXPO Virtual Experience 2021, họ muốn giới thiệu các chủ đề mới phù hợp với bức tranh toàn cảnh hiện tại của công nghệ và mã nguồn mở, và trong số đó có các công nghệ như trí tuệ nhân tạo, Học máy hoặc Học sâu. Chema Alonso đã tập trung vào những thành tựu sâu sắc có thể đạt được với sự trợ giúp của những công nghệ này và vào những thách thức mới mà an ninh mạng phải đối mặt.
Với sự gia tăng các video giả mạo này, từ 15.000 vào năm 2019 lên gần 50.000 vào năm 2020 và tiếp tục tăng, nó đã trở thành một vấn đề đáng lo ngại. Ngoài ra, 96% trong số những deepfakes này là video khiêu dâm, với những cảnh quan hệ tình dục rõ ràng bằng khuôn mặt của một người nổi tiếng, chính trị gia hoặc người có ảnh hưởng.
Đối mặt với mối đe dọa này, như Chema Alonso đã làm rõ, hành động phải được thực hiện từ hai phía trước: phân tích pháp y về hình ảnh và trích xuất dữ liệu sinh học. Bài phát biểu của anh ấy cho OpenEXPO Virtual Experience 2021 tập trung chính xác vào điều đó, nơi anh ấy trình diễn một trình cắm cho Chrome mà anh ấy đã phát triển cùng với nhóm của mình để có thể phát hiện DeepFakes.
Đối với hoạt động của nó, nó dựa vào 4 trụ cột thiết yếu:
- FaceForensics ++: để kiểm tra hình ảnh dựa trên một mô hình và đào tạo trên cơ sở dữ liệu của riêng bạn để nâng cao hiệu quả.
- Phơi bày các video DeepFake bằng cách phát hiện các đồ tạo tác bị cong vênh trên khuôn mặt- Phát hiện các hạn chế với mô hình CNN, vì các thuật toán AI hiện tại thường tạo ra hình ảnh có độ phân giải hơi hạn chế.
- Vạch trần những sai lầm sâu sắc bằng cách sử dụng tư thế đầu không nhất quán: bằng mô hình HopeNet, có thể phát hiện sự mâu thuẫn hoặc sai sót trong các tư thế của mô hình giả được giới thiệu khi giới thiệu khuôn mặt tổng hợp.
- Hình ảnh do CNN tạo dễ dàng phát hiện một cách đáng ngạc nhiên… hiện tại: Có thể khẳng định rằng những hình ảnh hiện tại do CNN tạo ra đều có những sai sót mang tính hệ thống.
Thêm thông tin - Trang web chính thức của sự kiện