Bài học rút ra chính
- Khi việc tìm kiếm sâu trở nên dễ dàng hơn, những cách mới và cải tiến để phát hiện chúng đã trở thành ưu tiên.
- Công nghệ phát hiện deepfake của Facebook sử dụng công nghệ máy học đảo ngược để khám phá xem video có phải là ảnh sâu hay không.
- Các chuyên gia nói rằng sử dụng công nghệ blockchain sẽ là cách tốt nhất để xem video có phải là thật hay không vì phương pháp này dựa trên dữ liệu ngữ cảnh.
Facebook tự tin vào mô hình học máy của mình để chống lại deepfakes, nhưng các chuyên gia cho biết việc tự học máy sẽ không giúp chúng ta khỏi bị lừa bởi deepfakes.
Các công ty như Facebook, Microsoft và Google đều đang làm việc để chống lại những trò lừa đảo lan tràn trên web và mạng xã hội. Mặc dù các phương pháp khác nhau, nhưng có một phương pháp chống lừa tiềm năng để phát hiện những video giả này: blockchains.
“[Blockchains] chỉ cung cấp cho bạn rất nhiều tiềm năng để xác thực deepfake theo cách đó là hình thức xác thực tốt nhất mà tôi có thể thấy,” Stephen Wolfram, người sáng lập và Giám đốc điều hành của Wolfram Research và là tác giả của A New Kind of Science nói với Lifewire qua điện thoại.
Công nghệ phát hiện vết sâu của Facebook
Công nghệDeepfake đã phát triển nhanh chóng trong vài năm qua. Các video gây hiểu lầm sử dụng các phương pháp máy học để thực hiện những việc như dán khuôn mặt của ai đó lên cơ thể của người khác, thay đổi điều kiện nền, giả mạo đồng bộ hóa nhép, v.v. Chúng bao gồm từ nhại lại vô hại cho đến việc khiến người nổi tiếng hoặc nhân vật của công chúng nói hoặc làm điều gì đó mà họ không làm.
Các chuyên gia nói rằng công nghệ này đang phát triển nhanh chóng và các món ăn sâu sẽ chỉ thuyết phục hơn (và dễ tạo hơn) khi công nghệ này trở nên phổ biến rộng rãi hơn và sáng tạo hơn.
Facebook gần đây đã cung cấp thông tin chi tiết hơn về công nghệ phát hiện deepfake khi hợp tác với Đại học Bang Michigan. Mạng xã hội cho biết nó dựa trên kỹ thuật đảo ngược từ một hình ảnh duy nhất do trí tuệ nhân tạo tạo ra đến mô hình chung được sử dụng để tạo ra nó.
Các nhà khoa học nghiên cứu từng làm việc với Facebook cho biết rằng phương pháp này dựa vào việc khám phá các mô hình độc đáo đằng sau mô hình AI được sử dụng để tạo ra deepfake.
“Bằng cách tổng quát hóa phân bổ hình ảnh thành nhận dạng tập hợp mở, chúng tôi có thể suy ra thêm thông tin về mô hình chung được sử dụng để tạo ra một deepfake vượt xa khả năng nhận biết rằng nó chưa từng được nhìn thấy trước đây. Và bằng cách truy tìm điểm tương đồng giữa các mẫu của bộ sưu tập ảnh sâu, chúng tôi cũng có thể biết liệu một loạt ảnh có xuất phát từ một nguồn duy nhất hay không.
Wolfram nói rằng bạn sẽ sử dụng máy học để phát hiện mô hình AI tiên tiến (một deepfake) là điều hợp lý. Tuy nhiên, luôn có chỗ để đánh lừa công nghệ.
“Tôi hoàn toàn không ngạc nhiên khi thấy có một cách học máy tốt để [phát hiện deepfakes],” Wolfram nói. “Câu hỏi duy nhất là nếu bạn nỗ lực đủ, bạn có thể lừa được nó không? Tôi chắc rằng bạn có thể.”
Chống lại Deepfakes theo một cách khác
Thay vào đó, Wolfram nói rằng anh ấy tin rằng sử dụng blockchain sẽ là lựa chọn tốt nhất để phát hiện chính xác một số loại deepfakes nhất định. Ý kiến của anh ấy về việc sử dụng blockchain thay vì máy học có từ năm 2019 và anh ấy nói rằng, cuối cùng, phương pháp tiếp cận blockchain có thể cung cấp giải pháp chính xác hơn cho vấn đề deepfake của chúng tôi.
“Tôi hy vọng người xem hình ảnh và video có thể thường xuyên kiểm tra các blockchains (và 'tính toán tam giác dữ liệu') giống như cách các trình duyệt web hiện kiểm tra chứng chỉ bảo mật , Wolfram viết trong một bài báo đăng trên tạp chí Scientific American.
Vì các blockchains lưu trữ dữ liệu trong các khối sau đó được xâu chuỗi lại với nhau theo thứ tự thời gian và vì các blockchains phi tập trung là bất biến nên dữ liệu đã nhập là không thể thay đổi được.
Câu hỏi duy nhất là nếu bạn nỗ lực đủ, bạn có thể lừa được nó không? Tôi chắc rằng bạn có thể.
Wolfram giải thích rằng bằng cách đưa video vào một chuỗi khối, bạn có thể xem thời gian quay, vị trí và các thông tin ngữ cảnh khác cho phép bạn biết liệu video có bị thay đổi theo bất kỳ cách nào hay không.
“Nói chung, càng có nhiều siêu dữ liệu giúp bối cảnh hóa hình ảnh hoặc video, bạn càng có khả năng nhận biết được nhiều hơn,” ông nói. “Bạn không thể giả mạo thời gian trên blockchain.”
Tuy nhiên, Wolfram cho biết phương pháp được sử dụng - cho dù đó là máy học hay sử dụng blockchain - phụ thuộc vào loại deepfake mà bạn đang cố gắng bảo vệ chống lại (tức là video Kim Kardashian nói điều gì đó ngớ ngẩn hoặc video về một chính trị gia đưa ra tuyên bố hoặc đề xuất).
“Cách tiếp cận blockchain bảo vệ chống lại một số loại giả mạo sâu sắc, cũng như xử lý hình ảnh học máy bảo vệ chống lại một số loại giả mạo sâu”, ông nói.
Điểm mấu chốt dường như là sự cảnh giác cho tất cả chúng ta khi phải chống lại cơn đại hồng thủy sắp tới.
