Deepfake (giả mạo sâu)

Deepfake được tạo ra như thế nào

Các phương pháp phổ biến nhất để tạo deepfake liên quan đến các mô hình học sâu như Mạng đối nghịch tạo sinh (GAN) hoặc bộ mã hóa tự động. Trong thiết lập GAN, hai mạng nơ-ron cạnh tranh: một trình tạo tạo ra hình ảnh/video giả và một bộ phân biệt cố gắng phân biệt ảnh giả với dữ liệu đào tạo thực. Quá trình đối nghịch này thúc đẩy trình tạo tạo ra các ảnh giả ngày càng thuyết phục hơn. Bộ mã hóa tự động hoạt động bằng cách học các biểu diễn nén của khuôn mặt hoặc giọng nói, sau đó giải mã chúng để tái tạo hoặc hoán đổi các đặc điểm. Cả hai phương pháp thường yêu cầu một lượng lớn dữ liệu (hình ảnh hoặc clip âm thanh) của cá nhân mục tiêu để tìm hiểu sự giống nhau và phong cách ứng xử của họ một cách hiệu quả. Chất lượng và tính chân thực thường phụ thuộc vào khối lượng và tính đa dạng của dữ liệu này cũng như sức mạnh tính toán được sử dụng để đào tạo .

Ứng dụng và Ví dụ

Công nghệ Deepfake có nhiều ứng dụng, bao gồm cả những ứng dụng có lợi và có hại:

• Giải trí và phương tiện truyền thông: Được sử dụng để lồng tiếng phim sang các ngôn ngữ khác nhau trong khi đồng bộ chuyển động môi, làm diễn viên trẻ lại hoặc tạo hiệu ứng đặc biệt. Các công ty như Synthesia sử dụng AI tương tự để tạo video đào tạo với người thuyết trình ảo.
• Giáo dục và khả năng tiếp cận: Tạo ra các cuộc tái hiện lịch sử thực tế hoặc phát triển các công cụ dành cho những người khiếm khuyết về giao tiếp.
• Thông tin sai lệch và tuyên truyền: Làm giả video của những người của công chúng, chẳng hạn như chính trị gia, để truyền bá những câu chuyện sai sự thật hoặc tác động đến dư luận. Ví dụ, các video bị chỉnh sửa có vẻ như cho thấy các chính trị gia đưa ra những tuyên bố mang tính kích động đã xuất hiện trực tuyến ( BBC News Report on Deepfakes ).
• Gian lận và mạo danh: Tạo âm thanh hoặc video giả cho các vụ lừa đảo tài chính, chẳng hạn như mạo danh giám đốc điều hành để cho phép các giao dịch gian lận ( Bài viết của Forbes về gian lận sao chép giọng nói ). Điều này mở rộng đến hành vi trộm cắp danh tính và tạo hồ sơ giả.
• Nội dung khiêu dâm không được đồng ý: Một trong những ứng dụng sớm nhất và có hại nhất liên quan đến việc chèn khuôn mặt của cá nhân vào nội dung khiêu dâm mà không có sự đồng ý của họ.

Deepfakes so với các khái niệm liên quan

Trong khi phần mềm chỉnh sửa ảnh và video đã tồn tại trong nhiều thập kỷ, deepfake đại diện cho một bước tiến đáng kể do chúng dựa vào AI để học và tạo ra nội dung mới, chân thực, thay vì chỉ thao tác các pixel hiện có theo cách thủ công. Chúng nằm trong phạm vi của AI tạo sinh , tập trung vào việc tạo dữ liệu mới. Điều này khác với các tác vụ AI phân biệt như phát hiện đối tượng hoặc phân loại hình ảnh , phổ biến trong thị giác máy tính (CV) , trong đó mục tiêu thường là xác định hoặc phân loại nội dung hiện có bằng các mô hình như Ultralytics YOLO .

Phát hiện và quan ngại về đạo đức

Phát hiện deepfake là một thách thức liên tục, vì công nghệ được sử dụng để tạo ra chúng không ngừng được cải thiện. Các nhà nghiên cứu và tổ chức đang tích cực phát triển các kỹ thuật để xác định phương tiện truyền thông tổng hợp, thường tìm kiếm những điểm không nhất quán hoặc hiện vật tinh vi do quá trình tạo ra để lại ( Chương trình giám định phương tiện truyền thông của DARPA ). Sự gia tăng của deepfake làm dấy lên những lo ngại đáng kể về đạo đức AI liên quan đến sự đồng ý, quyền riêng tư dữ liệu , thông tin sai lệch và khả năng xói mòn lòng tin vào phương tiện truyền thông kỹ thuật số ( Phân tích của Viện Brookings ). Việc giải quyết sự thiên vị tiềm ẩn của tập dữ liệu trong cả mô hình tạo và phát hiện cũng rất quan trọng. Các nền tảng như Ultralytics HUB tạo điều kiện thuận lợi cho việc đào tạo và quản lý nhiều mô hình AI khác nhau, nêu bật nhu cầu thực hành phát triển có trách nhiệm trên toàn lĩnh vực AI. Để đọc thêm về những tiến bộ của AI, các nguồn như MIT Technology Review on AI cung cấp những hiểu biết sâu sắc.