Deepfake là gì? Tại sao Deepfake lại tiềm ẩn nguy hiểm không lường? |
Deepfakes là gì?
Ở dạng đơn giản nhất, deepfake là một video được chỉnh sửa mà nhân vật chính đang làm hoặc nói điều gì đó không bao giờ xảy ra.
Deepfake được tạo ra bằng cách cho phép một máy tính phân tích một lựa chọn lớn các chuyển động và hành vi của khuôn mặt của đối tượng và với AI cố gắng sao chép chúng qua các cảnh quay mới.
Một ví dụ là video của cựu tổng thống Mỹ Barack Obama dường như trông trực tiếp – nhưng thực tế, là do máy tính tạo ra và sử dụng giọng nói của diễn viên hài Jordan Peele. Nó được tạo ra để thông báo cho mọi người về các công nghệ deepfake.
Các ví dụ khác bao gồm video gần đây của Mark Zuckerberg, trong đó bản tái hiện đầy thuyết phục của Zuckerberg cho người xem thấy thành công của anh ta đến từ một tổ chức bí mật. Nó được đăng với hashtag #Deepfake như là một phần của dự án nghệ thuật.
Deepfake hoạt động như thế nào?
Về cơ bản, trình tạo tạo một video clip giả và sau đó yêu cầu trình phân biệt xác định xem clip đó là thật hay giả. Mỗi lần trình phân biệt xác định chính xác một video clip là giả mạo, nó sẽ cung cấp cho trình tạo một manh mối về những việc không nên làm khi tạo clip tiếp theo để clip thật hơn.
Deepfake ảnh hưởng đến xã hội con người như thế nào?
Hãy tưởng tượng một kịch bản mà bạn đang ở trên phương tiện truyền thông xã hội và bắt gặp một video mà nhiều người bạn của bạn đã chia sẻ. Bạn bấm vào video và thấy tổng thống tuyên bố tình trạng khẩn cấp quốc gia hoặc khủng hoảng quốc tế.
Những video giả mạo này có thể phá vỡ toàn bộ xã hội và thế giới của chúng ta trong vòng vài phút. Trong khi kịch bản này có vẻ giống như cốt truyện của bộ phim hành động mới nhất, thì những tác phẩm ‘giả mạo’ thể hiện mối đe dọa này.
Ngoài ra, ngành công nghiệp phim nóng cũng đã chiếm lĩnh công nghệ deepfake. Deepfake có thể giúp một người có thể xem một video sẽ xuất hiện bất kỳ ai mà họ lựa chọn trong đó. Các video sau đó có thể bao gồm sự xuất hiện của bất kỳ người nào khác, từ người nổi tiếng đến người xem bình thường.
Thật không may, việc sử dụng deepfake vào công nghiệp phim nóng cũng đặt ra mối đe dọa bằng việc trả thù bằng ‘phim nóng giả’. Công nghệ này giúp dễ dàng đưa khuôn mặt hoặc cơ thể của bất kỳ ai vào bất kỳ kịch bản nào có thể tưởng tượng được và khiến nó trông rất thật, điều đó có nghĩa là bất kỳ ai đều có cơ hội gần như vô hạn để tạo và lan truyền hình ảnh sai lệch có thể gây tổn hại đến uy tín của nạn nhân.
Deepfake vẫn còn khá mới, nhưng nó có khả năng gây ra nhiều tác hại nếu nó nằm trong tay kẻ xấu. Những gã khổng lồ công nghệ thì chưa sẵn sàng loại bỏ những thông tin nguy hiểm và tin tức giả mạo trên mạng thế nên cần có nhiều biện pháp hơn nữa để bảo vệ con người khỏi Deepfake.