Trung Quốc đã thực thi quy định toàn diện hạn chế sản xuất "Deepfake" kể từ ngày 10.

Đây là một phần của các biện pháp nhằm ngăn chặn dư luận chống chính phủ liên quan đến các cuộc biểu tình giấy trắng gần đây và được coi là một biện pháp cấm thực sự, trái ngược với Liên minh Châu Âu hoặc Hoa Kỳ, nơi mà các biện pháp này chỉ là khuyến nghị và vẫn đang ở mức độ giới hạn. Điều này đặc biệt thú vị bởi vì nó là một biện pháp cấm thực sự, trái ngược với Liên minh Châu Âu hoặc Hoa Kỳ, nơi mà các biện pháp này chỉ là khuyến nghị và vẫn đang ở mức độ giới hạn. Tất nhiên, các biện pháp của Trung Quốc có thể là do hệ thống kiểm duyệt internet được gọi là "Vạn lý trường thành", đã hoạt động trong hơn 20 năm. Tuy nhiên, do gánh nặng về việc tuân thủ tính minh bạch và công khai thông tin là rất lớn, nên việc đặt câu hỏi về hiệu quả bên trong và bên ngoài của biện pháp này có thể sẽ tiếp tục được đặt ra.

Công nghệ liên quan đến Deepfake đã từ lâu nói về nhu cầu dán nhãn nội dung tổng hợp, nhưng rõ ràng vẫn còn hạn chế trong việc đảm bảo điều này. Ngoài ra, như câu nói "Internet là mãi mãi" đã nêu, khi nội dung được tạo ra lan truyền, việc xóa bỏ hoàn toàn nội dung đó là cực kỳ khó khăn. Hơn nữa, ngay cả sau khi nội dung bị xóa, ý thức tập thể của người xem sẽ không biến mất. Điều này đã được chứng minh qua ví dụ về nội dung "Giọng nói của tháng 4", nội dung này đã chỉ trích chính sách phong tỏa Thượng Hải, đã góp phần vào các cuộc biểu tình giấy trắng.

Theo lịch sử, không thể ngăn cản công nghệ thấm nhuần vào xã hội. Thống kê cho thấy 95% video Deepfake trên toàn cầu là khiêu dâm, video giả mạo về việc Tổng thống Ukraine đầu hàng trong giai đoạn đầu của cuộc xâm lược của Nga, và Bruce Willis, người mắc chứng nói lắp, xuất hiện trong quảng cáo là những ví dụ rõ ràng về nguy cơ thực tế của công nghệ Deepfake, ảnh hưởng đến toàn xã hội. Tuy nhiên, điều thực sự cần cảnh giác không phải là cách thức kiểm soát công nghệ này. Trên thực tế, các phương thức thao túng sự thật luôn tồn tại và việc luôn chú ý đến công nghệ mới nhất sẽ luôn là một trò chơi thua cuộc. Thay vào đó, chúng ta cần quan tâm đến lý do tại sao các sản phẩm liên quan lại được tạo ra và cách chúng lan truyền, tức là tập trung vào các yếu tố xã hội thúc đẩy sự lan truyền của thông tin sai lệch.

"Công nghệ Deepfake có thể bị nghi ngờ về đạo đức, nhưng bản chất của nó không phải là sai."

Nhà đạo đức học và triết gia chính trị Adrienne de Ruiter đã đưa ra quan điểm trong nghiên cứu của mình rằng "sự thể hiện của những người không đồng ý", "hành vi cố ý lừa dối người xem" và "ý định có hại" là những điều khiến sản phẩm của công nghệ này trở nên vô đạo đức. Bà khẳng định rằng chính ý định của người tạo ra và người xem, tức là con người, là đối tượng cần cảnh giác, tách biệt với công nghệ. Đặc biệt, đối với các đối tượng có ảnh hưởng xã hội tương đối lớn như người nổi tiếng hay chính trị gia, việc quản lý việc thể hiện ý định của người tạo ra nội dung Deepfake được nhắm mục tiêu vi mô là rất khó khăn.

Vậy, giải pháp cho vấn đề này trong tương lai sẽ được hình thành như thế nào? Có thể đưa ra hai hướng chính.

Thứ nhất, chúng ta cần nhận thức và thừa nhận rằng mình tồn tại trong thế giới của máy ảnh và hệ thống nhận diện. Tác giả của bài viết này, cũng như bạn đang đọc bài viết này, đều dành phần lớn cuộc sống thường ngày của mình trước màn hình điện thoại di động và máy tính xách tay được trang bị camera.Từ góc nhìn của hệ thống, hành động của con người là vật chất cho thuật toán.

Camera giám sát con cái có mục đích là để tạo ra mối quan hệ lý tưởng giữa cha mẹ và người trông trẻ, nhưng đồng thời cũng là một thực thể phi nhân tính học hỏi và thực hiện ý định hạn chế con người đối với con người. Nhận thức về việc chúng ta đang sống chung với những thực thể mới này có thể giúp chúng ta quản lý và đối phó với những ý định phi đạo đức liên quan đến Deepfake.

Thứ hai, cần tạo ra và phổ biến giáo dục liên quan ở cấp độ cộng đồng. Chúng ta có xu hướng tìm kiếm cảm giác thuộc về trong những kết nối yếu ớt trong hệ thống kỹ thuật số. Điều này liên quan đến việc thiếu cảm giác thuộc về từ các nhóm xã hội được củng cố bởi đại dịch, chúng ta muốn tin rằng mình được kết nối với những người vô hình nào đó thông qua sở thích hoặc mối quan tâm. Việc kiểm tra TikTok liên tục đến 2 giờ sáng, truy cập thường xuyên vào Wikipedia mà không mong đợi độ chính xác, kiểm tra liên tục những câu chuyện trên Instagram, bỏ mặc các nhóm trò chuyện ít quan tâm là những ví dụ điển hình.

Deepfake có xu hướng kích thích cảm giác thuộc về từ những kết nối yếu ớt này, nhưng do thiếu sự quan tâm sâu sắc đến chủ thể liên quan nên việc phá vỡ ảnh hưởng của nội dung liên quan cũng tương đối dễ dàng. Việc xác minh tính xác thực của nội dung Deepfake nhằm làm giảm uy tín của chính trị gia là điều khó khăn đối với cá nhân, nhưng một dự án đã xác định được sự thật trong một đơn vị chính đảng cho thấy chương trình giáo dục dựa trên quan điểm, giá trị và tập quán của cộng đồng có thể là một giải pháp hiệu quả. Điều này cũng có nghĩa là các công ty cung cấp dịch vụ nền tảng nơi nội dung Deepfake được chia sẻ có thể tạo ra cơ hội chiến lược bằng cách đưa ra các giải pháp ứng phó cộng đồng độc đáo cho người dùng.

Phim "Fast & Furious", sử dụng kỹ thuật Deepfake để hồi sinh Paul Walker, người đã qua đời vì tai nạn, bằng cách ghép mặt của anh ấy lên diễn viên đóng thế là em trai, là một ví dụ tích cực về việc sử dụng công nghệ Deepfake. Tuy nhiên, việc một nữ nhà báo bị sử dụng làm mục tiêu cho video khiêu dâm giả mạo đã khiến cuộc sống của một người bị hủy hoại cũng là một điều đang xảy ra trong thực tế.

Cần nhớ rằng các diễn viên trong ngành công nghiệp điện ảnh hiện là những người được bảo vệ nhiều nhất trước công nghệ Deepfake. Xã hội hiện tại vẫn chưa thể trả lời câu hỏi liệu chúng ta có thể phản ứng như thế nào khi đối tượng là người bình thường. Trước khi kỳ vọng vào các quy định pháp lý, việc tự nhận thức về bản thân, những người đang xem nội dung Deepfake trên các kênh mạng xã hội như TikTok để giải trí, có lẽ là bước đầu tiên cần thiết nhất.

*Bài viết này được xuất bản vào ngày 14 tháng 2 năm 2023 tạiCột mốc có tên trên báo điện tử là bản gốc của nội dung đã được công bố.

Tài liệu tham khảo

Trung Quốc sắp sửa cứng rắn hơn với deepfakes theo cách chưa từng có. Nội dung của các quy tắc

Bruce Willis xuất hiện trong quảng cáo… Diễn viên đã nghỉ hưu và qua đời cũng tham gia diễn xuất trong tác phẩm mới "Tranh cãi về deepfake"

Sai lầm rõ ràng của Deepfakes

A.I. Giữa chúng ta: Đại lý trong thế giới của máy ảnh và hệ thống nhận dạng Hệ thống

Sử dụng deepfakes cho các thí nghiệm trong khoa học xã hội - Nghiên cứu thí điểm Nghiên cứu⁠⁠⁠⁠⁠⁠⁠