Bị phim ngắn AI đánh cắp khuôn mặt: Nguy cơ deepfake đang đến gần hơn bao giờ hết

Li, 26 tuổi, người mẫu và người có sức ảnh hưởng trên mạng xã hội, nhưng không phải diễn viên. Do đó, khi thấy mình xuất hiện trong bộ phim do AI tạo ra có tên Chiếc trâm tóc hoa đào với vai phản diện, cô cảm thấy hoang mang, sau đó tức giận và sợ hãi.

"Tôi thực sự sốc. Rõ ràng đó là tôi", Li, hiện sống ở Hàng Châu, nói với AFP. "Họ sử dụng một bộ ảnh tôi đã chụp và đăng trên mạng xã hội từ cách đây hai năm".

Phim ngắn chiếu mạng (microdrama) rất phổ biến ở Trung Quốc. Chiếc trâm tóc hoa đào được phát sóng trên Hongguo, ứng dụng phim ngắn thuộc sở hữu của ByteDance, công ty mẹ TikTok. Li cho biết "cảm thấy vô cùng sợ hãi" và tự hỏi tại sao đội ngũ sản xuất lại có thể làm chuyện như vậy. Cô dự định kiện cả nhà sản xuất phim và nền tảng phát sóng này.

Minh họa một bộ phim ngắn hiển thị trên smartphone. Ảnh: Eidosmedia

Theo France24, Hongguo cung cấp hàng nghìn bộ phim ngắn miễn phí, gồm cả người thật đóng và do AI tạo ra, với mỗi tập dài hai hoặc ba phút. Tính đến cuối năm ngoái, ứng dụng có 245 triệu người dùng hoạt động hàng tháng, theo số liệu do Short Drama Alliance - một nền tảng tư vấn, sáng tạo và hỗ trợ đăng ký phim ngắn tại Hong Kong - cung cấp.

Sau kiến nghị của Li, Chiếc trâm tóc hoa đào gây ra làn sóng phản đối mạnh mẽ trong dư luận. Tuy nhiên, phim vẫn tiếp tục được chiếu, dù sau đó gỡ bỏ các tập có hình ảnh của Li.

Trong khi đó, Hongguo khẳng định đã gỡ một số phim vì nhà sản xuất vi phạm quy tắc nền tảng, đồng thời "tiếp tục tăng cường quy trình kiểm duyệt nội dung và cấp phép cho người sáng tạo". Từ đầu năm, nền tảng xử lý 670 phim ngắn do AI sản xuất vi phạm quy định. Tuy nhiên, họ từ chối bình luận về trường hợp cụ thể.

Cũng giống Li, một người có biệt danh Baicai nói với AFP rằng anh cũng bị lợi dụng hình ảnh theo cách tương tự. Dù là nhà tạo mẫu chuyên về trang phục và trang điểm truyền thống Trung Quốc, anh bất ngờ xuất hiện trên một bộ phim AI với ngoại hình xấu xí, khắc họa dưới hình ảnh một nhân vật phản diện "đê tiện" trong phim.

"Liệu việc này có ảnh hưởng đến tôi, công việc hiện tại và cơ hội việc làm trong tương lai của tôi không?", Baicai tự đặt câu hỏi.

Microdrama bùng nổ tại Trung Quốc một nhờ vào công cụ AI tạo video ngày càng rẻ. Thay vì phải tuyển dụng nhiều diễn viên, nhà sản xuất giờ chỉ cần đưa hình ảnh, câu chuyện và để AI tự làm nội dung. Chúng trở thành phân khúc tăng trưởng mới của thị trường video ngắn Trung Quốc, vốn đã đứng hàng đầu thế giới. Loại phim này thường chia thành nhiều tập, mỗi tập dài vài phút, được tạo bằng thuật toán thay vì diễn viên và cảnh quay thật. Nhờ tiết kiệm chi phí sản xuất, phim ngắn AI trở nên phổ biến trong bối cảnh khán giả cũng dễ tính hơn.

Dữ liệu từ nền tảng phân tích DataEye cho thấy, phim AI với nhân vật kỹ thuật số chiếm 38% trong top 100 phim manju (phim ngắn chuyển thể từ tiểu thuyết mạng, truyện tranh hoặc kịch bản gốc) tháng 1, tăng mạnh so với mức 7% cùng kỳ năm ngoái. Tổng lượt xem của loại này trên bảng xếp hạng tháng 1 đạt 2,55 tỷ. Theo ECNS, khán giả đón nhận phim ngắn AI một phần do các nhân vật đang trở nên chân thực hơn, giảm hiệu ứng "thung lũng kỳ lạ" (uncanny valley) - cảm giác khó chịu với vật thể gần giống người nhưng không thật.

Việc sử dụng AI cho hầu hết quy trình sản xuất trong ngành công nghiệp phim ngắn tại Trung Quốc được đánh giá giúp cắt giảm kinh phí. Tuy nhiên, nó cũng gây nhức nhối khi nội dung chủ yếu mang tính gây sốc, câu view, không được kiểm soát, cũng như vi phạm bản quyền khi nhiều người bị sử dụng hình ảnh trái phép cho phim.

Quy định của Trung Quốc nêu rõ nền tảng phải kiểm soát nội dung có khả năng gây hại. Theo Cục Quản lý phát thanh và truyền hình quốc gia Trung Quốc, nếu không thực hiện kiểm duyệt nội dung bắt buộc, video sẽ bị cưỡng chế gỡ bỏ. Kể từ đầu tháng 4, nhà làm phim ngắn cũng được yêu cầu đăng ký giấy phép, đặc biệt khi sử dụng trí tuệ nhân tạo.

Chuyên gia Zhao Zhanling của công ty luật Beijing Javy tại Bắc Kinh cho biết, nếu các nền tảng biết về hành vi vi phạm nhưng không xử lý, bên bị ảnh hưởng có thể báo cáo cho Cơ quan quản lý không gian mạng Trung Quốc. Dù vậy, ông ghi nhận một số đang tìm cách lách luật bằng cách đăng ký doanh nghiệp tạm thời, sử dụng máy chủ ở nước ngoài để che giấu danh tính.

Baicai cho biết chưa khởi kiện nền tảng và đội ngũ sử dụng hình ảnh trái phép. Anh hy vọng nhà quản lý sẽ có nhiều biện pháp hơn nhằm bảo vệ những người như anh. "Có lẽ ngoài kia, còn có rất nhiều trường hợp bị lợi dụng như thế", anh nói thêm.

Bảo Lâm tổng hợp