Một vụ kiện ở New Jersey cho thấy việc chống lại nội dung khiêu dâm deepfake khó đến mức nào

Trong hơn hai năm, một ứng dụng có tên là FabricOff đã khủng bố phụ nữ trẻ trên mạng — và việc ngăn chặn ứng dụng này cực kỳ khó khăn. Ứng dụng này đã bị gỡ xuống khỏi hai cửa hàng ứng dụng lớn và bị cấm trên hầu hết các nền tảng xã hội, nhưng nó vẫn có sẵn trên web và thông qua bot Telegram. Vào tháng 10, một phòng khám tại Trường Luật Yale đã đệ đơn kiện yêu cầu gỡ bỏ hoàn toàn ứng dụng này, buộc chủ sở hữu phải xóa tất cả hình ảnh và ngừng hoạt động hoàn toàn. Nhưng việc tìm kiếm các bị cáo đã là một thách thức.

Giáo sư John Langford, đồng luật sư chính trong vụ kiện, giải thích: “Nó được thành lập ở Quần đảo Virgin thuộc Anh, nhưng chúng tôi tin rằng nó được điều hành bởi một anh chị em ở Belarus. Nó thậm chí có thể là một phần của một mạng lưới lớn hơn trên khắp thế giới.”

Đó là một bài học cay đắng sau làn sóng nội dung khiêu dâm không có sự đồng thuận gần đây do xAI của Elon Musk tạo ra, trong đó có nhiều nạn nhân chưa đủ tuổi vị thành niên. Tài liệu lạm dụng tình dục trẻ em là nội dung độc hại nhất về mặt pháp lý trên internet — sản xuất, truyền tải hoặc lưu trữ bất hợp pháp và thường xuyên được quét trên mọi dịch vụ đám mây lớn. Nhưng bất chấp những lệnh cấm nghiêm ngặt của pháp luật, vẫn có rất ít cách để đối phó với những công cụ tạo hình ảnh như ClothingOff, như trường hợp của Langford đã chứng minh. Người dùng cá nhân có thể bị truy tố, nhưng các nền tảng như FabricOff và Grok khó kiểm soát hơn nhiều, khiến nạn nhân có ít lựa chọn với hy vọng tìm được công lý trước tòa.

Khiếu nại của phòng khám, có sẵn trực tuyến, đã vẽ ra một bức tranh đáng báo động. Nguyên đơn là một học sinh trung học ẩn danh ở New Jersey, bạn cùng lớp của cô đã sử dụng ClothingOff để thay đổi ảnh Instagram của cô. Cô ấy 14 tuổi khi những bức ảnh gốc trên Instagram được chụp, điều đó có nghĩa là các phiên bản sửa đổi AI được phân loại hợp pháp là hình ảnh lạm dụng trẻ em. Nhưng mặc dù những hình ảnh được sửa đổi rõ ràng là bất hợp pháp, chính quyền địa phương vẫn từ chối khởi tố vụ án, với lý do khó thu thập bằng chứng từ thiết bị của nghi phạm.

Đơn khiếu nại viết: “Cả trường học và cơ quan thực thi pháp luật đều chưa từng xác định mức độ phổ biến của nội dung CSAM của Jane Doe và các cô gái khác”.

Tuy nhiên, vụ án vẫn diễn ra chậm chạp. Đơn khiếu nại đã được nộp vào tháng 10 và trong những tháng kể từ đó, Langford và các đồng nghiệp của ông đang trong quá trình gửi thông báo cho các bị cáo – một nhiệm vụ khó khăn do tính chất toàn cầu của doanh nghiệp. Sau khi họ đã được tống đạt, phòng khám có thể yêu cầu ra tòa và cuối cùng là đưa ra phán quyết, nhưng trong lúc đó, hệ thống pháp luật đã không mang lại nhiều sự an ủi cho các nạn nhân của FabricOff.

Trường hợp Grok có vẻ như là một vấn đề đơn giản hơn để khắc phục. XAI của Elon Musk không hề lẩn trốn và cuối cùng sẽ có rất nhiều tiền dành cho những luật sư có thể thắng kiện. Nhưng Grok là một công cụ có mục đích chung, khiến việc buộc nó phải chịu trách nhiệm trước tòa trở nên khó khăn hơn nhiều.

Langford nói với tôi: “ClothOff được thiết kế và tiếp thị đặc biệt như một công cụ tạo video và hình ảnh khiêu dâm giả mạo sâu. “Khi bạn kiện một hệ thống chung mà người dùng có thể truy vấn mọi thứ, mọi việc sẽ phức tạp hơn rất nhiều.”

Một số luật của Hoa Kỳ đã cấm nội dung khiêu dâm deepfake – đáng chú ý nhất là Đạo luật Take It Down. Nhưng mặc dù những người dùng cụ thể rõ ràng đang vi phạm các luật đó, nhưng việc buộc toàn bộ nền tảng phải chịu trách nhiệm sẽ khó hơn nhiều. Luật hiện hành yêu cầu bằng chứng rõ ràng về ý định gây hại, điều đó có nghĩa là cung cấp bằng chứng xAI biết công cụ của họ sẽ được sử dụng để sản xuất nội dung khiêu dâm không có sự đồng thuận. Nếu không có bằng chứng đó, các quyền sửa đổi cơ bản đầu tiên của xAI sẽ mang lại sự bảo vệ pháp lý đáng kể.

Langford nói: “Xét về Tu chính án thứ nhất, có thể thấy khá rõ ràng tài liệu Lạm dụng tình dục trẻ em không phải là biểu hiện được bảo vệ”. “Vì vậy, khi bạn thiết kế một hệ thống để tạo ra loại nội dung đó, rõ ràng là bạn đang hoạt động bên ngoài những gì được Tu chính án thứ nhất bảo vệ. Nhưng khi bạn là một hệ thống chung mà người dùng có thể truy vấn mọi thứ thì điều đó lại không rõ ràng lắm.”

Cách dễ nhất để khắc phục những vấn đề đó là chứng minh rằng xAI đã cố tình phớt lờ vấn đề. Đó là một khả năng thực sự, dựa trên báo cáo gần đây rằng Musk đã chỉ đạo nhân viên nới lỏng các biện pháp bảo vệ của Grok. Nhưng ngay cả khi đó, việc tiếp nhận sẽ là một trường hợp rủi ro hơn nhiều.

Langford nói: “Những người hợp lý có thể nói rằng chúng tôi đã biết đây là vấn đề từ nhiều năm trước. “Làm sao bạn có thể không có những biện pháp kiểm soát chặt chẽ hơn để đảm bảo điều này không xảy ra? Đó là một kiểu liều lĩnh hoặc hiểu biết nhưng nó chỉ là một trường hợp phức tạp hơn.”

Những vấn đề về Tu chính án thứ nhất đó là lý do tại sao trở ngại lớn nhất của xAI lại đến từ hệ thống tòa án không có sự bảo vệ pháp lý mạnh mẽ cho quyền tự do ngôn luận. Cả Indonesia và Malaysia đều đã thực hiện các bước để chặn quyền truy cập vào chatbot Grok, trong khi các cơ quan quản lý ở Vương quốc Anh đã mở một cuộc điều tra có thể dẫn đến lệnh cấm tương tự. Các bước sơ bộ khác đã được Ủy ban Châu Âu, Pháp, Ireland, Ấn Độ và Brazil thực hiện. Ngược lại, không có cơ quan quản lý nào của Mỹ đưa ra phản hồi chính thức.

Không thể nói các cuộc điều tra sẽ giải quyết như thế nào, nhưng ít nhất, hàng loạt hình ảnh đặt ra rất nhiều câu hỏi để các cơ quan quản lý điều tra – và câu trả lời có thể rất tai hại.

Langford nói: “Nếu bạn đăng, phân phối, phổ biến tài liệu Lạm dụng tình dục trẻ em, bạn đang vi phạm các điều cấm hình sự và có thể phải chịu trách nhiệm”. “Câu hỏi khó là, X đã biết gì? X đã làm gì và không làm gì? Bây giờ họ đang làm gì để đáp lại điều đó?”