YouTube đang mở rộng công nghệ phát hiện độ tương tự, xác định các tác phẩm sâu do AI tạo ra, cho một nhóm thí điểm gồm các quan chức chính phủ, ứng cử viên chính trị và nhà báo, công ty đã công bố hôm thứ Ba. Các thành viên của nhóm thử nghiệm sẽ có quyền truy cập vào một công cụ phát hiện nội dung trái phép do AI tạo ra và cho phép họ yêu cầu xóa nội dung đó nếu họ cho rằng nội dung đó vi phạm chính sách của YouTube.
Bản thân công nghệ này đã ra mắt vào năm ngoái cho khoảng 4 triệu người sáng tạo YouTube trong Chương trình Đối tác YouTube, sau các thử nghiệm trước đó.
Tương tự như hệ thống Content ID hiện có của YouTube, hệ thống phát hiện tài liệu được bảo vệ bản quyền trong video tải lên của người dùng, tính năng phát hiện chân dung sẽ tìm kiếm các khuôn mặt mô phỏng được tạo bằng công cụ AI. Những công cụ này đôi khi được sử dụng để cố gắng truyền bá thông tin sai lệch và thao túng nhận thức của mọi người về thực tế, vì chúng tận dụng tính cách giả mạo sâu sắc của các nhân vật nổi tiếng — như chính trị gia hoặc các quan chức chính phủ khác — để nói và làm những điều trong các video AI này mà họ không làm trong đời thực.
Với chương trình thí điểm mới, YouTube đặt mục tiêu cân bằng quyền tự do biểu đạt của người dùng với những rủi ro liên quan đến công nghệ AI có thể tạo ra hình ảnh giống một nhân vật của công chúng một cách thuyết phục.
Leslie Miller, Phó Chủ tịch phụ trách các vấn đề chính phủ và chính sách công của YouTube, cho biết trong cuộc họp báo trước buổi ra mắt hôm thứ Ba: “Việc mở rộng này thực sự là về tính trung thực của cuộc trò chuyện công khai”. Cô lưu ý: “Chúng tôi biết rằng rủi ro mạo danh AI đặc biệt cao đối với những người trong không gian dân sự. Nhưng trong khi cung cấp tấm khiên mới này, chúng tôi cũng cẩn thận về cách sử dụng nó”.
Miller giải thích rằng không phải tất cả các kết quả trùng khớp được phát hiện sẽ bị xóa khi được yêu cầu. Thay vào đó, YouTube sẽ đánh giá từng yêu cầu theo nguyên tắc chính sách quyền riêng tư hiện có của mình để xác định xem nội dung đó là hành vi nhại lại hay phê phán chính trị, là những hình thức tự do biểu đạt được bảo vệ.
Công ty lưu ý rằng họ cũng đang ủng hộ các biện pháp bảo vệ này ở cấp liên bang, với sự ủng hộ của họ đối với Đạo luật KHÔNG GIẢ MẠO ở DC, đạo luật này sẽ quy định việc sử dụng AI để tạo ra các bản tái tạo trái phép giọng nói và hình ảnh giống nhau của một cá nhân.
Để sử dụng công cụ mới, những người thử nghiệm thí điểm đủ điều kiện trước tiên phải chứng minh danh tính của mình bằng cách tải lên ảnh selfie và giấy tờ tùy thân do chính phủ cấp. Sau đó, họ có thể tạo hồ sơ, xem các kết quả phù hợp hiển thị và tùy ý yêu cầu xóa chúng. YouTube cho biết họ có kế hoạch cung cấp cho mọi người khả năng ngăn tải lên nội dung vi phạm trước khi chúng xuất hiện trực tuyến hoặc có thể cho phép họ kiếm tiền từ những video đó, tương tự như cách hệ thống Content ID của YouTube hoạt động.
Công ty sẽ không xác nhận chính trị gia hoặc quan chức nào sẽ nằm trong số những người thử nghiệm ban đầu, nhưng cho biết mục tiêu là làm cho công nghệ này được phổ biến rộng rãi theo thời gian.
Những video AI này sẽ được gắn nhãn như vậy nhưng vị trí của các nhãn này không nhất quán. Đối với một số người, nhãn xuất hiện trong phần mô tả của video, trong khi các video tập trung vào “chủ đề nhạy cảm” hơn sẽ áp dụng nhãn ở phần trước của video. Đây là cách tiếp cận tương tự mà YouTube áp dụng với tất cả nội dung do AI tạo ra.
Amjad Hanif, Phó Chủ tịch Sản phẩm dành cho người sáng tạo của YouTube, giải thích: “Có rất nhiều nội dung được sản xuất bằng AI, nhưng sự khác biệt đó thực sự không ảnh hưởng lớn đến bản thân nội dung đó”. “Đó có thể là một phim hoạt hình được tạo ra bằng AI. Và vì vậy tôi nghĩ rằng sẽ có đánh giá về việc liệu đó có phải là một thể loại xứng đáng với tuyên bố từ chối trách nhiệm rõ ràng hay không,” ông nói.
YouTube hiện không chia sẻ số lượng nội dung bị xóa bằng công nghệ phát hiện deepfake này do công nghệ phát hiện deepfake này quản lý, nhưng lưu ý rằng số lượng nội dung bị xóa cho đến nay vẫn “rất nhỏ”.
“Tôi nghĩ đối với nhiều (người sáng tạo), đó chỉ là nhận thức về những gì đang được tạo ra, nhưng số lượng yêu cầu xóa thực sự rất rất thấp vì hầu hết các yêu cầu đó hóa ra khá lành tính hoặc bổ sung cho hoạt động kinh doanh tổng thể của họ,” Hanif nói.
Điều đó có thể không xảy ra với các tác phẩm deepfake của các quan chức chính phủ, chính trị gia hoặc nhà báo.
Theo thời gian, YouTube dự định đưa công nghệ phát hiện deepfake của mình đến nhiều lĩnh vực hơn, bao gồm cả giọng nói dễ nhận biết và các tài sản trí tuệ khác như các nhân vật nổi tiếng.