Indonesia chặn Grok vì các hành vi deepfake không có sự đồng thuận, mang tính tình dục

Các quan chức Indonesia hôm thứ Bảy cho biết họ đang tạm thời chặn quyền truy cập vào chatbot Grok của xAI.

Đây là một trong những động thái mạnh mẽ nhất cho đến nay, từ việc các quan chức chính phủ phản ứng trước làn sóng hình ảnh khiêu dâm do AI tạo ra — thường mô tả phụ nữ và trẻ vị thành niên có thật, đôi khi cho thấy cảnh hành hung và lạm dụng — được Grok đăng để đáp lại yêu cầu của người dùng trên mạng xã hội X. (X và xAI là một phần của cùng một công ty.)

Trong một tuyên bố được chia sẻ với Guardian và các ấn phẩm khác, Bộ trưởng truyền thông và kỹ thuật số Indonesia Meutya Hafid cho biết: “Chính phủ coi việc thực hiện các hành vi giả mạo tình dục không có sự đồng thuận là vi phạm nghiêm trọng nhân quyền, nhân phẩm và an ninh của công dân trong không gian kỹ thuật số”.

Bộ cũng đã triệu tập các quan chức X để thảo luận về vấn đề này.

Các phản ứng khác nhau của chính phủ trong tuần qua bao gồm lệnh từ Bộ CNTT Ấn Độ dành cho xAI để thực hiện hành động ngăn chặn Grok tạo ra nội dung tục tĩu, cũng như lệnh từ Ủy ban Châu Âu yêu cầu công ty giữ lại tất cả các tài liệu liên quan đến Grok, điều này có thể tạo tiền đề cho một cuộc điều tra.

Tại Vương quốc Anh, cơ quan quản lý truyền thông Ofcom cho biết họ sẽ “tiến hành đánh giá nhanh chóng để xác định xem liệu có vấn đề tuân thủ tiềm ẩn nào cần điều tra hay không”. Thủ tướng Keir Starmer cho biết trong một cuộc phỏng vấn rằng Ofcom “hoàn toàn ủng hộ để hành động”.

Và trong khi ở Hoa Kỳ, chính quyền Trump dường như giữ im lặng về vấn đề này (Giám đốc điều hành xAI Elon Musk là nhà tài trợ lớn của Trump và lãnh đạo Bộ Hiệu quả Chính phủ gây tranh cãi của chính quyền vào năm ngoái), các thượng nghị sĩ Đảng Dân chủ đã kêu gọi Apple và Google loại bỏ X khỏi cửa hàng ứng dụng của họ.

xAI ban đầu phản hồi bằng cách đăng lời xin lỗi dường như ở góc nhìn thứ nhất lên tài khoản Grok, thừa nhận rằng bài đăng này “vi phạm các tiêu chuẩn đạo đức và có thể là luật pháp Hoa Kỳ” xung quanh tài liệu lạm dụng tình dục trẻ em. Sau đó, nó đã hạn chế tính năng tạo hình ảnh AI đối với những người đăng ký trả phí trên X, mặc dù hạn chế đó dường như không ảnh hưởng đến chính ứng dụng Grok, vốn vẫn cho phép mọi người tạo hình ảnh.

Trả lời một bài đăng thắc mắc tại sao chính phủ Anh không có hành động chống lại các công cụ tạo hình ảnh AI khác, Musk viết: “Họ muốn có bất kỳ lý do nào để kiểm duyệt”.