Indonesia và Malaysia chặn Grok vì các hành vi deepfake không có sự đồng thuận, mang tính tình dục

Các quan chức từ Indonesia và Malaysia cho biết họ đang tạm thời chặn quyền truy cập vào chatbot Grok của xAI.

Đây là những động thái mạnh mẽ nhất cho đến nay, từ việc các quan chức chính phủ phản ứng trước làn sóng hình ảnh do AI tạo ra mang tính khiêu dâm — thường mô tả phụ nữ và trẻ vị thành niên có thật, và đôi khi mô tả bạo lực — được Grok đăng để đáp lại yêu cầu của người dùng trên mạng xã hội X. (X và xAI là một phần của cùng một công ty.)

Trong một tuyên bố được chia sẻ hôm thứ Bảy với Guardian và các ấn phẩm khác, Bộ trưởng truyền thông và kỹ thuật số Indonesia Meutya Hafid cho biết: “Chính phủ coi việc thực hiện các hành vi giả mạo tình dục không có sự đồng thuận là vi phạm nghiêm trọng nhân quyền, nhân phẩm và an ninh của công dân trong không gian kỹ thuật số”.

Bộ cũng đã triệu tập các quan chức X để thảo luận về vấn đề này.

Tờ New York Times cho biết chính phủ Malaysia đã công bố lệnh cấm tương tự vào Chủ nhật.

Các phản ứng khác nhau của chính phủ trong tuần qua bao gồm lệnh từ Bộ CNTT Ấn Độ dành cho xAI để thực hiện hành động ngăn chặn Grok tạo ra nội dung tục tĩu, cũng như lệnh từ Ủy ban Châu Âu yêu cầu công ty giữ lại tất cả các tài liệu liên quan đến Grok, có khả năng tạo tiền đề cho một cuộc điều tra.

Tại Vương quốc Anh, cơ quan quản lý truyền thông Ofcom cho biết họ sẽ “tiến hành đánh giá nhanh chóng để xác định xem liệu có vấn đề tuân thủ tiềm ẩn nào cần điều tra hay không”. Thủ tướng Keir Starmer cho biết trong một cuộc phỏng vấn rằng Ofcom “hoàn toàn ủng hộ để hành động”.

Và trong khi ở Hoa Kỳ, chính quyền Trump dường như giữ im lặng về vấn đề này (Giám đốc điều hành xAI Elon Musk là nhà tài trợ lớn của Trump và lãnh đạo Bộ Hiệu quả Chính phủ gây tranh cãi của chính quyền vào năm ngoái), các thượng nghị sĩ Đảng Dân chủ đã kêu gọi Apple và Google loại bỏ X khỏi cửa hàng ứng dụng của họ.

xAI ban đầu phản hồi bằng cách đăng lời xin lỗi dường như ở góc nhìn thứ nhất lên tài khoản Grok, thừa nhận rằng bài đăng này “vi phạm các tiêu chuẩn đạo đức và có thể là luật pháp Hoa Kỳ” xung quanh tài liệu lạm dụng tình dục trẻ em. Sau đó, nó đã hạn chế tính năng tạo hình ảnh AI đối với những người đăng ký trả phí trên X, mặc dù hạn chế đó dường như không ảnh hưởng đến chính ứng dụng Grok, vốn vẫn cho phép mọi người tạo hình ảnh.

Trả lời một bài đăng thắc mắc tại sao chính phủ Anh không có hành động chống lại các công cụ tạo hình ảnh AI khác, Musk viết: “Họ muốn có bất kỳ lý do nào để kiểm duyệt”.

Bài đăng này đã được cập nhật để phản ánh lệnh cấm của Malaysia đối với Grok.