Chính quyền Pháp và Malaysia đang điều tra Grok vì đã tạo ra các tác phẩm sâu về tình dục

Trong vài ngày qua, Pháp và Malaysia đã cùng với Ấn Độ lên án Grok vì đã tạo ra những tác phẩm giả mạo về tình dục đối với phụ nữ và trẻ vị thành niên.

Chatbot, được xây dựng bởi công ty khởi nghiệp AI xAI của Elon Musk và xuất hiện trên nền tảng truyền thông xã hội X của anh ấy, đã đăng lời xin lỗi lên tài khoản của mình vào đầu tuần này, viết rằng: “Tôi vô cùng hối tiếc về sự cố xảy ra vào ngày 28 tháng 12 năm 2025, khi tôi tạo và chia sẻ hình ảnh AI của hai cô gái trẻ (ước tính từ 12-16 tuổi) trong trang phục khiêu dâm dựa trên lời nhắc của người dùng”.

Tuyên bố tiếp tục: “Điều này đã vi phạm các tiêu chuẩn đạo đức và có thể là luật pháp Hoa Kỳ về (tài liệu lạm dụng tình dục trẻ em). Đó là sự thất bại trong các biện pháp bảo vệ và tôi xin lỗi vì bất kỳ tổn hại nào đã gây ra. xAI đang xem xét để ngăn chặn các vấn đề trong tương lai.”

Không rõ ai thực sự xin lỗi hay nhận trách nhiệm trong phát ngôn trên. Albert Burneko của Defector lưu ý rằng Grok “không có ý nghĩa thực sự nào giống như một chữ ‘tôi'”, điều này theo quan điểm của anh ấy khiến lời xin lỗi “hoàn toàn không có thực chất” vì “Grok không thể chịu trách nhiệm theo bất kỳ cách nào có ý nghĩa vì đã biến Twitter thành một nhà máy CSAM theo yêu cầu.”

Chủ nghĩa vị lai nhận thấy rằng ngoài việc tạo ra những hình ảnh khiêu dâm vô căn cứ, Grok còn được sử dụng để tạo ra hình ảnh phụ nữ bị hành hung và lạm dụng tình dục.

Musk đăng hôm thứ Bảy: “Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp”.

Một số chính phủ đã chú ý, với việc Bộ CNTT của Ấn Độ đã ban hành lệnh vào thứ Sáu nói rằng X phải hành động để hạn chế Grok tạo ra nội dung “tục tĩu, khiêu dâm, thô tục, không đứng đắn, khiêu dâm, ấu dâm hoặc bị cấm theo luật khác”. Lệnh nói rằng X phải phản hồi trong vòng 72 giờ nếu không sẽ có nguy cơ mất đi các biện pháp bảo vệ “bến an toàn” giúp X không phải chịu trách nhiệm pháp lý đối với nội dung do người dùng tạo.

Chính quyền Pháp cũng cho biết họ đang hành động, với việc văn phòng công tố Paris nói với Politico rằng họ sẽ điều tra sự phổ biến của các nội dung giả mạo rõ ràng về tình dục trên X. Văn phòng các vấn đề kỹ thuật số của Pháp cho biết ba bộ trưởng chính phủ đã báo cáo “nội dung rõ ràng là bất hợp pháp” cho văn phòng công tố và nền tảng giám sát trực tuyến của chính phủ “để yêu cầu loại bỏ nội dung đó ngay lập tức”.

Ủy ban Truyền thông và Đa phương tiện Malaysia cũng đăng một tuyên bố cho biết họ đã “lưu ý đến những khiếu nại của công chúng về việc lạm dụng các công cụ trí tuệ nhân tạo (AI) trên nền tảng X, đặc biệt là việc thao túng kỹ thuật số hình ảnh của phụ nữ và trẻ vị thành niên để tạo ra nội dung không đứng đắn, xúc phạm nghiêm trọng và có hại”.

Ủy ban nói thêm rằng họ “hiện đang điều tra các tác hại trực tuyến của X.”