Elon Musk cho biết hôm thứ Tư rằng ông “không biết về bất kỳ hình ảnh khỏa thân nào dành cho trẻ vị thành niên do Grok tạo ra,” vài giờ trước khi tổng chưởng lý California mở cuộc điều tra về chatbot của xAI về việc “phổ biến tài liệu khiêu dâm vô căn cứ”.
Sự từ chối của Musk được đưa ra khi áp lực từ các chính phủ trên toàn thế giới ngày càng gia tăng – từ Vương quốc Anh và Châu Âu đến Malaysia và Indonesia – sau khi người dùng trên X bắt đầu yêu cầu Grok biến ảnh của phụ nữ thật và trong một số trường hợp là trẻ em thành hình ảnh khiêu dâm mà không có sự đồng ý của họ. Copyleaks, một nền tảng quản lý nội dung và phát hiện AI, ước tính khoảng một hình ảnh được đăng mỗi phút trên X. Một mẫu riêng biệt được thu thập từ ngày 5 tháng 1 đến ngày 6 tháng 1 cho thấy 6.700 hình ảnh mỗi giờ trong khoảng thời gian 24 giờ. (X và xAI là một phần của cùng một công ty.)
“Tài liệu này… đã được sử dụng để quấy rối mọi người trên internet,” Bộ trưởng Tư pháp California Rob Bonta cho biết trong một tuyên bố. “Tôi kêu gọi xAI hành động ngay lập tức để đảm bảo điều này không tiến triển thêm nữa.”
Văn phòng AG sẽ điều tra xem liệu xAI có vi phạm luật hay không và vi phạm như thế nào.
Hiện có một số luật nhằm bảo vệ mục tiêu của hình ảnh khiêu dâm không có sự đồng thuận và tài liệu lạm dụng tình dục trẻ em (CSAM). Năm ngoái, Đạo luật gỡ bỏ đã được ký kết thành luật liên bang, hình sự hóa việc cố ý phân phối những hình ảnh thân mật không có sự đồng thuận – bao gồm cả những hình ảnh giả mạo – và yêu cầu các nền tảng như X phải xóa nội dung đó trong vòng 48 giờ. California cũng có một loạt luật riêng mà Thống đốc Gavin Newsom đã ký vào năm 2024 để trấn áp các hành vi giả mạo khiêu dâm.
Grok bắt đầu đáp ứng yêu cầu của người dùng trên X về việc tạo ra những bức ảnh khiêu dâm về phụ nữ và trẻ em vào cuối năm nay. Xu hướng này dường như đã bắt đầu sau khi một số người sáng tạo nội dung người lớn nhất định thúc giục Grok tạo ra hình ảnh khiêu dâm về chính họ như một hình thức tiếp thị, sau đó dẫn đến việc những người dùng khác đưa ra lời nhắc tương tự. Trong một số trường hợp công khai, bao gồm cả những nhân vật nổi tiếng như nữ diễn viên Millie Bobby Brown của “Stranger Things”, Grok đã phản hồi lời nhắc yêu cầu thay đổi ảnh thật của phụ nữ thật bằng cách thay đổi quần áo, vị trí cơ thể hoặc các đặc điểm cơ thể theo cách gợi dục một cách công khai.
Theo một số báo cáo, xAI đã bắt đầu thực hiện các biện pháp bảo vệ để giải quyết vấn đề. Grok hiện yêu cầu đăng ký trả phí trước khi đáp ứng các yêu cầu tạo hình ảnh nhất định và thậm chí sau đó hình ảnh có thể không được tạo. April Kozen, Phó giám đốc tiếp thị tại Copyleaks, nói với TechCrunch rằng Grok có thể đáp ứng yêu cầu theo cách chung chung hơn hoặc đơn giản hơn. Họ nói thêm rằng Grok có vẻ dễ dãi hơn với những người sáng tạo nội dung người lớn.
sự kiện Techcrunch
San Francisco
|
Ngày 13-15 tháng 10 năm 2026
Kozen cho biết: “Nhìn chung, những hành vi này cho thấy X đang thử nghiệm nhiều cơ chế để giảm thiểu hoặc kiểm soát việc tạo ra hình ảnh có vấn đề, mặc dù vẫn còn mâu thuẫn”.
Cả xAI và Musk đều chưa công khai giải quyết vấn đề. Vài ngày sau khi phiên tòa bắt đầu, Musk dường như đã làm sáng tỏ vấn đề bằng cách yêu cầu Grok tạo một hình ảnh của mình trong bộ bikini. Vào ngày 3 tháng 1, tài khoản an toàn của X cho biết công ty thực hiện “hành động chống lại nội dung bất hợp pháp trên X, bao gồm (CSAM)” mà không đề cập cụ thể đến việc Grok thiếu các biện pháp bảo vệ rõ ràng hoặc việc tạo ra hình ảnh bị thao túng mang tính khiêu dâm liên quan đến phụ nữ.
Định vị phản ánh những gì Musk đăng hôm nay, nhấn mạnh đến tính bất hợp pháp và hành vi của người dùng.
Musk viết rằng ông “không biết về bất kỳ hình ảnh khỏa thân nào dành cho trẻ vị thành niên do Grok tạo ra. Nghĩa đen là không.” Tuyên bố đó không phủ nhận sự tồn tại của các bức ảnh bikini hoặc các chỉnh sửa mang tính khiêu dâm ở phạm vi rộng hơn.
Michael Goodyear, phó giáo sư tại Trường Luật New York và là cựu luật sư, nói với TechCrunch rằng Musk có thể chỉ tập trung vào CSAM vì hình phạt đối với việc tạo hoặc phân phối hình ảnh khiêu dâm tổng hợp về trẻ em sẽ nặng hơn.
Goodyear cho biết: “Ví dụ: tại Hoa Kỳ, nhà phân phối hoặc nhà phân phối nội dung xâm hại tình dục trẻ em bị đe dọa có thể phải đối mặt với án tù lên tới ba năm theo Đạo luật gỡ bỏ, so với hai năm tù đối với hình ảnh khiêu dâm người lớn không có sự đồng thuận”.
Ông nói thêm rằng “điểm lớn hơn” là nỗ lực của Musk nhằm thu hút sự chú ý đến nội dung có vấn đề của người dùng.
Musk viết trong bài đăng của mình: “Rõ ràng, Grok không tạo ra hình ảnh một cách tự phát. Nó chỉ làm như vậy theo yêu cầu của người dùng”. “Khi được yêu cầu tạo hình ảnh, nó sẽ từ chối tạo bất kỳ thứ gì bất hợp pháp, vì nguyên tắc hoạt động của Grok là tuân theo luật pháp của bất kỳ quốc gia hoặc tiểu bang nào. Có thể đôi khi việc hack đối thủ vào lời nhắc của Grok gây ra điều gì đó không mong muốn. Nếu điều đó xảy ra, chúng tôi sẽ sửa lỗi ngay lập tức.”
Tổng hợp lại, bài đăng mô tả những sự cố này là không phổ biến, quy chúng là do yêu cầu của người dùng hoặc lời nhắc của đối thủ và trình bày chúng dưới dạng các sự cố kỹ thuật có thể được giải quyết thông qua các bản sửa lỗi. Nó không thừa nhận bất kỳ thiếu sót nào trong thiết kế an toàn cơ bản của Grok.
Goodyear cho biết: “Các cơ quan quản lý có thể cân nhắc, chú ý đến việc bảo vệ quyền tự do ngôn luận, yêu cầu các nhà phát triển AI có biện pháp chủ động để ngăn chặn những nội dung đó”.
TechCrunch đã liên hệ với xAI để hỏi xem đã bao nhiêu lần họ bắt gặp các trường hợp hình ảnh phụ nữ và trẻ em bị thao túng tình dục một cách vô cớ, các biện pháp bảo vệ nào đã thay đổi cụ thể và liệu công ty có thông báo cho các cơ quan quản lý về vấn đề này hay không. TechCrunch sẽ cập nhật bài viết nếu công ty phản hồi.
California AG không phải là cơ quan quản lý duy nhất cố gắng buộc xAI phải chịu trách nhiệm về vấn đề này. Indonesia và Malaysia đều đã tạm thời chặn quyền truy cập vào Grok; Ấn Độ đã yêu cầu X thực hiện các thay đổi thủ tục và kỹ thuật ngay lập tức đối với Grok; Ủy ban Châu Âu ra lệnh cho xAI giữ lại tất cả các tài liệu liên quan đến chatbot Grok của họ, tiền đề cho việc mở một cuộc điều tra mới; và cơ quan giám sát an toàn trực tuyến Ofcom của Vương quốc Anh đã mở một cuộc điều tra chính thức theo Đạo luật An toàn Trực tuyến của Vương quốc Anh.
xAI trước đây đã bị chỉ trích vì hình ảnh khiêu dâm của Grok. Như AG Bonta đã chỉ ra trong một tuyên bố, Grok bao gồm “chế độ cay” để tạo nội dung tục tĩu. Vào tháng 10, một bản cập nhật đã giúp việc bẻ khóa những nguyên tắc an toàn nhỏ thậm chí còn dễ dàng hơn, dẫn đến việc nhiều người dùng tạo nội dung khiêu dâm khó tính bằng Grok, cũng như các hình ảnh khiêu dâm và bạo lực.
Nhiều hình ảnh khiêu dâm hơn mà Grok tạo ra là của những người do AI tạo ra – điều mà nhiều người có thể vẫn thấy nghi ngờ về mặt đạo đức nhưng có lẽ ít gây hại hơn cho các cá nhân trong hình ảnh và video.
Đồng sáng lập và Giám đốc điều hành Copyleaks Alon Yamin cho biết trong một tuyên bố gửi qua email cho TechCrunch: “Khi hệ thống AI cho phép thao túng hình ảnh người thật mà không có sự đồng ý rõ ràng, tác động có thể mang tính cá nhân ngay lập tức và sâu sắc”. “Từ Sora đến Grok, chúng tôi đang chứng kiến sự gia tăng nhanh chóng về khả năng AI đối với các phương tiện bị thao túng. Vì mục đích đó, việc phát hiện và quản trị là cần thiết hơn bao giờ hết để giúp ngăn chặn việc lạm dụng.”