Ấn Độ đã yêu cầu X của Elon Musk thực hiện các thay đổi ngay lập tức về kỹ thuật và quy trình đối với chatbot AI Grok của họ sau khi người dùng và các nhà lập pháp gắn cờ việc tạo ra nội dung “tục tĩu”, bao gồm cả hình ảnh phụ nữ được thay đổi bằng AI được tạo bằng công cụ này.
Vào thứ Sáu, Bộ CNTT của Ấn Độ đã ban hành lệnh chỉ đạo X của Musk thực hiện hành động khắc phục đối với Grok, bao gồm hạn chế tạo ra nội dung liên quan đến tài liệu “khỏa thân, khiêu dâm, khiêu dâm hoặc bất hợp pháp”. Bộ cũng cho nền tảng truyền thông xã hội này 72 giờ để gửi báo cáo hành động nêu chi tiết các bước đã thực hiện để ngăn chặn việc lưu trữ hoặc phổ biến nội dung được coi là “tục tĩu, khiêu dâm, thô tục, không đứng đắn, khiêu dâm, ấu dâm hoặc bị cấm theo luật.”
Lệnh, được TechCrunch xem xét, cảnh báo rằng việc không tuân thủ có thể gây nguy hiểm cho các biện pháp bảo vệ “bến đỗ an toàn” của X – quyền miễn trừ pháp lý khỏi trách nhiệm pháp lý đối với nội dung do người dùng tạo theo luật Ấn Độ.
Động thái của Ấn Độ diễn ra sau những lo ngại của những người dùng đã chia sẻ ví dụ về việc Grok bị nhắc thay đổi hình ảnh của các cá nhân – chủ yếu là phụ nữ – để khiến họ trông như đang mặc bikini, khiến nghị sĩ Ấn Độ Priyanka Chaturvedi phải khiếu nại chính thức. Riêng biệt, các báo cáo gần đây đã gắn cờ các trường hợp trong đó chatbot AI tạo ra các hình ảnh khiêu dâm liên quan đến trẻ vị thành niên, một vấn đề mà X đã thừa nhận trước đó vào thứ Sáu là do sai sót trong các biện pháp bảo vệ. Những hình ảnh đó sau đó đã được gỡ xuống.
Tuy nhiên, những hình ảnh được tạo bằng Grok khiến phụ nữ dường như đang mặc bikini thông qua việc thay đổi AI vẫn có thể truy cập được trên X tại thời điểm xuất bản, TechCrunch nhận thấy.
Lệnh mới nhất được đưa ra vài ngày sau khi Bộ CNTT Ấn Độ đưa ra lời khuyên rộng rãi hơn vào thứ Hai, cũng được TechCrunch xem xét, cho các nền tảng truyền thông xã hội, nhắc nhở họ rằng việc tuân thủ luật pháp địa phương quản lý nội dung tục tĩu và khiêu dâm là điều kiện tiên quyết để duy trì quyền miễn trừ pháp lý khỏi trách nhiệm pháp lý đối với tài liệu do người dùng tạo. Khuyến cáo kêu gọi các công ty tăng cường các biện pháp bảo vệ nội bộ và cảnh báo rằng nếu không làm như vậy có thể dẫn đến hành động pháp lý theo luật hình sự và CNTT của Ấn Độ.
“Cần nhắc lại rằng việc không tuân thủ các yêu cầu trên sẽ được xem xét nghiêm túc và có thể dẫn đến hậu quả pháp lý nghiêm khắc đối với nền tảng của bạn, các quan chức chịu trách nhiệm và người dùng trên nền tảng vi phạm pháp luật mà không cần thông báo thêm,” lệnh cảnh báo.
sự kiện Techcrunch
San Francisco
|
Ngày 13-15 tháng 10 năm 2026
Chính phủ Ấn Độ cho biết việc không tuân thủ có thể dẫn đến hành động chống lại X theo luật CNTT và quy chế hình sự của Ấn Độ.
Ấn Độ, một trong những thị trường kỹ thuật số lớn nhất thế giới, đã nổi lên như một trường hợp thử nghiệm quan trọng về mức độ sẵn sàng của các chính phủ trong việc nắm giữ các nền tảng chịu trách nhiệm về nội dung do AI tạo ra. Bất kỳ việc thắt chặt thực thi nào trong nước đều có thể gây ra tác động lan tỏa đối với các công ty công nghệ toàn cầu hoạt động trên nhiều khu vực pháp lý.
Lệnh này được đưa ra khi X của Musk tiếp tục thách thức các khía cạnh trong các quy định về quy định nội dung của Ấn Độ trước tòa, lập luận rằng quyền gỡ bỏ của chính phủ liên bang có nguy cơ vi phạm quá mức, ngay cả khi nền tảng này đã tuân thủ phần lớn các chỉ thị chặn. Đồng thời, Grok ngày càng được người dùng X sử dụng nhiều hơn để kiểm tra tính xác thực và bình luận về các sự kiện tin tức, giúp kết quả đầu ra của nó rõ ràng hơn — và nhạy cảm hơn về mặt chính trị — so với kết quả của các công cụ AI độc lập.
X và xAI đã không trả lời ngay lập tức yêu cầu bình luận về lệnh của chính phủ Ấn Độ.