Thành phố San Francisco đã ra lệnh cho Apple và Google xóa hàng chục ứng dụng “khỏa thân” – – các chương trình phần mềm có thể thay đổi hình ảnh kỹ thuật số để cởi quần áo cho những người trong đó – khỏi các cửa hàng ứng dụng của họ.
Luật California hình sự hóa bất kỳ hoạt động nào “cố ý tạo điều kiện” hoặc “hỗ trợ hoặc tiếp tay một cách liều lĩnh” việc tạo ra nội dung khiêu dâm giả mạo sâu không có sự đồng thuận. Vào năm 2025, California cũng đã thông qua luật cho phép nạn nhân theo đuổi các vụ kiện dân sự chống lại những người hỗ trợ bên thứ ba về những tài liệu đó. Thành phố nói rằng, bất chấp những quy định nổi tiếng này, cả hai công ty công nghệ vẫn tiếp tục tổ chức và kiếm tiền từ những chương trình như vậy.
Luật sư David Chiu của Thành phố San Francisco cho biết trong một tuyên bố gửi qua email cho TechCrunch: “Apple và Google đang thu lợi từ các ứng dụng khai thác phụ nữ và trẻ em gái bằng cách tạo ra các hành vi giả mạo thân mật vô căn cứ”. “Trong khi các công ty cắt đứt quan hệ với một số ứng dụng có vấn đề, Apple và Google có trách nhiệm chủ động và cảnh giác để ngăn chặn lạm dụng tình dục.”
Những bức thư do văn phòng của Chiu gửi tới Google và Apple, được TechCrunch xem, lưu ý rằng các công ty này đã “được chú ý” về vai trò của họ trong việc “xử lý các khoản thanh toán cho các giao dịch mua bất hợp pháp trong gần một năm” nhưng vẫn tiếp tục làm như vậy.
Theo các bức thư, cả hai công ty đã nhiều lần được cảnh báo rằng họ đang lưu trữ các ứng dụng này. Vào tháng 1 và một lần nữa vào tháng 4, Dự án Minh bạch Công nghệ đã đưa ra báo cáo và gửi thư cho cả hai công ty lưu ý rằng có “hàng chục ứng dụng” trong các cửa hàng ứng dụng của họ đã “bán NCII giả mạo (hình ảnh thân mật không có sự đồng thuận) để đổi lấy các khoản thanh toán” do các công ty xử lý.
Báo cáo của TTP từ tháng 4 cho biết Google và Apple đã cố tình “hướng” người dùng đến những ứng dụng như vậy và gọi cả hai công ty là “những người tham gia chính trong việc phổ biến các công cụ AI có thể biến người thật thành hình ảnh khiêu dâm”.
Ngoài ra, Chiu nói với Wired rằng cả hai công ty đều có khả năng kiếm được “hàng triệu đô la phí” từ các ứng dụng cung cấp các dịch vụ như vậy.
Những bức thư từ văn phòng của Chiu cảnh báo rằng Apple và Google có thể phải đối mặt với các hình phạt dân sự vì vi phạm luật pháp và yêu cầu họ liên hệ với thành phố trong vòng 28 ngày.
Khi được TechCrunch đưa ra bình luận, một phát ngôn viên của Apple cho biết các ứng dụng khỏa thân đã bị cấm xuất hiện trong App Store của họ, đồng thời lưu ý thêm: “Chúng tôi đã xóa ba trong số các ứng dụng được đề cập và đang trong quá trình chấm dứt tài khoản nhà phát triển của họ khỏi chương trình của chúng tôi. Chúng tôi đang liên hệ với bốn người khác cần giải quyết các vi phạm chính sách hoặc có nguy cơ bị xóa.”
Người phát ngôn của Google tuyên bố rằng tất cả năm ứng dụng Play được đề cập trong thư của Chiu đã bị đình chỉ trên Google Play. Người phát ngôn cho biết thêm: “Khi các vi phạm được báo cáo cho chúng tôi, chúng tôi sẽ điều tra và thực hiện hành động nhanh chóng, trong trường hợp các ứng dụng này bao gồm việc tạm dừng hàng trăm ứng dụng vi phạm và hạn chế các cụm từ tìm kiếm có liên quan như ‘khỏa thân’ trên cửa hàng của chúng tôi”.
Nội dung khiêu dâm deepfake phần lớn là một vấn đề đối với những người nổi tiếng nữ, mặc dù các ứng dụng khỏa thân khiến bất kỳ ai có ảnh công khai đều có thể trở thành mục tiêu.
Cập nhật ngày 17 tháng 7: Bài viết này đã được cập nhật để bao gồm các tuyên bố từ Google và Apple.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.