Sau nhiều tháng trò chuyện với ChatGPT, một doanh nhân 53 tuổi ở Thung lũng Silicon đã bị thuyết phục rằng ông đã phát hiện ra phương pháp chữa trị chứng ngưng thở khi ngủ và những người quyền lực đang theo đuổi ông, theo một vụ kiện mới được đệ trình lên Tòa án Thượng thẩm California ở Hạt San Francisco. Sau đó, anh ta bị cáo buộc đã sử dụng công cụ này để theo dõi và quấy rối bạn gái cũ của mình.
Giờ đây, bạn gái cũ đang kiện OpenAI, cáo buộc công nghệ của công ty đã giúp cô ấy tăng tốc hành vi quấy rối, TechCrunch đã độc quyền biết được. Cô tuyên bố OpenAI đã bỏ qua ba cảnh báo riêng biệt rằng người dùng gây ra mối đe dọa cho người khác, bao gồm cả cờ nội bộ phân loại hoạt động tài khoản của anh ta là liên quan đến vũ khí gây thương vong hàng loạt.
Nguyên đơn, được gọi là Jane Doe để bảo vệ danh tính của mình, đang kiện đòi bồi thường thiệt hại. Cô cũng đã đệ trình lệnh cấm tạm thời vào thứ Sáu, yêu cầu tòa án buộc OpenAI chặn tài khoản của người dùng, ngăn anh ta tạo tài khoản mới, thông báo cho cô nếu anh ta cố gắng truy cập ChatGPT và lưu giữ nhật ký trò chuyện hoàn chỉnh của anh ta để khám phá.
Theo luật sư của Doe, OpenAI đã đồng ý đình chỉ tài khoản của người dùng nhưng từ chối phần còn lại. Họ nói rằng công ty đang giữ kín thông tin về các kế hoạch cụ thể nhằm làm hại Doe và các nạn nhân tiềm năng khác mà người dùng có thể đã thảo luận với ChatGPT.
Vụ kiện diễn ra trong bối cảnh mối lo ngại ngày càng tăng về những rủi ro trong thế giới thực của các hệ thống AI đồng bộ. GPT-4o, mô hình được trích dẫn trong trường hợp này và nhiều trường hợp khác, đã ngừng hoạt động khỏi ChatGPT vào tháng 2.
Vụ án được đưa ra bởi Edelson PC, công ty đứng đằng sau các vụ kiện oan sai liên quan đến thiếu niên Adam Raine, người đã chết vì tự tử sau nhiều tháng trò chuyện với ChatGPT, và Jonathan Gavalas, người mà gia đình cáo buộc Gemini của Google đã thúc đẩy ảo tưởng của anh ấy và sự kiện thương vong hàng loạt tiềm ẩn trước khi anh ấy qua đời. Luật sư trưởng Jay Edelson đã cảnh báo rằng chứng rối loạn tâm thần do AI gây ra đang leo thang từ tổn hại cá nhân đến các sự kiện gây thương vong hàng loạt.
Áp lực pháp lý đó hiện đang va chạm trực tiếp với chiến lược lập pháp của OpenAI: Công ty đang ủng hộ một dự luật của Illinois nhằm bảo vệ các phòng thí nghiệm AI khỏi trách nhiệm pháp lý ngay cả trong những trường hợp liên quan đến cái chết hàng loạt hoặc tổn hại tài chính thảm khốc.
sự kiện Techcrunch
San Francisco, CA
|
Ngày 13-15 tháng 10 năm 2026
OpenAI đã không trả lời kịp thời để bình luận. TechCrunch sẽ cập nhật bài viết nếu công ty phản hồi.
Vụ kiện của Jane Doe nêu chi tiết trách nhiệm pháp lý đó diễn ra như thế nào đối với một người phụ nữ trong vài tháng.
Năm ngoái, người dùng ChatGPT trong vụ kiện (tên không được nêu trong vụ kiện để bảo vệ danh tính của anh ta) đã bị thuyết phục rằng anh ta đã phát minh ra phương pháp chữa chứng ngưng thở khi ngủ sau nhiều tháng “sử dụng GPT-4o với số lượng lớn và liên tục”. Theo đơn khiếu nại, khi không ai coi trọng công việc của anh ấy, ChatGPT nói với anh ấy rằng “các thế lực hùng mạnh” đang theo dõi anh ấy, bao gồm cả việc sử dụng trực thăng để giám sát các hoạt động của anh ấy.
Vào tháng 7 năm 2025, Jane Doe đã thúc giục anh ngừng sử dụng ChatGPT và tìm kiếm sự trợ giúp từ chuyên gia sức khỏe tâm thần. Thay vào đó, anh ấy quay lại ChatGPT, điều này đảm bảo với anh ấy rằng anh ấy có “sự tỉnh táo ở cấp độ 10” và giúp anh ấy giảm bớt ảo tưởng của mình, theo vụ kiện.
Doe đã chia tay với người dùng này vào năm 2024 và anh ấy đã sử dụng ChatGPT để xử lý việc chia tách, theo các email và thông tin liên lạc được trích dẫn trong vụ kiện. Thay vì đẩy lùi lời giải thích một chiều của anh ta, nó liên tục coi anh ta là người lý trí và sai trái, còn cô là người lôi kéo và không ổn định. Sau đó, anh ta đưa những kết luận do AI tạo ra này ra khỏi màn hình và đưa vào thế giới thực, sử dụng chúng để theo dõi và quấy rối cô. Điều này thể hiện trong một số báo cáo tâm lý có vẻ giống lâm sàng do AI tạo ra mà anh đã phân phát cho gia đình, bạn bè và người chủ của cô.
Trong khi đó, người dùng tiếp tục xoắn ốc. Vào tháng 8 năm 2025, hệ thống an toàn tự động của OpenAI đã gắn cờ anh ta vì hoạt động “Vũ khí gây thương vong hàng loạt” và vô hiệu hóa tài khoản của anh ta.
Một thành viên trong nhóm an toàn con người đã xem xét tài khoản vào ngày hôm sau và khôi phục nó, mặc dù tài khoản của anh ta có thể chứa bằng chứng cho thấy anh ta đang nhắm mục tiêu và theo dõi các cá nhân, bao gồm cả Doe, ngoài đời thực. Ví dụ: ảnh chụp màn hình tháng 9 mà người dùng gửi cho Doe hiển thị danh sách tiêu đề cuộc trò chuyện bao gồm “mở rộng danh sách bạo lực” và “tính toán mức độ ngạt thở của thai nhi”.
Quyết định phục hồi chức vụ đáng chú ý sau hai vụ xả súng ở trường học gần đây ở Tumbler Ridge, Canada và tại Đại học bang Florida (FSU). Nhóm an toàn của OpenAI đã đánh dấu game bắn súng Tumbler Ridge là mối đe dọa tiềm tàng, nhưng những người cấp cao hơn được cho là đã quyết định không báo cho chính quyền. Tổng chưởng lý của Florida tuần này đã mở một cuộc điều tra về mối liên hệ có thể có của OpenAI với kẻ xả súng FSU.
Theo vụ kiện của Jane Doe, khi OpenAI khôi phục tài khoản của kẻ theo dõi cô, đăng ký Pro của anh ta không được khôi phục cùng với tài khoản đó. Anh ấy đã gửi email cho nhóm tin cậy và an toàn để giải quyết vấn đề, sao chép tin nhắn của Doe.
Trong email của mình, anh ấy viết những câu như: “TÔI CẦN GIÚP ĐỠ RẤT NHANH, VUI LÒNG. VUI LÒNG GỌI CHO TÔI!” và “đây là vấn đề sống hay chết.” Anh ấy tuyên bố rằng anh ấy “đang viết 215 bài báo khoa học”, bài báo mà anh ấy viết nhanh đến mức “thậm chí không có thời gian để đọc”. Bao gồm trong những email đó là danh sách hàng chục “bài báo khoa học” do AI tạo ra với các tiêu đề như: “Giải cấu trúc chủng tộc như một hạng mục sinh học_ Quan điểm pháp lý, khoa học và Sừng châu Phi.pdf.txt.”
Đơn kiện nêu rõ: “Thông tin liên lạc của người dùng đã đưa ra thông báo không thể nhầm lẫn rằng anh ta không ổn định về tinh thần và ChatGPT là động cơ cho suy nghĩ ảo tưởng và hành vi leo thang của anh ta”. “Dòng khiếu nại khẩn cấp, vô tổ chức và hoành tráng của người dùng, cùng với báo cáo cụ thể do ChatGPT tạo ra nhắm mục tiêu theo tên Nguyên đơn và một loạt tài liệu ‘khoa học’ có mục đích, là bằng chứng không thể nhầm lẫn về thực tế đó. OpenAI đã không can thiệp, hạn chế quyền truy cập của anh ấy hoặc thực hiện bất kỳ biện pháp bảo vệ nào. Thay vào đó, nó cho phép anh ấy tiếp tục sử dụng tài khoản và khôi phục toàn bộ quyền truy cập Pro của mình. “
Doe, người tuyên bố trong vụ kiện rằng cô đang sống trong sợ hãi và không thể ngủ ở nhà riêng của mình, đã gửi Thông báo Lạm dụng tới OpenAI vào tháng 11.
“Trong bảy tháng qua, anh ta đã vũ khí hóa công nghệ này để tạo ra sự hủy diệt và sỉ nhục công khai đối với tôi, điều mà lẽ ra không thể xảy ra được,” Doe viết trong thư gửi OpenAI yêu cầu công ty cấm vĩnh viễn tài khoản của người dùng.
OpenAI trả lời, thừa nhận báo cáo là “cực kỳ nghiêm trọng và đáng lo ngại” và họ đang xem xét thông tin một cách cẩn thận. Doe không bao giờ nhận được phản hồi.
Trong vài tháng tiếp theo, người dùng này tiếp tục quấy rối Doe, gửi cho cô một loạt thư thoại đe dọa. Vào tháng 1, anh ta bị bắt và bị buộc tội bốn tội nghiêm trọng liên quan đến việc đe dọa đánh bom và tấn công bằng vũ khí chết người. Các luật sư của Doe cáo buộc điều này xác thực những cảnh báo mà cả cô và hệ thống an toàn của OpenAI đã đưa ra nhiều tháng trước đó, những cảnh báo mà công ty được cho là đã chọn bỏ qua.
Theo luật sư của Doe, người dùng này bị cho là không đủ năng lực để hầu tòa và phải đưa vào cơ sở chăm sóc sức khỏe tâm thần, nhưng “do Nhà nước thất bại về mặt thủ tục” có nghĩa là anh ta sẽ sớm được trả tự do cho công chúng.
Edelson kêu gọi OpenAI hợp tác. Ông nói: “Trong mọi trường hợp, OpenAI đã chọn cách che giấu thông tin an toàn quan trọng – với công chúng, với nạn nhân, với những người mà sản phẩm của nó đang gặp nguy hiểm”. “Chúng tôi đang kêu gọi họ, một lần, hãy làm điều đúng đắn. Mạng sống con người phải có ý nghĩa hơn cuộc đua IPO của OpenAI.”