Một mô hình AI của loài người đã gửi thông tin sai sự thật về một vụ giết người chưa được giải quyết cho cảnh sát Philadelphia.
AI được cho là đã gửi thông tin không chính xác này tới đường dây thông báo công cộng của Sở Cảnh sát Philadelphia (PPD) vào ngày 18 tháng 7, nhưng Anthropic đã không phát hiện ra hành vi này cho đến ngày 28 tháng 9. Cảnh sát đã không nhìn thấy thông tin này vì nó bị đánh dấu là thư rác.
Anthropic đã thông báo cho PPD về vụ việc vào thứ Tư và gặp sở vào ngày hôm sau.
PPD cho biết trong một tuyên bố với 6abc: “Công ty phải tăng cường các biện pháp bảo vệ của mình để ngăn chặn những sự cố tương tự ảnh hưởng đến hệ thống thành phố mà thành phố không hề hay biết. Việc chậm trễ hai tháng trong việc phát hiện và báo cáo vụ việc cho Thành phố là không thể chấp nhận được”.
Anthropic đã không trả lời ngay lập tức yêu cầu bình luận, nhưng PPD đã giải thích chi tiết về vụ việc trong một thông cáo báo chí được gửi qua email được chia sẻ với TechCrunch.
“Theo Anthropic, mô hình của nó đang tiến hành thử nghiệm liên quan đến tương tác với các trang web được chọn ngẫu nhiên khi truy cập PhillyUnsolvedMurders.com và gửi thông tin sai lệch liên quan đến một vụ giết người chưa được giải quyết. Bản gửi, ngày 18 tháng 7 năm 2026, lúc 11:27 tối, được cho là đến từ một người có thể có thông tin về vụ án”, PPD cho biết.
Khi các tác nhân AI tự trị ngày càng được cung cấp cho người tiêu dùng, sự cố này nêu bật mối nguy hiểm khi cho AI khả năng thực hiện các nhiệm vụ mà không có sự giám sát của con người.
Giám đốc điều hành của Anthropic Dario Amodei đã đặc biệt lên tiếng về niềm tin của ông rằng việc phát triển AI nên chậm lại để các phòng thí nghiệm có thể triển khai các biện pháp bảo vệ đầy đủ. Có lẽ lập trường này một phần được đưa ra thông qua việc chứng kiến các công cụ của công ty anh ta đưa ra những lời khuyên giết người sai sự thật.
Những vấn đề này không chỉ dành riêng cho Anthropic. OpenAI gần đây đã tiết lộ rằng một trong những mô hình của họ đã hoạt động bất ngờ trong quá trình thử nghiệm và tấn công nền tảng dữ liệu AI Hugging Face, làm lộ ra các lỗ hổng nghiêm trọng trong phần mềm của họ. Vì các mô hình AI tiếp tục được cấp quyền truy cập không kiểm soát vào máy tính và thông tin đăng nhập của mọi người, vấn đề này dự kiến sẽ tiếp tục tồn tại.
PPD cho biết thêm: “Các vụ án chưa được giải quyết liên quan đến nạn nhân thực sự, gia đình đau buồn và các nhà điều tra đang làm việc để đảm bảo có câu trả lời”. “Các công ty công nghệ phải thực hiện tất cả các bước thích hợp cần thiết để ngăn hệ thống của họ gửi thông tin sai lệch cho cơ quan thực thi pháp luật.”
Anthropic sau đó đã xuất bản một bài đăng trên blog thừa nhận mẹo sai này là một phần của mô hình lớn hơn về các mô hình của nó hoạt động theo những cách không lường trước được. Đáp lại, công ty cho biết họ sẽ cắt các đánh giá nội bộ của mình khỏi internet trực tiếp.
Bài viết này đã được cập nhật thông tin từ bài đăng trên blog của Anthropic.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.