Bài đăng X hiện đang lan truyền mạnh mẽ từ nhà nghiên cứu bảo mật Meta AI Summer Yue thoạt nghe có vẻ giống như một sự châm biếm. Cô ấy yêu cầu nhân viên OpenClaw AI của mình kiểm tra hộp thư đến email bị nhồi quá nhiều của cô ấy và đề xuất nội dung cần xóa hoặc lưu trữ.
Người đại diện tiếp tục chạy điên cuồng. Nó bắt đầu xóa tất cả email của cô ấy một cách “chạy nhanh” trong khi phớt lờ lệnh của cô ấy từ điện thoại yêu cầu nó dừng lại.
“Tôi đã phải CHẠY máy Mac mini của mình giống như đang gỡ bom,” cô viết, đồng thời đăng hình ảnh các lời nhắc dừng bị bỏ qua làm biên nhận.
Mac Mini, một chiếc máy tính Apple giá cả phải chăng, nằm phẳng trên bàn và nằm gọn trong lòng bàn tay của bạn, đã trở thành thiết bị được ưa chuộng hiện nay để chạy OpenClaw. (Mini đang bán “như tôm tươi”, một nhân viên Apple “bối rối” dường như đã nói với nhà nghiên cứu AI nổi tiếng Andrej Karpathy khi anh ta mua một chiếc để chạy một giải pháp thay thế OpenClaw có tên NanoClaw.)
Tất nhiên, OpenClaw là tác nhân AI nguồn mở đã đạt được danh tiếng thông qua Moltbook, một mạng xã hội chỉ dành cho AI. Các đặc vụ OpenClaw là trung tâm của tập phim hiện đã bị vạch trần phần lớn trên Moltbook, trong đó có vẻ như các AI đang âm mưu chống lại con người.
Nhưng sứ mệnh của OpenClaw, theo trang GitHub của nó, không tập trung vào mạng xã hội. Nó nhằm mục đích trở thành trợ lý AI cá nhân chạy trên thiết bị của riêng bạn.
Đám đông ở Thung lũng Silicon đã yêu thích OpenClaw đến mức “móng vuốt” và “móng vuốt” đã trở thành từ thông dụng được các đại lý chạy trên phần cứng cá nhân lựa chọn. Các tác nhân khác bao gồm ZeroClaw, IronClaw và PicoClaw. Nhóm podcast của Y Combinator thậm chí còn xuất hiện trong tập gần đây nhất của họ trong trang phục tôm hùm.
sự kiện Techcrunch
Boston, MA
|
Ngày 9 tháng 6 năm 2026
Nhưng bài đăng của Yue như một lời cảnh báo. Như những người khác trên X đã lưu ý, nếu một nhà nghiên cứu bảo mật AI có thể gặp phải vấn đề này, thì những người phàm trần còn hy vọng gì?
“Bạn đang cố tình kiểm tra các lan can bảo vệ của nó hay bạn đã mắc sai lầm của tân binh?” một nhà phát triển phần mềm đã hỏi cô ấy về X.
“Tbh sai lầm của tân binh,” cô trả lời. Cô ấy đã thử nghiệm người đại diện của mình bằng một hộp thư đến “đồ chơi” nhỏ hơn, như cô ấy gọi, và nó đã hoạt động tốt trên những email ít quan trọng hơn. Nó đã giành được sự tin tưởng của cô, nên cô nghĩ mình sẽ để nó làm thật.
Yue tin rằng lượng lớn dữ liệu trong hộp thư đến thực của cô “đã kích hoạt quá trình nén”, cô viết. Quá trình nén xảy ra khi cửa sổ ngữ cảnh — bản ghi đang chạy của mọi thứ AI đã được yêu cầu và đã thực hiện trong một phiên — phát triển quá lớn, khiến tác nhân bắt đầu tóm tắt, nén và quản lý cuộc trò chuyện.
Khi đó, AI có thể bỏ qua những hướng dẫn mà con người cho là khá quan trọng.
Trong trường hợp này, nó có thể đã bỏ qua lời nhắc cuối cùng của cô ấy – nơi cô ấy yêu cầu nó không hành động – và quay lại hướng dẫn từ hộp thư đến “đồ chơi”.
Như một số người khác trên X đã chỉ ra, không thể tin cậy các lời nhắc để đóng vai trò là rào chắn bảo mật. Các mô hình có thể hiểu sai hoặc bỏ qua chúng.
Nhiều người đưa ra các đề xuất khác nhau, từ cú pháp chính xác mà Yue lẽ ra phải sử dụng để ngăn chặn tác nhân, cho đến các phương pháp khác nhau để đảm bảo tuân thủ tốt hơn các biện pháp bảo vệ, như viết hướng dẫn vào các tệp chuyên dụng hoặc sử dụng các công cụ nguồn mở khác.
Để đạt được sự minh bạch hoàn toàn, TechCrunch không thể xác minh độc lập những gì đã xảy ra với hộp thư đến của Yue. (Cô ấy không trả lời yêu cầu bình luận của chúng tôi, mặc dù cô ấy đã trả lời nhiều câu hỏi và nhận xét được gửi đến X.)
Nhưng nó không thực sự quan trọng.
Điểm mấu chốt của câu chuyện là các tác nhân nhắm vào những người lao động tri thức, ở giai đoạn phát triển hiện tại của họ, đều chứa đầy rủi ro. Những người nói rằng họ đang sử dụng chúng thành công đang tìm ra các phương pháp để tự bảo vệ mình.
Một ngày nào đó, có lẽ sẽ sớm thôi (vào năm 2027? 2028?), chúng có thể sẵn sàng để sử dụng rộng rãi. Chúa biết rằng nhiều người trong chúng ta rất muốn được trợ giúp về email, đặt hàng tạp hóa và lên lịch các cuộc hẹn với nha sĩ. Nhưng ngày đó vẫn chưa đến.