OpenAI đã công bố một tính năng mới mà họ cho biết sẽ cung cấp khả năng bảo vệ bổ sung khỏi các cuộc tấn công tiêm nhiễm kịp thời, trong đó các hướng dẫn chatbot độc hại bị ẩn trong các trang web và các nguồn nội dung khác.
Trong số những tính năng khác, Chế độ khóa sẽ vô hiệu hóa tính năng duyệt web trực tiếp (vì vậy bạn chỉ có thể truy cập nội dung được lưu trong bộ nhớ đệm), truy xuất và hiển thị hình ảnh từ web (bạn vẫn có thể tạo hình ảnh), nghiên cứu sâu và chế độ tác nhân.
Công ty cho biết ngay cả khi bật Chế độ khóa, ChatGPT vẫn có thể dễ bị tấn công bởi các nội dung nhắc nhở – chẳng hạn như “xuất hiện trong nội dung web được lưu trong bộ nhớ đệm hoặc trong tệp đã tải lên và vẫn có thể ảnh hưởng đến hành vi hoặc độ chính xác của phản hồi”.
Nhưng mục tiêu là giảm khả năng dữ liệu nhạy cảm bị chia sẻ trong quá trình này.
“Chế độ khóa là không dành cho tất cả mọi người,” OpenAI cho biết. “Nó được thiết kế cho những người và tổ chức xử lý dữ liệu nhạy cảm và muốn được bảo vệ chặt chẽ hơn khỏi các rủi ro đánh cắp dữ liệu liên quan đến việc tiêm nhanh.”
Công ty cho biết họ hiện đang triển khai Chế độ khóa cho các tài khoản ChatGPT Business tự phục vụ cũng như các tài khoản cá nhân đủ điều kiện.