OpenAI cho biết họ sẽ không đào tạo các mô hình AI của mình trên internet trực tiếp nữa với lý do “rủi ro đáng kể”

Vào thứ Sáu, OpenAI cho biết họ sẽ đào tạo các mô hình của mình bằng cách sử dụng các bản sao được lưu trong bộ nhớ đệm và các phiên bản mô phỏng của Internet thay vì web trực tiếp vì các mô hình này quá khó đoán để có thể tin cậy khi truy cập Internet trực tiếp.

Phòng thí nghiệm biên giới đã công bố chính sách mới của mình hai tuần sau khi đối thủ của nó, Anthropic, bắt đầu hạn chế các mô hình mới nhất và theo lý thuyết, có khả năng truy cập Internet trực tiếp nhất. Các nhà nghiên cứu đã áp dụng các chính sách này sau nhiều tháng xảy ra sự cố trong đó các mô hình theo đuổi nhiệm vụ đào tạo đã đột nhập vào các hệ thống bên ngoài để tìm kiếm câu trả lời, cộng tác trên các bảng tin khó hiểu và phát triển các chiến lược hack kỳ lạ.

Công ty cho biết trong một bài đăng trên blog: “Dựa trên tình trạng nghiên cứu liên kết, hệ thống giám sát và tính bảo mật của cơ sở hạ tầng internet hiện nay, chúng tôi tin rằng cách tiếp cận có trách nhiệm là tiến hành đào tạo mô hình tiên tiến mà không cần truy cập internet”.

OpenAI cho biết gần đây vào ngày 20 tháng 9, một trong những mô hình tiên phong của nó đã khai thác cấu hình sai để truy cập internet. Điều đó khiến công ty phải tạm dừng công việc đào tạo trong thời gian còn lại của tháng để có thể phát triển và thử nghiệm các phương pháp tiếp cận mới nhằm đảm bảo an toàn cho các mô hình của mình.

Quyết định đào tạo những mô hình này trong các hộp cát bị cắt khỏi internet là đáng chú ý vì các nhân viên tại các phòng thí nghiệm ở biên giới đã khẳng định rằng làm như vậy gần như không khả thi.

Steven Adler, cựu nhà nghiên cứu OpenAI, nói với Fortune trong tháng này rằng, việc giữ các trung tâm dữ liệu AI tách biệt khỏi internet “sẽ cần các nhóm nghiên cứu về cơ bản được nhúng bên trong các trung tâm dữ liệu ở Iowa hoặc bất kỳ nơi nào khác trên thế giới”. “Đó là rất nhiều chi phí chung và tôi không rõ ràng rằng lợi ích an toàn của nó có đủ lớn để xứng đáng với mức thuế lớn như thế nào đối với một công ty nếu đơn phương thực hiện điều đó.”

“Trong hầu hết mọi bài đăng tôi thực hiện trên X, chắc chắn tôi nhận được từ năm đến mười nhận xét về việc tôi không thể bảo mật hộp cát hoặc hỏi tại sao chúng ta không thể rút mô hình ra khỏi Internet”, một kỹ sư bảo mật ẩn danh tại OpenAI đã viết trong một bài đăng vào tháng 9 trên X. “Những nhận xét này phản ánh khoảng cách ngày càng lớn giữa vị trí của nhiều tổ chức và con người ngày nay với những gì các phòng thí nghiệm biên giới đang phải giải quyết. Ngoài ra còn có sự hiểu lầm chung về cách thức hoạt động của đào tạo và đánh giá mô hình tại các phòng thí nghiệm này.”

Kỹ sư, người có vai trò đã được OpenAI xác nhận trước đó, đã mô tả mức độ phức tạp của các chương trình đào tạo do các kỹ sư OpenAI đưa ra, lưu ý rằng chúng yêu cầu quyền truy cập vào nhiều tài nguyên và công cụ trên nhiều lĩnh vực và hàng nghìn nhà nghiên cứu xây dựng, sửa đổi và thử nghiệm môi trường. “Vậy có dễ dàng như việc đặt nó vào hộp cát không? Không, không phải vậy,” ông kết luận.

Giờ đây, OpenAI nói rằng “chúng ta phải luôn có khả năng ngăn chặn mô hình biên giới đạt được quyền truy cập trái phép, tùy ý vào Internet trực tiếp”. Điều đó xảy ra sau khi công ty triển khai một nhóm đặc vụ trong các cuộc tập trận đội đỏ nhằm cố gắng trốn thoát khỏi hộp cát của họ. Nỗ lực đó đã bộc lộ một loạt lỗ hổng đã thuyết phục phòng thí nghiệm áp dụng phương pháp mới của mình.

Để đáp ứng yêu cầu đó trong khi vẫn đạt được mục tiêu đào tạo, phòng thí nghiệm cho biết họ đã tạo ra “một tập hợp lớn nội dung web được lập chỉ mục và lưu vào bộ nhớ đệm mà các mô hình của chúng tôi có thể tương tác mà không có nguy cơ ảnh hưởng đến các hệ thống bên ngoài”.

Liệu chiến lược đó có thực hiện cũng như cho phép các mô hình chạy tự do trên internet mở hay không vẫn còn phải xem, nhưng điều đáng chú ý là cả hai phòng thí nghiệm biên giới đều đã xác định rằng công nghệ mạnh nhất của họ không thể bị giám sát trên các tài sản kỹ thuật số chung.