Anthropic đang nghiên cứu một hệ thống để chứng minh danh tính của các mô hình AI

Theo một bài đăng trên blog được xuất bản hôm thứ Ba, Anthropic đang làm việc trên một hệ thống nguồn mở để xác minh mô hình AI nào tạo ra kết quả nhất định. Hệ thống có tên FlashProve được xây dựng để cung cấp cái mà các nhà nghiên cứu gọi là “suy luận có thể chứng minh được” – một bằng chứng mật mã, về cơ bản là một đảm bảo toán học, rằng một đầu ra nhất định đến từ một mô hình cụ thể. Nó nhằm mục đích cho phép người dùng xác nhận rằng câu trả lời họ nhận được thực sự đến từ mô hình mà họ cho rằng họ đang sử dụng.

Tương tự như chữ ký email mật mã cho phép người nhận xác nhận thư thực sự đến từ người gửi được xác nhận, FlashProve sẽ mạnh mẽ chống lại những kẻ mạo danh cố gắng cải trang mô hình này thành mô hình khác, ngay cả khi kẻ mạo danh là phòng thí nghiệm đã xây dựng và vận hành mô hình đó. Đặc biệt, các nhà nghiên cứu lưu ý rằng hệ thống này có thể được sử dụng để ngăn chặn một công ty AI bí mật hoán đổi mô hình rẻ hơn để cắt giảm chi phí hoặc mô hình đắt tiền hơn để tăng kết quả hoạt động của nó.

FlashProve cũng có thể được sử dụng để xác minh khiếu nại của bên thứ ba rằng một nhiệm vụ cụ thể được thực hiện bởi một mô hình nâng cao. Các nhà nghiên cứu viết: “Một nhà phát triển có thể tuyên bố rằng thư viện phần mềm của họ đã được quét các lỗ hổng bằng mô hình an ninh mạng tiên tiến hoặc một công ty có thể tuyên bố rằng kế hoạch kinh doanh của họ đã được một mô hình thích hợp tiến hành”. “Làm cách nào người dùng có thể xác minh những tuyên bố này?”

Để hoạt động, hệ thống yêu cầu các phòng thí nghiệm AI xuất bản “dấu vân tay” của từng mô hình mà họ phát hành để sau này có thể khớp với các đầu ra cụ thể và được xác minh bằng mật mã. Điều quan trọng là dấu vân tay không tiết lộ trọng lượng của mô hình, các con số bên trong xác định cách thức hoạt động của mô hình và những con số nào mà các nhà sản xuất mô hình khép kín như Anthropic và OpenAI giữ kín. Điều đó có nghĩa là các phòng thí nghiệm có thể xuất bản dấu vân tay mà không phải từ bỏ tài sản quý giá nhất của họ, đồng thời cho phép hệ thống hoạt động với các mô hình thương mại. Hệ thống này cũng được thiết kế gọn nhẹ nên việc xác minh có thể được thực hiện trên thiết bị cục bộ.

Là một phần của thông báo, các nhà nghiên cứu đã phát hành thông số kỹ thuật chi tiết và mã hoạt động cho các thành phần khác nhau của hệ thống, được cung cấp công khai theo giấy phép nguồn mở trên GitHub. Nghiên cứu về hệ thống đang được tiến hành và không có kế hoạch triển khai nó tại Anthropic hoặc bất kỳ phòng thí nghiệm nào khác.

Các nhà nghiên cứu giải thích trong bài đăng thông báo: “Bài đăng nghiên cứu này nhằm mục đích chia sẻ tiến trình trung gian chứ không phải một chương trình nghiên cứu đã hoàn chỉnh”. “Chúng tôi chia sẻ điều này một cách rõ ràng với mục tiêu là những người khác nhìn vào những gì chúng tôi đã làm, tiếp thu và cải thiện nó.”