Anthropic đưa ra dự luật an toàn AI có thể chặn một mô hình nếu hơn 50 người có thể bị giết

Trong năm qua, đã có nhiều lo ngại về mối nguy hiểm tiềm ẩn do trí tuệ nhân tạo gây ra và các cuộc tranh luận đã nổ ra về con đường thích hợp cho sự an toàn của AI. Giờ đây, Anthropic dường như đã đưa ra tầm nhìn của riêng mình về cách chính phủ có thể điều chỉnh ngành của mình.

Politico gần đây đưa tin rằng phòng thí nghiệm AI đang xem xét một dự thảo luật mới về an toàn AI mà họ hy vọng Quốc hội có thể xem xét thông qua. Luật pháp đặt ra một số tình huống nhất định trong đó việc phát hành mô hình AI có thể bị chặn phân phối.

Politico viết: Những kịch bản đó liên quan đến “rủi ro sắp xảy ra, có thể đoán trước” – một trong đó hơn 50 người có nguy cơ tử vong hoặc nếu thiệt hại tài sản lên tới hơn một tỷ đô la có thể xảy ra. Nguy cơ thảm khốc được đề cập phải “xuất phát từ việc tạo ra hoặc phát hành vũ khí sinh học, mô hình trốn tránh sự kiểm soát của nhà phát triển hoặc một cuộc tấn công mạng”, cơ quan này lưu ý.

Các số liệu được cung cấp ở đây – 50 người và một tỷ đô la – tương tự như các số liệu trong một bộ luật của California gần đây đã được thông qua thành luật, Dự luật 53 của Thượng viện, trong đó xác định tương tự những tình huống đó tương đương với “rủi ro thảm khốc”.

Dự luật của Anthropic gợi ý rằng việc phân tích khả năng xảy ra thảm họa của một mô hình có thể đạt được thông qua việc sử dụng “các nhà đánh giá độc lập”, những người sẽ đăng ký với Bộ Thương mại Hoa Kỳ. Politico viết: “Những người đánh giá này có thể được chính các phòng thí nghiệm AI trả tiền – miễn là “việc thanh toán không phụ thuộc vào kết quả đánh giá”.

Không rõ hệ thống được đề xuất này sẽ đảm bảo rằng các khoản thanh toán không thể ảnh hưởng đến việc đánh giá như thế nào. Demis Hassabis, chủ tịch của DeepMind, đã khẳng định cách đây vài tháng rằng một cơ quan quản lý AI tự quản nên bắt chước Cơ quan quản lý ngành tài chính (FINRA) của ngành tài chính.

Trong dự thảo của Anthropic, khi những người đánh giá xác định rằng có nguy cơ thảm khốc sắp xảy ra, họ sẽ có 72 giờ để liên hệ với Bộ Thương mại về điều đó. Bộ Thương mại sau đó sẽ phải yêu cầu Washington, DC ra quyết định tạm dừng phát hành mô hình này. Luật pháp sẽ cấm rõ ràng bất kỳ cơ quan liên bang nào có quyền tự mình dừng việc phân phối mô hình, Politico viết.

Anthropic đã không trả lời ngay lập tức yêu cầu bình luận của TechCrunch, nhưng một người phát ngôn đã xác nhận dự thảo luật với Politico. Người phát ngôn cho biết: “Dự luật này thể hiện các đề xuất được nêu trong Khung AI nâng cao của Anthropic mà chúng tôi đã vận động với các nhà lập pháp liên bang và tiểu bang kể từ tháng 6”.

Những rủi ro về mặt lý thuyết được đưa ra trong chính sách dự thảo hơi xa so với các loại sự cố được ngành công nghệ quan tâm hàng đầu thời gian gần đây. Mặc dù có nhiều người cảnh báo về khả năng gây tử vong cho con người, mối quan tâm hàng đầu phần lớn là mối đe dọa từ hacker. Một loạt các sự cố trong đó các chương trình AI rõ ràng đã không tuân theo sự điều hành của con người và các trang web bị tấn công trên mạng internet mở đã làm dấy lên mối lo ngại rằng các mô hình có thể thiếu các biện pháp kiểm soát bảo mật thích hợp.

Trong nỗ lực đưa ra giải pháp cho tình trạng khủng hoảng mà chính các phòng thí nghiệm đã góp phần gây ra, các công ty như Anthropic đã đưa ra các giải pháp ưa thích của riêng họ.

Thật vậy, bất chấp những cảnh báo liên tục của các phòng thí nghiệm rằng công nghệ họ đang bán có thể dẫn đến sự sụp đổ của nền văn minh nhân loại, phần lớn họ vẫn chống lại sự giám sát bắt buộc của chính phủ. Thay vào đó, họ đề xuất một hệ thống tự nguyện gồm những người đánh giá được nhúng – được cho là những người quan sát bên thứ ba “trung lập”, được đặt trong các tổ chức AI để giám sát các mô hình về các dấu hiệu rủi ro hoặc lạm dụng tiềm ẩn.

Tuy nhiên, đề xuất pháp lý đơn thuần của Anthropic dường như đi xa hơn một chút so với các đề xuất quy định khác mà ngành đưa ra, bao gồm cả Nvidia, Giám đốc điều hành của công ty, Jensen Huang, gần đây đã lập luận rằng ngành AI không cần bất kỳ luật mới nào cả.