OpenAI, Anthropic phải đối mặt với sự giám sát mới khi luật an toàn AI của New York có hiệu lực

New York đang chuẩn bị thực thi một trong những luật an toàn AI quan trọng nhất của đất nước. Tiểu bang đã mở một cổng đăng ký vào thứ Ba, trong đó các nhà phát triển AI lớn như Anthropic và OpenAI sẽ phải đăng ký trước ngày 1 tháng 1 năm 2027.

Đạo luật RAISE, dự luật về an toàn và minh bạch của New York, có hiệu lực vào đầu năm. Nó yêu cầu các nhà phát triển biên giới lớn — các công ty có doanh thu hàng năm trên 500 triệu USD — phải công bố các khuôn khổ an toàn trên trang web của họ, báo cáo các sự cố an toàn nghiêm trọng trong vòng 72 giờ và đưa ra các báo cáo minh bạch về mô hình công khai.

Văn phòng Đổi mới Kỹ thuật số, Quản trị, Liêm chính và Tin cậy (DIGIT) mới được thành lập sẽ thực thi Đạo luật RAISE và giám sát các phòng thí nghiệm AI lớn ở biên giới. Mức phạt có thể lên tới 1 triệu USD cho một lần vi phạm và 3 triệu USD cho những lần vi phạm tiếp theo.

Tiểu bang cũng có thể đưa ra các biện pháp thực thi đối với các công ty không đăng ký với cổng thông tin mới, mặc dù người phát ngôn từ chối cung cấp thông tin cụ thể.

Thống đốc Kathy Hochul cho biết hôm thứ Ba trong cuộc họp báo: “Các ông trùm công nghệ nói với chúng tôi rằng tầm nhìn của họ về AI là điều không thể tránh khỏi”. “Họ bảo chúng tôi hãy lên tàu hoặc bị bỏ lại phía sau… Rằng mọi thiệt hại tài sản thế chấp đều đáng giá miễn là chúng tôi giành chiến thắng trong cuộc đua đến vách đá AI.”

Hôm thứ Ba, Hochul cũng đã ra mắt Trung tâm Nghiên cứu và Trách nhiệm AI của New York có trụ sở tại Đại học Binghamton của Đại học Bang New York. Trung tâm sẽ đánh giá độc lập mức độ an toàn, bảo mật và hoạt động của các hệ thống AI tiên tiến và hợp tác với DIGIT để xem xét các khuôn khổ an toàn của các công ty. Hochul lần đầu tiên công bố trung tâm vào tháng 1 với số tiền quyên góp và vốn là 55 triệu USD.

Hochul cho biết: “Chúng tôi đang xây dựng một mô hình quốc gia về quy định AI thông minh, hợp lý, một mô hình đặt cộng đồng lên trên các tập đoàn và con người lên trên công nghệ mạnh mẽ”.

Đạo luật RAISE không phải là luật an toàn duy nhất mà New York đã thông qua. Năm ngoái, tiểu bang đã bắt đầu thực thi luật yêu cầu người vận hành AI đồng hành thường xuyên cho người dùng biết họ đang nói chuyện với bot và thực hiện những nỗ lực hợp lý để phát hiện ý tưởng tự tử và hành vi tự làm hại bản thân.

Vào tháng 10, Hochul đã ký một luật an toàn chatbot riêng dành cho trẻ vị thành niên, hạn chế các hành vi như tương tác lừa đảo giống con người, phản ứng lôi kéo hoặc nịnh bợ về mặt cảm xúc cũng như khuyến khích các hành vi như tự tử hoặc ăn uống không điều độ. Luật đó có hiệu lực từ ngày 1 tháng 6 năm 2027.

Các tiểu bang khác cũng đã thông qua các dự luật minh bạch và an toàn AI tương tự cho Đạo luật RAISE. SB 53 của California, có hiệu lực vào tháng 1, yêu cầu các phòng thí nghiệm AI hàng đầu phải thiết lập và công bố các khuôn khổ an toàn, ban hành các biện pháp bảo vệ người tố giác và báo cáo các sự cố an toàn nghiêm trọng trong vòng 15 ngày. SB 315 của Illinois, sẽ có hiệu lực vào đầu năm 2027, có các yêu cầu tương tự, đồng thời bao gồm các cuộc kiểm toán tuân thủ an toàn độc lập.