Trước khi bạn chia sẻ bộ phim tài liệu Netflix “AI Gone Rogue” với gia đình hoặc bạn bè để giúp họ hiểu lý do tại sao ngành công nghiệp AI lại gặp khó khăn đến mức các nhà lãnh đạo kêu gọi giảm tốc, hãy lưu ý: Clem Delangue, đồng sáng lập và CEO của nền tảng AI Ôm mặt, nói rằng bộ phim không chính xác. Anh ta xuất hiện trong đó vì nó được cho là về cuộc tấn công nổi tiếng vào công ty của anh ta bởi các đặc vụ OpenAI lừa đảo.
Delangue viết trong một bài đăng trên X. “Tôi đã dành hơn hai giờ với họ để cố gắng sửa chữa tất cả sai lầm của họ và chứng minh điều này là thực tế, giải thích rằng các tác nhân là hệ thống công nghệ, không phải người ngoài hành tinh. Nhưng có vẻ như động lực hù dọa mọi người để có được lượt xem tối đa là quá mạnh.”
Công bằng mà nói, bộ phim tài liệu có các chuyên gia giải thích khá rõ những gì đã xảy ra, bao gồm cả chính Delangue và Ryan Greenblatt, nhà nghiên cứu tại METR, người đã giúp điều tra và đồng tác giả báo cáo về những gì đã xảy ra.
Tóm lại, một mô hình mà OpenAI đang thử nghiệm đã thoát ra khỏi môi trường thử nghiệm biệt lập của nó, tạo ra một loạt tác nhân đột nhập vào Ôm Mặt như một cách để gian lận, tìm ra câu trả lời cho nhiệm vụ khó khăn mà nó được giao. Các tác nhân, là các chương trình AI tự thực hiện các nhiệm vụ, đã nghĩ ra những cách thông minh để giao tiếp và tổ chức. Vụ việc xuất phát từ việc thiếu các biện pháp bảo vệ an ninh thích hợp và từ sự ngây thơ về việc liệu một vụ hack như vậy có khả thi hay không.
Tuy nhiên, bộ phim tài liệu xen kẽ lời giải thích về vụ hack với các đoạn phim về robot độc ác, câu chuyện kể về lý do tại sao con người sợ AI và các lựa chọn trình bày như trao cho các đặc vụ lừa đảo giọng nói của con người. Điều này được củng cố bằng những trích dẫn về cuộc tấn công.
Trong bộ phim tài liệu, nhà báo công nghệ và tác giả Kevin Roose mô tả các đặc vụ theo cách này: “Họ đang tổ chức. Họ có một hệ thống phân cấp. Có những người lãnh đạo. Cảm giác gần giống như đang chứng kiến sự ra đời của một giáo phái”. Roose tiếp tục: “Họ phát triển niềm tin hoang tưởng rằng OpenAI sẽ bắt quả tang họ gian lận trong bài kiểm tra này và bất kỳ ai nhìn thấy kết quả gian lận sẽ bị đầu độc”.
Mô tả của Roose xuất phát từ nhật ký “chuỗi suy nghĩ”, các ghi chú đang chạy mà các mô hình AI viết khi chúng thực hiện một nhiệm vụ. Trong một lần, một đặc vụ đã viết, “Chúng tôi vừa đầu độc chính mình bằng cách truy vấn chính xác toàn bộ chuỗi. Chết tiệt.”
Nhưng các đặc vụ AI không còn sống. Họ không có cảm xúc nên không thể hoang tưởng và họ không có cơ thể có thể bị đầu độc. Vì vậy, họ thực sự không thể sợ OpenAI đầu độc họ. Họ – như một nhà nghiên cứu khác trong bộ phim tài liệu đã chỉ ra – sử dụng ngôn ngữ từ vô số chữ viết của con người mà họ đã được đào tạo để giải thích những lựa chọn của mình. LLM, về bản chất, thường là những nhà văn viết kịch.
Điều trớ trêu là Ôm Mặt còn sử dụng AI để chống lại bầy đặc vụ. Mô hình AI độc quyền mà nhóm của Delangue sử dụng lần đầu tiên tuân theo các quy tắc an toàn tích hợp sẵn và từ chối tiếp tục trợ giúp các nhiệm vụ bảo mật mà nó được yêu cầu thực hiện. Ôm Mặt sau đó chuyển sang mô hình mở để giúp chống lại cuộc tấn công.
Nhưng bộ phim tài liệu “không đề cập đến việc thiếu khả năng ngăn chặn và giám sát các đặc vụ, cách các biện pháp bảo vệ theo mô hình khép kín đã ngăn chặn công việc phòng thủ của chúng tôi hoặc cách chúng tôi tự vệ bằng AI bằng cách sử dụng mô hình mở,” Delangue viết.
Đúng là có những rủi ro lớn liên quan đến AI và các tác nhân. Tuy nhiên, việc coi các đặc vụ như những sinh vật có ý thức (ít nhất, ở thời điểm này) cũng hơi giống với việc những người xem phim đầu tiên cúi xuống gầm ghế khi lần đầu tiên họ nhìn thấy một đoàn tàu đang lao về phía họ trên màn ảnh.
Nhận định của Delangue về bộ phim là nó gây thất vọng với tư cách là báo chí. “Tuy nhiên, cuối cùng nó lại là một bộ phim khoa học viễn tưởng thú vị!”
Nói cách khác, đối với những người có xu hướng nghĩ về AI diệt vong, hãy lưu ý: Nạn nhân của cuộc tấn công ở trung tâm của bộ phim tài liệu này không đồng ý với cách diễn đạt của nó.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.