Jasmine Wang, Tomek Korbak và Mikita Balesni, ba nhà nghiên cứu an toàn mà OpenAI sa thải tuần trước, đã xuất bản một bức thư ngỏ phủ nhận tuyên bố của công ty rằng họ đã xử lý sai thông tin nhạy cảm bên ngoài các thủ tục đã được thiết lập của công ty và cảnh báo rằng việc sa thải họ báo hiệu một hiệu ứng ớn lạnh sẽ có tác động lan tỏa đến văn hóa của công ty.
Các nhà nghiên cứu viết hôm thứ Năm trong một bức thư ngỏ gửi tới Ủy ban An toàn và An ninh, Nhóm Cố vấn An toàn và Hội đồng Cố vấn Sứ mệnh của OpenAI: “Chúng tôi lo ngại rằng các thông tin liên lạc nội bộ và bên ngoài xung quanh việc sa thải chúng tôi đã khiến các đồng nghiệp cũ của chúng tôi ngại nói và hành động theo những cách mà cho đến tuần trước vẫn là một phần không thể thiếu khi làm việc tại OpenAI”.
Các nhà nghiên cứu đã bị sa thải vào tuần trước sau khi bị cáo buộc chia sẻ thông tin bí mật của công ty với tổ chức an toàn AI của bên thứ ba. OpenAI cho biết họ đã vi phạm chính sách của công ty khi “truy cập và xử lý thông tin nhạy cảm của công ty”.
“AI không phải là một công nghệ bình thường và OpenAI không phải là một công ty bình thường,” Wang, Korbak và Balesni viết. “Những người trong chúng tôi làm việc về an toàn đều nhìn thấy rủi ro trước bất kỳ ai khác và chúng tôi dựa vào sự hợp tác chặt chẽ với các chuyên gia bên ngoài để tìm ra cách giải quyết chúng. Quyền tự do làm như vậy mà không sợ hãi và có các quy trình nội bộ được xác định rõ ràng để thực hiện công việc này, bản thân nó đã là một cơ chế an toàn thiết yếu.”
Họ nói rằng việc sa thải họ thể hiện một sự thay đổi rộng lớn hơn trong văn hóa của OpenAI, một nền văn hóa từng khuyến khích người lao động “nêu lên những lo ngại về an toàn và không đồng ý một cách công khai”. Họ cho biết các nhân viên hiện “không rõ mình đang đứng ở đâu” khi hành vi được cho là bình thường cách đây một tháng giờ đột nhiên trở thành căn cứ để sa thải.
Họ viết: “Trước những lo ngại đáng kể về an toàn xung quanh sự phát triển của AI, không được để nhân viên làm việc trong một môi trường mà sự sợ hãi và các quy tắc không rõ ràng cản trở hoạt động an toàn của AI và làm suy yếu trách nhiệm giải trình của bên thứ ba”. “Các lệnh chấm dứt như của chúng tôi, được thực hiện và truyền đạt quá đột ngột, đang làm ảnh hưởng đến nền văn hóa mở mà OpenAI đã đánh giá cao trong quá khứ.”
Trong thư, cả ba đều phủ nhận có liên quan đến vụ rò rỉ thông tin cho The Information về các kiến trúc khó giám sát hơn trong các mô hình mới nhất của OpenAI khiến việc theo dõi lý luận theo chuỗi suy nghĩ trở nên khó khăn hơn. Họ cũng phủ nhận việc tham gia với các bên bên ngoài ngoài phạm vi công việc của họ.
OpenAI chưa chính thức trả lời bức thư ngỏ nhưng đã chia sẻ với TechCrunch một bản ghi nhớ nội bộ được cho là của một nhà lãnh đạo nghiên cứu, ca ngợi những đóng góp của ba nhà nghiên cứu đối với sự an toàn của AI và phủ nhận việc họ bị sa thải để trả đũa.
Bản ghi nhớ viết: “Tôi muốn làm rõ rằng những quyết định này không phải nhằm nêu lên những lo ngại về an toàn hay lên tiếng”. “Chúng tôi luôn khuyến khích điều đó và sẽ luôn như vậy. Chúng tôi không sa thải nhân viên vì nêu lên mối lo ngại.”
Riêng biệt, một phát ngôn viên của OpenAI nói với TechCrunch rằng cả ba đã bị sa thải sau khi một cuộc điều tra tiết lộ “mô hình hành vi sai trái” “vi phạm rõ ràng các chính sách của chúng tôi về xử lý sai thông tin nghiên cứu” vượt ra ngoài việc chia sẻ thông tin với nhóm đánh giá AI bên ngoài.
OpenAI đã không trực tiếp giải đáp các câu hỏi của TechCrunch về cụ thể những chính sách nào mà các nhà nghiên cứu bị cáo buộc đã vi phạm, các trường hợp sa thải họ hoặc cách công ty bảo vệ những nhân viên nêu lên mối lo ngại về an toàn và cộng tác với các nhà đánh giá bên ngoài.
Các vụ sa thải đã làm dấy lên những đồn đoán về hoàn cảnh của họ, đặc biệt khi OpenAI phải đối mặt với sự giám sát kỹ lưỡng về các sự cố an toàn gần đây liên quan đến các tác nhân lừa đảo và rò rỉ về các mô hình của nó.
Bức thư cũng đề cập đến phản ứng của các nhà nghiên cứu đối với sự cố Ôm Mặt, trong đó một nhóm đặc vụ đã thoát ra khỏi hộp cát của họ và xâm nhập vào các hệ thống bên ngoài. Bức thư nói rằng vụ việc và cuộc điều tra là “chưa từng có tiền lệ”, có nghĩa là “các chính sách nội bộ đang được phát triển theo thời gian thực”. Do tính chất nhạy cảm của cuộc điều tra, Korbak tin rằng anh ta đang hành động theo các chính sách và quy chuẩn của OpenAI bằng cách liên lạc chặt chẽ với các nhà đánh giá an toàn bên ngoài để tạo dựng niềm tin, theo bức thư.
Đồng thời, Balesni cũng đang làm việc nội bộ để giải quyết vấn đề về khả năng giám sát AI ngày càng tăng, một nỗ lực mà các nhà nghiên cứu cho biết trong thư của họ “chỉ có thể thành công thông qua giao tiếp rộng rãi với các bên bên ngoài”. Theo bức thư, Balesni đã phối hợp và được các thành viên hội đồng quản trị và giám đốc điều hành OpenAI hỗ trợ trong suốt quá trình làm việc của mình.
Bức thư viết: “Trong suốt quá trình, Mikita đã kiểm tra dòng báo cáo của mình và cẩn thận xóa các chi tiết nhạy cảm khỏi tài liệu trước khi chia sẻ chúng”. “Anh ấy đã hành động một cách có thiện chí và tuân thủ các quy định của công ty vào thời điểm đó.”
Trong một chủ đề riêng về X, Wang giải thích thêm chi tiết về việc cô bị sa thải, giải thích rằng OpenAI đã thông báo với cô rằng cô bị sa thải vì truy cập vào email của một giám đốc điều hành.
Cô viết: “OpenAI đã ủy quyền quyền truy cập đó cho tôi để tuyển dụng. “Khi tôi không cần nữa, tôi đã yêu cầu bộ phận CNTT xóa nó. Họ không thực hiện yêu cầu của tôi, tôi không thể tự xóa nó và hộp thư đến được kết hợp theo cách không thể phân biệt được trong ứng dụng thư trên điện thoại của tôi. Khi tôi vô tình mở một email nhạy cảm, tôi đã báo với giám đốc điều hành trong vòng vài phút và hỏi lại bộ phận CNTT. Không có điều gì trong số này bị ẩn cả.”
Wang tiếp tục nói rằng các lý do đằng sau việc chấm dứt hợp đồng là “không có căn cứ” và cô và các đồng nghiệp của mình “không phải là những người đầu tiên bị loại khỏi OpenAI trong những trường hợp đáng ngờ”.
Các nhà nghiên cứu kêu gọi OpenAI tuân thủ các cam kết công khai của mình trong việc đưa các kiểm toán viên an toàn của bên thứ ba vào tổ chức, để duy trì khả năng giám sát của các mô hình biên giới và “tiếp tục hỗ trợ văn hóa đối thoại cởi mở và minh bạch giữa các nhà nghiên cứu an toàn và phần còn lại của hệ sinh thái an toàn”.
OpenAI đồng ý với các khuyến nghị của họ, theo bản ghi nhớ.
Wang nói: “Trừ khi các nhân viên có lập trường chống lại kiểu hành động này ngay từ bây giờ, tôi lo ngại chúng tôi sẽ không phải là người cuối cùng”. “Thông điệp gửi đến tất cả mọi người vẫn ở OpenAI rất rõ ràng: nêu lên mối lo ngại hoặc hợp tác chặt chẽ với các nhóm an toàn bên ngoài và bạn có thể là người tiếp theo mà không được cho biết lý do. Bạn không thể xây dựng AGI một cách an toàn nếu những người gần gũi nhất với rủi ro ngại nói.”
Bài viết này đã được cập nhật với nhiều thông tin hơn từ OpenAI.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.