Nhân viên an toàn OpenAI từ chức, cho rằng ‘văn hóa công ty đã bị phá vỡ’

Theo sự thừa nhận của chính mình, David Robinson là “thứ gì đó sáo rỗng”: một nhân viên tại một công ty AI hàng đầu, người đã đưa ra lời cảnh báo nghiêm trọng khi từ chức.

Trong một bài luận đăng trên The Atlantic, Robinson cho biết ông chủ trì viết các báo cáo an toàn đi kèm với các buổi ra mắt sản phẩm chính của OpenAI. Anh ấy cũng nói rằng với ba năm rưỡi làm việc tại OpenAI, anh ấy “là một trong những nhân viên có thời gian làm việc lâu nhất tại công ty”. Bây giờ anh ấy sẽ nghỉ việc vì theo quan điểm của anh ấy, “văn hóa công ty đã bị phá vỡ”.

Ở một khía cạnh nào đó, nhận xét của Robinson giống với nhận xét của Jacob Coxon, người từng là nhà nghiên cứu ở cả OpenAI và Anthropic trước khi nghỉ việc và tuyên bố rằng các công ty này đang “đánh bạc với cuộc sống của chúng ta”. Nhận xét của Coxon đã dẫn đến một cuộc tranh luận rộng rãi hơn về độ an toàn của AI, với việc Giám đốc điều hành của Anthropic Dario Amodei tiết lộ kế hoạch phát triển AI thận trọng hơn; Các giám đốc điều hành AI đã gặp Tổng thống Donald Trump trong tuần này và ký vào những gì dường như được viết vội vàng, cam kết không ràng buộc để thực hiện nhiều biện pháp kiểm soát an toàn hơn.

Nhưng theo quan điểm của Robinson, cuộc tranh luận cần phải vượt ra ngoài “các quy tắc cụ thể hoặc luật mới”, đề cập đến văn hóa tổng thể tại các công ty này. Và trong khi phần lớn báo cáo xung quanh OpenAI tập trung vào việc CEO Sam Altman của công ty đã đánh mất niềm tin của các đồng nghiệp cũ như thế nào, thì bài luận của Robinson cho thấy các vấn đề về văn hóa của OpenAI cũng giống như các vấn đề về văn hóa của Thung lũng Silicon nói chung.

Ông viết: “OpenAI đã phát triển nhờ thử nghiệm và sai sót (mà nó gọi là ‘triển khai lặp đi lặp lại’), tìm kiếm các vấn đề và cải thiện các biện pháp bảo vệ của nó để ứng phó. “Nhưng về bản chất, cách tiếp cận này đảm bảo những thất bại định kỳ – và quy mô của những thất bại đó ngày càng tăng khi các hệ thống có nhiều khả năng hơn”.

Chỉ ra sự vi phạm hệ thống Ôm Mặt gần đây của các tác nhân OpenAI, cũng như những tiết lộ liên tục về việc OpenAI phát hiện ra nhiều tác nhân lừa đảo hơn, Robinson lập luận: “Một môi trường mà những điều như thế này có thể xảy ra không phải là nơi để phát triển trí tuệ nhân tạo có thể thông minh hơn chúng ta và điều đó có thể không làm được những gì chúng ta muốn”.

Trước nguy cơ gia tăng, Robinson lập luận rằng các công ty AI tiên phong cần bắt đầu vận hành “giống như các nhà máy điện hạt nhân hoặc sân bay đông đúc, với nhiều lớp dự phòng và lập kế hoạch cẩn thận, tốn thời gian, để những lỗi không thường xuyên và không thể tránh khỏi của con người không dẫn đến thảm họa”.

Nhưng Robinson nói rằng trong thời gian làm việc tại OpenAI, anh “chưa bao giờ gặp một đồng nghiệp nào có kinh nghiệm làm máy bay bay an toàn hay lò phản ứng hạt nhân chạy mà không tan chảy, hay giúp hệ thống tài chính phát triển mà không sụp đổ”.

Đáp lại bài luận của Robinson, người phát ngôn của OpenAI, Drew Pusateri, cho biết công ty tiếp tục cải thiện các biện pháp an toàn của mình.

Pusateri cho biết trong một tuyên bố: “Chúng tôi đang đảm bảo rằng các mô hình của chúng tôi không trở nên có khả năng cao hơn mức chúng tôi có thể quản lý và bảo mật một cách an toàn, đồng thời chúng tôi tạm dừng đào tạo hoặc giữ lại các mô hình khi chúng tôi cần giảm tốc độ”. “Chúng tôi đang thực hiện những thay đổi đáng kể để tăng cường bảo mật trong môi trường nghiên cứu và thử nghiệm của mình, đào tạo các mô hình để không chỉ hoàn thành nhiệm vụ mà còn thực hiện một cách có trách nhiệm, mở rộng công việc của chúng tôi với người đánh giá bên thứ ba và cải thiện khả năng giám sát theo thời gian thực để chúng tôi có thể phát hiện và ứng phó với hành vi liên quan sớm hơn trong quá trình đào tạo.”

Ngoài việc kêu gọi những thay đổi trong văn hóa OpenAI, Robinson còn cho biết đã đến lúc đặt ra những câu hỏi lớn hơn về sự liên kết – điều mà ông thừa nhận có thể nghe có vẻ “cảm động”, nhưng ông cho biết điều đó rất quan trọng vì “các thước đo hiện tại của các công ty về mức độ” hệ thống AI “phù hợp với giá trị con người là thô thiển”.

Ông nói: “Ngành công nghiệp càng thông minh hơn cho phép các mô hình phát triển trong khi những vấn đề này vẫn chưa được giải quyết thì tình hình của chúng ta càng trở nên nguy hiểm hơn”.

Sự ra đi của Robinson lần đầu tiên được Business Insider đưa tin. Trong bài luận của mình, anh ấy cũng thừa nhận rằng anh ấy đang làm theo một bước dường như phổ biến trong sách hướng dẫn người tố cáo AI: Anh ấy đã thuê một công ty PR. Nhưng anh khẳng định: “Quyết định lên tiếng là của riêng tôi”.

Robinson nói: “Có lẽ lẽ ra tôi nên ở lại và đấu tranh cho những thay đổi cơ bản trong nhân sự và văn hóa của chúng tôi, nhưng trên thực tế, tôi và các đồng nghiệp quá bận rộn chạy nước rút đến mức hiếm khi có cơ hội xem xét những thay đổi lớn, chứ đừng nói đến việc thực sự thực hiện chúng”. “Đó là lý do tại sao tôi kết luận rằng những khuyến khích mạnh mẽ hơn cho sự an toàn – đến từ bên ngoài công ty – là một phần quan trọng để đạt được điều này đúng đắn.”