OpenAI đã công bố một sáng kiến mới vào thứ Hai được thiết kế để giúp cộng đồng nguồn mở cải thiện trò chơi an ninh mạng và tránh lỗi.
“Patch the Planet” (là một sự ám chỉ không mấy tinh tế đến “Hack the Planet”, câu cửa miệng mang tính biểu tượng trong bộ phim năm 1995 tin tặc) sẽ thấy OpenAI hợp tác với công ty bảo mật Trail of Bits để giúp các nhà bảo trì nguồn mở bảo mật các dự án của họ.
OpenAI cho biết nhân viên bảo mật của Trail of Bits sẽ làm việc trực tiếp với các nhà bảo trì nguồn mở để xem xét các vấn đề tiềm ẩn về mã. Các công cụ bảo mật của OpenAI – như Codex Security – sẽ được sử dụng để hỗ trợ quá trình này.
OpenAI cho biết hôm thứ Hai: “Nhiều nhà bảo trì đã được yêu cầu sắp xếp nhiều báo cáo hơn, nhanh hơn, với cùng thời gian và nguồn lực hạn chế”. “Patch the Planet được xây dựng để giảm bớt gánh nặng đó chứ không phải tăng thêm gánh nặng: các kỹ sư bảo mật xem xét các phát hiện trước khi đến tay người bảo trì, làm việc với các dự án để phát triển các bản vá và thử nghiệm, đồng thời xây dựng quy trình công việc có thể tái sử dụng để giúp các nhóm tiếp tục cải thiện bảo mật sau lần sửa lỗi đầu tiên.”
Nói cách khác, các kỹ sư của Trail of Bits sẽ hoạt động ít nhiều giống như EMT mã – ở đó để giúp những người bảo trì dự án nguồn mở xác định và xử lý các vấn đề tiềm ẩn, tất cả đều được hỗ trợ bởi phần mềm của OpenAI. Nghe có vẻ là một dự án đầy tham vọng và vẫn chưa rõ nó sẽ hoạt động như thế nào về lâu dài hoặc kế hoạch mở rộng quy mô như thế nào (nếu có).
Các dự án nguồn mở là nền tảng kỹ thuật số mà ngành công nghiệp phần mềm thương mại dựa vào, nhưng thật không may, do cấu trúc phi tập trung và được giám sát kém của hệ sinh thái đó, phần lớn phần mềm không an toàn. Lỗi trong các dự án nguồn mở có thể trở thành vấn đề lớn đối với các cơ sở mã thương mại. Sự cố log4j từ vài năm trước – khi một lỗ hổng nghiêm trọng được phát hiện trong một tiện ích nguồn mở được sử dụng rộng rãi – là một ví dụ điển hình.
Phần lớn mối lo ngại xung quanh các công cụ như Mythos (công cụ bảo mật được công bố rộng rãi của Anthropic) dường như xuất phát từ thực tế là AI giờ đây có thể tự động xác định các lỗi hiện có trong cơ sở mã và bắt đầu tạo các khai thác cho chúng. Mặc dù việc tự động hóa tội phạm mạng không phải là mới, nhưng những công cụ này chắc chắn có tiềm năng mang lại sự thuận tiện hơn đáng kể cho những kẻ xấu.
OpenAI đang thay đổi công thức đó bằng cách sử dụng AI để giúp cộng đồng nguồn mở tự bảo vệ mình tốt hơn. Thật khó để không coi nó như một cú hích cạnh tranh tại Anthropic, đồng thời thừa nhận rằng đó là thứ mà cộng đồng nguồn mở rất cần.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.