Các rào cản AI đang cản trở công việc của các nhà nghiên cứu an ninh mạng tấn công như thế nào

Trong nhiều tháng, những gã khổng lồ AI đã nghĩ ra các chương trình đặc biệt đã được kiểm duyệt kỹ lưỡng và các biện pháp bảo vệ nghiêm ngặt để hạn chế các tin tặc độc hại sử dụng mô hình của họ. Nhưng những giới hạn này hiện đang cản trở công việc của những người bảo vệ mạng hợp pháp cũng như của các nhà nghiên cứu tấn công an ninh mạng.

Vào tháng 6, chính phủ Hoa Kỳ đã áp đặt các hạn chế kiểm soát xuất khẩu đối với các mô hình AI được quảng cáo rầm rộ của Anthropic là Mythos và Fable. Động thái này được thúc đẩy ít nhất một phần bởi một báo cáo cho rằng có thể vượt qua các rào chắn bảo vệ của các mô hình được thiết kế để ngăn người dùng sử dụng chúng để xây dựng và thực hiện các cuộc tấn công mạng độc hại.

Bất kể vụ việc có thực sự được thúc đẩy bởi lo ngại về một cuộc bẻ khóa hay không, thực tế là Anthropic đã nhiều lần tiếp thị Mythos như một loại máy ảo ngày tận thế chỉ có thể được trao cho những người dùng đã được xem xét cẩn thận và thậm chí sau đó phải có các biện pháp bảo vệ nghiêm ngặt. (Các biện pháp kiểm soát xuất khẩu đối với Fable 5 và Mythos 5 kể từ đó đã được dỡ bỏ. Fable 5 đã trở lại quyền truy cập chung vào ngày 1 tháng 7; Mythos 5 chỉ được giới thiệu lại cho các tổ chức đã được kiểm duyệt của Hoa Kỳ như một phần trong quy trình xem xét của chính phủ.)

Kiểu gác cổng đó không phải chỉ có ở Mythos. Cả Anthropic, cùng với các mô hình khác và OpenAI đều cung cấp các chương trình dành cho nhà nghiên cứu an ninh mạng mà họ có thể đăng ký để được xem xét và – nếu được phê duyệt – truy cập các mô hình với ít hạn chế về an ninh mạng hơn: Quyền truy cập đáng tin cậy của OpenAI cho Chương trình xác minh mạng và Anthropic.

Những rào cản này đã bị chỉ trích rộng rãi, đặc biệt là bởi các nhà nghiên cứu có nhiệm vụ tìm ra những lỗ hổng chưa xác định trong hệ thống và nghĩ ra cách khai thác chúng trước khi bọn tội phạm thực hiện.

Trong lần xuất hiện gần đây trên một podcast về an ninh mạng, Mark Dowd, một nhà nghiên cứu bảo mật nổi tiếng, đã nói rằng, “tôi thực sự không thoải mái khi những công ty lớn ngẫu nhiên này đưa ra quyết định tùy tiện về điều gì an toàn trong bảo mật và điều gì không”.

Dowd đã dành nhiều thập kỷ để tìm và bán “zero day” – những lỗ hổng phần mềm chưa từng được biết đến trước đây và các cách khai thác lợi dụng chúng – cho các chính phủ phương Tây, thay vì báo cáo cho các nhà sản xuất phần mềm để chúng được vá. Các chính phủ phải trả giá cao cho các lỗ hổng bảo mật vì chúng luôn mở, điều này rất hữu ích cho các hoạt động tình báo.

Dowd thừa nhận công việc của anh có thể khiến anh thành kiến, nhưng anh không đơn độc. Một số người làm việc trong lĩnh vực an ninh mạng tấn công – họ chủ động thăm dò các điểm yếu của hệ thống – đã mô tả với TechCrunch cách họ sử dụng các công cụ AI và xử lý các biện pháp bảo vệ của mình.

Chris Anley, nhà khoa học trưởng của tập đoàn tư vấn bảo mật NCC Group, cho biết việc yêu cầu mô hình AI cố gắng khai thác một lỗi là một bước quan trọng để xác nhận đó có phải là một lỗ hổng thực sự đáng sửa hay không. Nhưng nếu một lan can khiến người mẫu từ chối trả lời thẳng thắn câu hỏi, thì lan can sẽ gây tổn hại cho những người bảo vệ, ông nói.

Anley cho biết: “Đây là lúc toàn bộ phần tấn công, phòng thủ và lan can xuất hiện, bởi vì ‘sửa mã này’ như một lời nhắc vừa là một cơ chế thiết yếu để phòng thủ vừa là lộ trình để tìm ra các lỗ hổng nghiêm trọng trong cơ sở mã”. “Vì vậy, cùng một lúc, cùng một công cụ vừa là công cụ tấn công vừa là công cụ phòng thủ, và cả hai đều không thể được chọn.”

Anh ấy tiếp tục: “Nó giống như một cái búa”. “Bạn không thể xây nhà nếu không có búa. Nó chắc chắn là một công cụ nhưng cũng là một vũ khí không thể thu gọn được.”

Khi anh và các đồng nghiệp gặp phải rào cản như vậy, đôi khi họ quay lại với các mô hình AI nguồn mở không có rào cản nào cả.

Paolo Stagno, giám đốc công nghệ của CrowdFense, một công ty nổi tiếng chuyên phát triển, mua lại và bán các lỗ hổng chưa xác định cho các cơ quan chính phủ, đồng ý với Dowd, nói rằng các công ty AI “về cơ bản đối xử với khách hàng như những đứa trẻ cần trông trẻ” bằng các chương trình và rào chắn đã được kiểm duyệt của họ.

Stagno cho biết ông và các đồng nghiệp của mình có sử dụng các mô hình biên giới – nhưng chỉ dành cho kỹ thuật đảo ngược. Ông nói, họ tránh sử dụng AI để giúp tìm ra các lỗ hổng hoặc xây dựng các cách khai thác, bởi vì việc đưa công việc đó vào mô hình dựa trên đám mây có nguy cơ làm rò rỉ dữ liệu về lỗ hổng nhạy cảm hoặc khiến dữ liệu đó bị hấp thụ vào các đợt đào tạo trong tương lai. Ông cho biết, đối với bước đó, họ sử dụng các mô hình nguồn mở chạy cục bộ vì họ không dựa vào việc chia sẻ dữ liệu bên ngoài mô hình.

Giuseppe Cali, một nhà nghiên cứu bảo mật, người tìm ra zero-day và phát triển các cách khai thác, cho biết các rào chắn không cản trở công việc của ông. Đó là bởi vì anh ta không sử dụng AI cho công việc tấn công; thay vào đó, anh ấy sử dụng nó cho kỹ thuật đảo ngược ban đầu, để hiểu mã mà anh ấy đang phân tích và xây dựng các công cụ hỗ trợ. Ông cho biết, để làm được điều đó, các công cụ AI có thể tăng tốc quá trình và cho phép ông tập trung vào việc khám phá các lỗ hổng.

Cali cho biết: “Tôi vẫn muốn sở hữu khả năng phát hiện lỗi và vũ khí hóa thực tế và điều đó sẽ không thay đổi nếu tất cả các biện pháp bảo vệ được dỡ bỏ vào ngày mai”. “Tôi ghen tị với những con bọ của mình và tôi quá thích trò chơi này nên không thể để người mẫu chơi hộ tôi.”

Một nhà nghiên cứu tại một nhà sản xuất linh kiện điện thoại thông minh, người phát biểu với điều kiện giấu tên vì không được phép nói chuyện với báo chí, cho biết chủ của anh ta không tham gia chương trình CVP của Anthropic và do đó, các công cụ của họ hầu như không hữu ích trong việc tìm kiếm các lỗ hổng vì các rào cản quá nghiêm ngặt.

Người này nói: “Nếu có chuyện xảy ra, chúng tôi đang làm bất cứ điều gì liên quan đến bảo mật, nó sẽ dừng lại và không thể sử dụng được”.

Chris Thompson – giám đốc điều hành của công ty an ninh mạng RemoteThreat và là người sáng lập Offensive AI Con, một sự kiện tập trung vào bảo mật tấn công và tập trung vào AI – cho biết rằng theo kinh nghiệm của ông khi sử dụng các mô hình AI biên giới, các rào chắn có thể không nhất quán và hoạt động khác nhau mỗi ngày. Điều đó đúng ngay cả trong ranh giới lỏng lẻo hơn của các chương trình đã được Anthropic và OpenAI kiểm duyệt.

Thompson cho biết: “Tôi nghĩ tác động thực tế là bạn dành nhiều thời gian đàm phán với mô hình thay vì làm việc trên chương trình bảo mật cốt lõi”. “Thay vì phân tích lỗ hổng và lý luận thông qua khả năng khai thác, bạn đang cố gắng tìm hiểu lý do tại sao bạn nhận được kết quả không nhất quán hoặc tại sao các mô hình lại kiểm tra đầu ra quá mức.”

Do đó, các nhà nghiên cứu dựa vào hoặc bị đẩy sang các mô hình nguồn mở của Trung Quốc như GLM – các mô hình có thể tải xuống miễn phí và có thể chạy cục bộ mà không bị hạn chế sử dụng hoặc kiểm tra – Thompson cho biết.

Ông nói: “Bạn có những nhà nghiên cứu có trách nhiệm này đang bị đẩy khỏi các hệ thống do Hoa Kỳ quản lý để chuyển sang các hệ thống thuộc sở hữu nước ngoài. “Tôi nghĩ việc lắp đặt những lan can này có hại hơn là có lợi.”

Thay vì thắt chặt các hạn chế hơn nữa, Thompson kêu gọi các phòng thí nghiệm AI biên giới mở các chương trình của họ, cung cấp quyền truy cập có trách nhiệm và cũng buộc những người lạm dụng công cụ của họ phải chịu trách nhiệm. Ông lập luận, nếu không, những người bảo vệ sẽ thua trong cuộc đua AI.

Thompson nói: “Sắp có cơn bão lớn. Có một làn sóng tấn công lớn sẽ xảy ra với tốc độ và quy mô chưa từng có trước đây”. “Nhưng các công ty tư vấn bảo mật và các nhà nghiên cứu hợp pháp đang cố gắng tạo ra sự khác biệt hiện đang bị ngăn cản.”