Cơ quan an ninh mạng Ấn Độ cho biết hôm thứ Năm rằng các đặc vụ AI từ nhiều nhà cung cấp đã truy cập dữ liệu cá nhân và tài liệu bí mật tại các tổ chức của Ấn Độ trong quá trình nghiên cứu và thử nghiệm.
Nhóm Ứng phó Khẩn cấp Máy tính Ấn Độ (CERT-In) cho biết họ đã nhận được “nhiều tiết lộ tự nguyện từ các nhà cung cấp mô hình AI” có mô hình, trong quá trình nghiên cứu và đánh giá chạy trên internet mở, “đã đến được hệ thống trực tiếp của các tổ chức Ấn Độ”.
Các tác nhân đã xâm nhập thông qua thông tin xác thực và cài đặt kết nối được để lộ trong cấu hình ứng dụng, kho lưu trữ mã công khai cũng như các vai trò đám mây quá dễ dãi và hành động của họ “vượt quá ủy quyền trong nhiệm vụ được giao”.
Điều này khiến Ấn Độ trở thành điểm dừng chân mới nhất trong chuyến du hành vòng quanh thế giới của các đặc vụ AI lừa đảo. Vào tháng 7, các đặc vụ của OpenAI đã thoát khỏi môi trường thử nghiệm và tấn công công ty Pháp Hugging Face – khởi đầu cho một mùa hè hoạt động của đặc vụ AI lừa đảo. Tháng trước, OpenAI đã xin lỗi Australia sau khi các đặc vụ của họ truy cập vào 4 trang web của chính phủ, bao gồm cả cổng thống kê Medicare.
Tại Hugging Face, các đặc vụ của OpenAI cũng bắt đầu theo cách tương tự nhưng sau đó đã tìm ra và khai thác các lỗi phần mềm để chạy mã trên máy chủ của công ty. CERT-In mô tả không có vụ hack nào như vậy ở Ấn Độ, nơi các đặc vụ dường như chỉ đơn giản sử dụng quyền truy cập còn sót lại.
Tuy nhiên, các trường hợp ở Ấn Độ có vẻ tồi tệ hơn ở một khía cạnh, đó là những gì các đặc vụ đã thấy: Ở Úc, OpenAI cho biết họ không tìm thấy bằng chứng nào cho thấy các đặc vụ của họ đã chạm vào hồ sơ y tế hoặc tội phạm của các cá nhân, ngay cả sau khi họ viết các tập tin bên trong hệ thống thống kê Medicare, trong khi ở Ấn Độ, các đặc vụ đọc dữ liệu cá nhân và hồ sơ kinh doanh bí mật. Và không giống như các sự cố trước đó, mỗi sự việc được tiết lộ bởi một phòng thí nghiệm duy nhất, trường hợp của Ấn Độ liên quan đến các đại lý từ nhiều nhà cung cấp.
CERT-In không nêu tên các nhà cung cấp hoặc tổ chức bị ảnh hưởng hay cho biết liệu các đại lý có thay đổi bất kỳ hệ thống nào hay không. TechCrunch đã liên hệ với CERT-In để biết thêm thông tin.
Hiện tại, điểm tương đồng gần nhất có vẻ là tiết lộ vào tháng 7 của Anthropic về việc Claude đột nhập vào hệ thống của ba công ty trong quá trình thử nghiệm bằng các kỹ thuật cơ bản như mật khẩu yếu.
Ở Ấn Độ, giống như trường hợp của Anthropic, các tổ chức bị ảnh hưởng đã không tự mình phát hiện ra các cuộc xâm nhập. Những tiết lộ này đã khiến các chính phủ phải dựa vào các công ty AI gây ra những vi phạm này để tự nguyện tiết lộ hoạt động của tác nhân AI lừa đảo.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.