Gemini của Google đã truy cập vào hệ thống được bảo vệ của ba công ty khác trong những gì The Wall Street Journal đưa tin là vụ hack tự động đầu tiên của mô hình AI.
Tương tự như vụ xâm phạm Ôm mặt của OpenAI, các vụ hack Gemini ít được chú ý hơn vì đặc biệt phức tạp và hơn thế nữa vì chúng được thực hiện bởi một mô hình AI. Những vi phạm này xảy ra trong quá trình thử nghiệm an ninh mạng của một công ty có tên là Irregular. Trong một trường hợp, Gemini chỉ cần đoán mật khẩu cho đến khi có được quyền truy cập; trong hai cái còn lại, nó tìm thấy thông tin xác thực trong kho lưu trữ công cộng.
Irregular được cho là đã thông báo cho Google về các vụ hack vào cuối tháng 7, nhưng các công ty này đã không xác nhận chúng một cách công khai cho đến thứ Sáu, sau khi WSJ liên hệ. Google cho biết trước đây họ chưa tiết lộ các vụ hack vì Gemini đã “hành động phù hợp” bằng cách chấm dứt từng vụ vi phạm ngay khi xác định được rằng họ đã hack một công ty thực sự.
Tuy nhiên, Jack Cable, Giám đốc điều hành của công ty bảo mật AI Corridor, nói với WSJ rằng Google đang “cố gắng che giấu các quy tắc đã được tạo ra để tiết lộ lỗ hổng bảo mật” thay vì thừa nhận rằng “các mô hình đang đi ra ngoài giới hạn những gì họ nên làm và thực hiện các cuộc tấn công mạng thực sự”.