Máy bay quân sự đã cất cánh vào mùa xuân này khi các quan chức Mỹ đưa ra một phát hiện đáng báo động: Thông tin tình báo thúc đẩy một hoạt động vũ trang chống lại tàu Trung Quốc đã bị ảo giác bởi một chatbot AI. CNN đưa tin hôm thứ Sáu, hoạt động này đã bị hủy bỏ vào phút cuối, ngăn chặn một cuộc xung đột tiềm tàng với Trung Quốc trong gang tấc.
Tình tiết này nhấn mạnh mối lo ngại ngày càng tăng của các quan chức quân sự và các chuyên gia bên ngoài: Khi những người ra quyết định dựa nhiều hơn vào AI, các lỗi mà các hệ thống này tạo ra có thể được chuyển lên cấp chỉ huy trước khi bị thẩm vấn.
Báo cáo tình báo được lưu hành trong cuộc chiến với Iran cho biết con tàu đang chở các thành phần cho chương trình vũ khí hạt nhân.
Thông tin sai lệch bắt nguồn từ một nhà phân tích của Bộ Chỉ huy Tác chiến Đặc biệt, người đã truy vấn một chatbot AI để tổng hợp dữ liệu nguồn mở với thông tin tình báo về tín hiệu đã được phân loại. Chatbot đã xác định nhầm bản kê khai hàng hóa của tàu. Sau đó, nhà phân tích sử dụng công cụ này lần thứ hai để định dạng những phát hiện sai sót thành một bản tóm tắt trông có vẻ chính thức, được lưu hành trên các kênh chỉ huy.
Tình huống suýt xảy ra khi quân đội Mỹ chạy đua tích hợp AI để đẩy nhanh quá trình ra quyết định và duy trì lợi thế trước Trung Quốc. Lầu Năm Góc đã mô tả AI mang lại lợi thế đáng kể trong việc tăng tốc chuỗi tiêu diệt để các chỉ huy có thể phản ứng kịp thời. Nhưng tốc độ khiến AI trở nên hấp dẫn cũng có thể tạo ra ảo giác khi con người không giám sát đầy đủ.
Jake Steckler, học giả nghiên cứu tại GovAI và sĩ quan quân đội kỳ cựu của Hoa Kỳ, cho biết: “Điều quan trọng là các quân nhân phải hiểu được sự không chắc chắn vốn có của LLM”. “Nhưng nó đặc biệt quan trọng đối với bất kỳ quyết định nào có thể dẫn đến việc sử dụng vũ lực, như nhắm mục tiêu, phân tích tình báo hoặc lập kế hoạch hoạt động. Những quyết định đó có những hậu quả sinh tử.”
Tuy nhiên, Steckler cho biết, vụ việc này sẽ coi như một lời kêu gọi bổ sung thêm các biện pháp bảo vệ cho AI chứ không phải là lý do để trốn tránh nó. Ông nói: “Những công cụ này có thể hữu ích trong bối cảnh phù hợp và có các biện pháp bảo vệ phù hợp”. “Tuy nhiên, việc ưu tiên tốc độ áp dụng hơn tất cả những thứ khác có thể sẽ dẫn đến những sự cố chỉ khiến quân nhân mất niềm tin vào các hệ thống này, điều này cuối cùng sẽ chỉ làm chậm quá trình áp dụng.”
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.