Giám đốc điều hành Microsoft Satya Nadella là giám đốc điều hành công nghệ mới nhất đưa ra những suy nghĩ dài dòng về cách cải thiện độ an toàn của AI.
Trong một bài đăng sáng thứ Bảy trên X, Nadella viết rằng đã đến lúc “lùi lại và đánh giá kiến trúc tin cậy” của AI.
“Chúng ta không thể coi Super Intelligence như một tập hợp các hộp đen lồng nhau và chỉ chấp nhận hoặc từ chối các đề xuất, câu trả lời và hành động của nó,” Nadella viết, sử dụng thuật ngữ ưa thích của chính quyền Trump dành cho AI.
Như Nadella đã vạch ra, cách tiếp cận này “có nghĩa là tách mô hình khỏi dây nịt điều phối công việc của nó” cũng như “các biện pháp kiểm soát và bảo vệ bên ngoài”. Ông cũng kêu gọi “mọi hành động mẫu có ý nghĩa” phải được ghi lại bằng “bằng chứng có thể đọc được bằng chứng giả mạo mà con người có thể đọc được” và đối với các hệ thống mà “người được ủy quyền” luôn có khả năng “tạm dừng hoặc tắt một mô hình đang thực hiện nhiệm vụ”.
Ông nói: “Chúng ta phải cho rằng một mô hình đã bị xâm phạm và ngăn chặn nó ngay từ đầu. “Hãy coi nó giống như một chiếc phanh khẩn cấp.”
Bình luận của Nadella được đưa ra khi các công ty AI hàng đầu thừa nhận ngày càng có nhiều sự cố khiến họ dường như mất kiểm soát mô hình của mình và sau khi Giám đốc điều hành Anthropic Dario Amodei công bố kế hoạch phát triển AI thận trọng hơn.