Ngay cả Vua Anh cũng có sự do dự về AI

Vua Charles đã tổ chức một hội nghị thượng đỉnh riêng vào thứ Năm với một số tên tuổi nổi bật nhất trong lĩnh vực AI và chính phủ Anh, bao gồm Jensen Huang của Nvidia, các nhà lãnh đạo từ OpenAI và Anthropic, Bộ trưởng AI mới của Vương quốc Anh Kanishka Narayan, và thậm chí cả người đứng đầu cơ quan tình báo nước ngoài của Vương quốc Anh. (Paolo Benanti, người cố vấn cho giáo hoàng về AI, cũng có mặt ở đó).

Nhận xét của Nhà vua tại hội nghị thượng đỉnh rất đáng chú ý vì hoàng gia thường cẩn thận, vì lý do hiến pháp, về việc đi quá sâu vào các vấn đề chính trị – và AI là một trong những vấn đề nóng bỏng nhất trên thế giới hiện nay. Nhà vua kêu gọi các nhà lãnh đạo trong phòng tìm cách kiểm soát AI “trước khi quá muộn”, đồng thời nói thêm rằng sự phát triển nhanh chóng của công nghệ này – và “bản chất” của nó “vừa hấp dẫn vừa gây lo ngại sâu sắc”.

Ông nói: “AI đã cho thấy khả năng to lớn trong việc cải thiện và cứu sống sự sống,” ông lấy y học và khoa học làm ví dụ. “Tuy nhiên, những người tạo ra những công nghệ này hiện đang ngày càng cảnh báo rằng AI có nguy cơ phát triển những năng lực đen tối hơn, thậm chí có thể lấy đi mạng sống”. Nhận xét này được đưa ra chỉ vài tuần sau khi một nhà nghiên cứu Nhân chủng học nghỉ việc, viết trên mạng rằng các công ty AI đang “chạy đua để chế tạo những cỗ máy thông minh hơn nhiều so với bất kỳ con người nào” và nhân loại “có thể không tồn tại được sau điều này”.

Nhà vua tiếp tục, nói rằng điều cấp thiết là phải xem xét đúng đắn “những mối nguy hiểm hiện hữu” về những gì sẽ xảy ra nếu công nghệ này rơi vào tay kẻ xấu và được sử dụng theo “những cách có thể gây ra thảm họa”.

“Chắc chắn là chúng ta cần có đủ phương tiện kiểm soát trước khi quá muộn phải không?” anh ấy nói. Khi Vua Charles kết thúc, ông kêu gọi các nhà lãnh đạo tìm cách khai thác lợi ích của AI và xây dựng sự hợp tác và đồng thuận quốc tế để đạt được kết quả đó. (Nhận xét này được đưa ra sau khi Anthropic chỉ cung cấp quyền truy cập vào các mô hình Fable và Mythos cho khách hàng Hoa Kỳ, gây sốc cho giới công nghệ Châu Âu và khiến nhiều người phải suy nghĩ về khái niệm chủ quyền của AI).

Ông nói khi kết thúc bài phát biểu của mình: “Nhiệm vụ trước mắt của bạn không chỉ đơn thuần là cải tiến công nghệ mà còn phải đảm bảo rằng nó luôn phục vụ nhân loại, cộng đồng và thế giới tự nhiên”. “Khi chúng ta đón nhận những gì mới mẻ, chúng ta không được đánh mất những gì vượt thời gian.”

Các cửa hàng báo cáo rằng anh ta ở lại khoảng 20 phút, để các vị khách thảo luận về những vấn đề này với nhau. Đối với hội nghị thượng đỉnh của Nhà vua, OpenAI đã cử Giám đốc tài chính Sarah Frair của mình trong khi Anthropic cử Tino Cuéllar, người lãnh đạo các vấn đề toàn cầu. Khi đưa ra bình luận, Cuéllar cho biết công ty rất vinh dự được tham gia vào cuộc thảo luận và họ rất biết ơn Nhà vua vì “đã triệu tập các nhà lãnh đạo trong ngành và tiếng nói từ khắp xã hội để thảo luận về vai trò của AI trong việc phục vụ lợi ích công cộng”.

Đây không phải là lần đầu tiên Vua Charles nói về những thách thức và lợi ích của AI, ông đã từng làm như vậy trước đó vào năm 2023 và 2024. Tuy nhiên, hội nghị thượng đỉnh này đặc biệt đúng lúc khi AI tiếp tục thống trị mọi ngành, chủ đề và hình thức trò chuyện. Trong tháng này, Sam Altman, Elon Musk của OpenAI và Dario Amodei của Anthropic đã kêu gọi giảm tốc độ phát triển AI, nhưng Huang của Nvidia và Tổng thống Donald Trump đã nhanh chóng từ chối những lời kêu gọi đó. “Chúng tôi đang dẫn đầu Trung Quốc về AI,” tổng thống nói. “Chúng tôi là quốc gia phức tạp nhất trên thế giới và thành thật mà nói, tôi muốn giữ nguyên như vậy bởi vì ai thắng được AI thì sẽ thắng”.

Nó cho thấy vấn đề đã trở nên phức tạp như thế nào khi lợi ích của Big Tech, chính trị và xã hội xung đột với nhau. Trong năm qua, OpenAI và Anthropic đã hé lộ những đợt IPO bom tấn, mặc dù OpenAI gần đây cho biết kế hoạch IPO của họ đã bị đình trệ trong năm nay do lo ngại về an toàn AI vẫn tồn tại.