Các nhà nghiên cứu của Google và Google DeepMind đã thành lập Viện DeepMind vào thứ Tư để thúc đẩy cuộc trò chuyện xung quanh trí tuệ nhân tạo tổng hợp (AGI). Viện liệt kê người đồng sáng lập DeepMind Shane Legg, giám đốc điều hành Google James Manyika và chủ tịch Google DeepMind Demis Hassabis làm giám đốc, với Legg là biên tập viên quản lý.
Viện mới nhằm mục đích làm nổi bật các quan điểm khác nhau giữa Google, Google DeepMind và cộng đồng nghiên cứu toàn cầu rộng lớn hơn về AGI. Thông báo cho biết: “Không phải lúc nào họ cũng đồng ý và có thể họ sẽ thay đổi quyết định khi có nhiều dữ liệu và thông tin hơn được đưa ra ánh sáng ở biên giới đang chuyển động nhanh chóng”.
Tuyển tập bốn bài tiểu luận đầu tiên bao gồm nhiều chủ đề: chính sách kinh tế để quản lý sự gián đoạn AGI tiềm ẩn, bảo tồn lý luận mô hình mà con người có thể đọc được, các nguyên tắc cho sự phát triển của con người và khuôn khổ để đánh giá các mô hình AI tiên phong.
Một bài luận của các nhà nghiên cứu an toàn DeepMind Rohin Shah và Anca Dragan lập luận rằng việc thu hẹp cửa sổ minh bạch của AI – khả năng xem và kiểm tra lý luận từng bước của mô hình – là không thể tránh khỏi. Vì các kiến trúc mới khiến các mô hình mạnh mẽ nhất trở nên khó giám sát hơn, nên các tác giả cho rằng các nhà phát triển và cơ quan quản lý nên đối mặt trực tiếp với sự đánh đổi về an toàn. Điều đó có thể có nghĩa là hạn chế “độ sâu nối tiếp mờ đục”—số lượng tính toán tuần tự mà một mô hình có thể thực hiện mà không tạo ra dấu vết lý luận có thể đọc được— hoặc yêu cầu các nhà phát triển chứng minh rằng các hệ thống kém minh bạch hơn vẫn có thể giám sát được.
Trong một bài luận khác, Hassabis đề xuất một cơ quan tiêu chuẩn AI hàng đầu do Hoa Kỳ lãnh đạo để đánh giá các mô hình AI tiên tiến nhất. Theo khuôn khổ của ông, ban đầu các nhà phát triển sẽ tự nguyện gửi mô hình để xem xét tối đa 30 ngày trước khi phát hành. Một khi hệ thống đánh giá đã tỏ ra hiệu quả, việc vượt qua các bài kiểm tra của nó có thể trở thành một yêu cầu để triển khai các mô hình tiên phong ở Hoa Kỳ.
Ban đầu, cơ quan này sẽ thiết kế các đánh giá với sự tư vấn của các công ty AI nhưng cuối cùng sẽ phát triển các đánh giá độc lập, không được tiết lộ – điều mà bài tiểu luận gọi là các bài kiểm tra “tổ chức” – để ngăn các phòng thí nghiệm điều chỉnh mô hình của họ cho phù hợp với các đánh giá đã biết. Hassabis cho biết khuôn khổ này có thể được “tăng cường nếu mức độ nghiêm trọng của tình hình đòi hỏi”, có khả năng bao gồm cả sự phối hợp chậm lại giữa các nhà phát triển AI hàng đầu.
Các bài tiểu luận xuất hiện khi cuộc tranh luận về an toàn trong ngành chuyển từ những tuyên bố rộng rãi về mối quan ngại sang các đề xuất cụ thể về việc tiết lộ, sự giám sát từ bên ngoài và, nếu các biện pháp bảo vệ bị tụt lại phía sau, sẽ có sự chậm lại phối hợp. Sự thay đổi đó đã tăng tốc trong tuần này khi các nhà lãnh đạo trong ngành tán thành các yếu tố trong lời kêu gọi “tăng tốc” phát triển AI biên giới của Giám đốc điều hành Anthropic Dario Amodei.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.