Các công ty AI đã nói về AI siêu thông minh như thể đó là điều không thể tránh khỏi, nhưng những sự cố an toàn gần đây như vi phạm Hugging Face của OpenAI đang cho thấy những mối nguy hiểm tiềm tàng khi triển khai các hệ thống AI có khả năng cao hơn con người. Vậy điều gì sẽ xảy ra khi chúng ta không thể kiểm soát một cách đáng tin cậy những hoạt động của các hệ thống này?
Trong tập podcast Equity của TechCrunch này, Rebecca Bellan có sự tham gia của Connor Leahy, một nhà nghiên cứu AI, doanh nhân và hiện là Giám đốc điều hành Hoa Kỳ của tổ chức phi lợi nhuận ControlAI, tổ chức đang thúc đẩy một cách tiếp cận triệt để hơn nhiều đối với an toàn AI: ngăn chặn hoàn toàn các công ty phát triển siêu trí tuệ. Leahy giải thích lý do tại sao ông cho rằng những rủi ro đã trở nên quá lớn để có thể quản lý chỉ thông qua sự liên kết và ngăn chặn, và làm thế nào những gì nghe có vẻ xa vời cách đây sáu tháng giờ lại được hỗ trợ bởi một làn sóng luật mới.
Đăng ký Equity trên YouTube, Apple Podcasts, Overcast, Spotify và tất cả các diễn viên. Bạn cũng có thể theo dõi Equity trên X và Chủ đề, tại @EquityPod.