Garry Tan của Y Combinator cũng muốn các phòng thí nghiệm AI có trọng lượng mở của Hoa Kỳ ‘chắt lọc’ các mô hình biên giới

Khi đề cập đến việc các phòng thí nghiệm AI của Trung Quốc sử dụng kỹ thuật chưng cất để thu thập kiến ​​thức từ các nhà sản xuất mô hình hàng đầu, Giám đốc điều hành Y Combinator Garry Tan đang hy vọng các cơ quan quản lý tránh xa việc đó. Trên thực tế, ông cho rằng các phòng thí nghiệm AI của Mỹ có lẽ nên chơi trò chơi tương tự.

“Tôi sẽ không làm gì cả,” anh nói với CNBC trong một cuộc phỏng vấn đầu tuần này. “Chúng tôi có thể lập luận rằng cần phải có chế độ chưng cất của Mỹ.”

Anh ấy giải thích với TechCrunch rằng điều này có nghĩa là anh ấy muốn các phòng thí nghiệm AI có trọng lượng mở nhỏ hơn của Mỹ sử dụng cùng một loại kỹ thuật đào tạo như các phòng thí nghiệm AI ở biên giới của Mỹ, mang lại cho Hoa Kỳ một bộ tùy chọn trọng lượng mở mạnh mẽ hơn không phải của Trung Quốc.

Chưng cất là khi người tạo mô hình gợi ý một cách rộng rãi một mô hình khác để tìm hiểu cách thức hoạt động và lý do của mô hình đó. Nó được các phòng thí nghiệm AI sử dụng phổ biến và hợp pháp để giúp đào tạo các mô hình mới.

Anthropic tuần này đã công bố báo cáo thứ hai cáo buộc rằng các phòng thí nghiệm Trung Quốc đang tham gia vào “các cuộc tấn công chưng cất bất hợp pháp”, che giấu danh tính của họ để chưng cất mà không được phép và dựa vào gian lận cũng như thông tin bị đánh cắp để làm như vậy. Giám đốc điều hành của Anthropic Dario Amodei trước đây đã công khai kêu gọi các cơ quan quản lý của Hoa Kỳ xử lý nghiêm ngặt hoạt động chưng cất.

Điều đáng chú ý là người chỉ huy công ty tăng tốc khởi nghiệp có uy tín và phát triển mạnh ở Thung lũng Silicon không đồng ý.

Nói rõ hơn, Tan không ủng hộ việc các phòng thí nghiệm AI của Mỹ sử dụng thông tin đăng nhập bị đánh cắp để chưng cất. Anh ấy muốn họ được tự do đi vào cửa trước. Trên thực tế, lập luận của ông có hai mặt. Anh ấy cảm thấy việc các phòng thí nghiệm AI ra lệnh cho khách hàng của họ có thể làm gì với thông tin mà các mô hình của họ chia sẻ với họ là một sự quá đáng.

Ông cũng lưu ý rằng các phòng thí nghiệm AI độc quyền đã không xin phép khi họ thu thập càng nhiều kiến ​​thức con người càng tốt để đào tạo các mô hình của mình. Họ nổi tiếng là đã sử dụng nhiều tài liệu có bản quyền mà không có sự cho phép của những người sở hữu trí tuệ đó.

“Việc kiểm soát những gì người dùng và khách hàng thực hiện bằng các lệnh gọi API đến các mô hình trọng lượng đóng cảm thấy bị hạn chế và chính phủ có thể đóng một vai trò nào đó ở đây để bình thường hóa thực tế rằng quyền truy cập vào thông tin tình báo đã được đào tạo về dữ liệu truy cập công cộng rộng rãi cũng phải là một dạng hàng hóa công cộng hơn là thứ gì đó bị khóa sau các điều khoản dịch vụ hạn chế,” ông nói với TechCrunch khi được hỏi tại sao các phòng thí nghiệm của Mỹ cũng được tự do chưng cất.

Tan, một người đam mê sử dụng AI đến mức từng tự nhận mình mắc chứng rối loạn tâm thần mạng, muốn thấy sự cân bằng giữa các phòng thí nghiệm AI mở và các phòng thí nghiệm biên giới.

Ông nói với CNBC: “Họ đang ở tuyến đầu và thúc đẩy nó tiến về phía trước. Chúng tôi muốn điều đó có thể được cấp vốn và trở thành một mô hình kinh doanh tuyệt vời đang diễn ra”. “Bạn muốn các mẫu xe có trọng lượng mở mang lại cho mọi người sự tự do và khả năng tiếp cận.”

Đối với anh ta, kịch bản diệt vong AI thực sự là tất cả sức mạnh to lớn của AI biên giới sẽ nằm trong tay một nhà cung cấp độc quyền, mạnh mẽ duy nhất. Ông nói: “Kịch bản ác mộng, kịch bản tồi tệ nhất đối với AI là chỉ có một công ty. “Nó có khả năng tiếp cận vốn tốt nhất. Nó có những nhà nghiên cứu AI giỏi nhất. Nó bỏ chạy và đột nhiên có một công ty trở thành nguyên khối. Và điều đó thật tệ.”