Anthropic gần đây đã ngừng hoạt động hai mô hình AI mới nhất của mình do lệnh kiểm soát xuất khẩu từ chính quyền Trump, gây ra các cuộc tranh luận rộng rãi về chính sách AI và chủ quyền kỹ thuật số.
Trong tập mới nhất của podcast Equity của TechCrunch, Sean O’Kane, Rebecca Bellan và tôi đã thảo luận về điều gì thực sự đã thúc đẩy các động thái của chính quyền chống lại Anthropic và điều này có thể có ý nghĩa gì đối với hệ sinh thái AI rộng lớn hơn.
Như Sean đã nói, “Anthropic chưa có mối quan hệ tốt nhất với chính quyền Trump theo cách khác biệt so với các phòng thí nghiệm AI hàng đầu khác,” vì vậy có lẽ các đối thủ khác của Anthropic không cần phải lo lắng về một cuộc đàn áp tương tự.
Nhưng Rebecca cũng lưu ý rằng các chuyên gia an ninh mạng hàng đầu đã “ký một bức thư ngỏ yêu cầu Trump thu hồi lệnh và họ nói rằng việc phải rút các khả năng an ninh mạng tiên tiến này khỏi các nhà bảo vệ mạng ở Mỹ thực sự nguy hiểm”
Và chúng tôi tự hỏi liệu điều này có thể trở thành sự quảng bá tốt cho Anthropic hay không, đặc biệt là vì – theo cách nói của Rebecca – “mọi người đều yêu thích một cậu bé hư”.
Hãy tiếp tục đọc để xem trước cuộc trò chuyện của chúng tôi, đã được chỉnh sửa để có độ dài và rõ ràng.
Rebecca Bellan: Như tôi chắc rằng nhiều thính giả của chúng tôi đã biết, về cơ bản, chính phủ Hoa Kỳ chỉ buộc Anthropic ngừng hoạt động hai mẫu mới nhất của họ – Fable 5, và sau đó còn có Mythos 5, mẫu dành cho người dùng Mythos hiện tại, (trong khi) Fable 5 được công chúng biết đến nhiều hơn.
Họ đã gửi một lá thư (cuối cùng) vào thứ Sáu với lý do “những lo ngại về an ninh quốc gia”. Không ai biết những lo lắng đó là gì. Báo cáo đó chưa được công bố, họ không đưa ra thông tin cụ thể và nói với (Anthropic) rằng họ phải đảm bảo rằng những mô hình đó không được sử dụng bởi bất kỳ công dân nước ngoài nào. Vì vậy, Anthropic đã nói, “Được rồi, tôi đoán chúng ta phải loại bỏ hoàn toàn các mô hình, bởi vì chúng tôi không biết khi nào ai đó là người nước ngoài. Rất nhiều nhân viên của chúng tôi là người nước ngoài.”
Nhưng thực sự, (các báo cáo cho biết) Nhà Trắng đã biết được điều này vì một số nhà nghiên cứu của Amazon được cho là đã tìm ra cách vượt qua hàng rào bảo vệ của Fable 5. Giám đốc điều hành Amazon Andy Jassy đã nêu ra những lo ngại này với Nhà Trắng và mọi chuyện cứ thế diễn biến theo chiều hướng xoắn ốc từ đó.
Sean O’Kane: Tất cả điều này diễn ra rất nhanh, đặc biệt là từ chiều thứ Sáu đến cuối tuần. Và cùng lúc đó, chính quyền dường như đang cố gắng đàm phán một loại hiệp ước nào đó cho cuộc chiến mà họ đã bắt đầu ở Iran.
Rebecca: Tối thứ sáu cho chúng tôi ở New York. Họ thích sự xao lãng.
Sean: Chúng ta hãy lùi lại một chút. Anthropic đã không có mối quan hệ tốt nhất với chính quyền Trump theo cách khác biệt so với các phòng thí nghiệm AI hàng đầu khác – tôi nghĩ ít nhất có một yếu tố nào đó đang diễn ra ở đây.
Vậy bạn có nghĩ rằng điều này sẽ có ý nghĩa đối với những công ty khác không? Bạn có nghĩ rằng chính quyền Trump sẽ ít có xu hướng tắt vòi đối với một trong những đối thủ cạnh tranh đó không?
Anthony Hà: Một phần bối cảnh ở đây là cả báo cáo và phân tích từ các chuyên gia bảo mật độc lập đều cho thấy rằng rủi ro bảo mật thực tế từ Anthropic không phải là duy nhất. Vì vậy, phần lớn điều này dường như xuất phát từ các bộ phận trong chính quyền Trump và Anthropic chỉ (không hòa hợp) lắm. Dù có rủi ro gì đi chăng nữa, những điều đó sẽ bùng nổ không cân xứng chỉ vì có vẻ như họ không thể gọi điện thoại dân sự với nhau.
Nếu bạn là một công ty khác — một mặt, điều đó có thể có lợi cho bạn, vì bạn có thể nói, “Chà, chúng tôi không khiến những người này nổi giận với mình và chúng tôi có thể làm những gì mình muốn.” Nhưng đó cũng không phải là bối cảnh pháp lý tuyệt vời để chỉ (nói), “Cậu bé, tôi hy vọng họ không nổi giận với chúng ta.”
Rebecca: Một mặt, nó chắc chắn mang lại cảm giác trả đũa – sau khi chính phủ coi Anthropic là rủi ro trong chuỗi cung ứng, có một vụ kiện lớn đang diễn ra giữa họ, thực sự có cảm giác như Nhà Trắng chỉ đang tìm mọi lý do để dồn ép Anthropic. Và tôi cảm thấy như vậy không chỉ vì đó là phản ứng ban đầu của tôi mà còn vì những gì nhiều nhà nghiên cứu an ninh mạng đã nói. Họ nói rằng điều này lẽ ra không bao giờ kích hoạt biện pháp kiểm soát xuất khẩu (đơn hàng). Tất cả họ đều đã ký một bức thư ngỏ để yêu cầu Trump thu hồi lệnh và họ nói rằng thực sự nguy hiểm khi phải rút các khả năng an ninh mạng tiên tiến này khỏi các nhà bảo vệ mạng ở Hoa Kỳ. Bản thân Anthropic cho biết một số bản bẻ khóa tương tự có thể đã được tìm thấy trong một số mô hình AI khác.
Một cách hoài nghi, nó giống như: Được rồi, bạn chỉ đang tạm dừng Anthropic để những người khác có thể bắt kịp vị trí của Anthropic phải không?
Nhưng đồng thời, tôi cũng thấy những phản ứng (nói): Kiểu nhân loại sắp xảy ra chuyện này. Họ nói, “Cái này quá nguy hiểm cho bất cứ ai sử dụng, nhưng không phải chúng tôi, chúng tôi là những người tốt.” Họ đang nói bằng cả hai bên miệng. Một tuần trước khi Fable ra mắt, họ đã (nói), “Này, chúng ta cần làm chậm AI lại, các bạn. Nó đang trở nên thực sự nguy hiểm.” Nhưng sau đó bùng nổ, “Đây là mô hình siêu mạnh mẽ và điên rồ nhất từ trước đến nay của chúng tôi, nổ tung đi.”
Anthony: Ở một khía cạnh nào đó, điều này giống như một mô hình thu nhỏ của rất nhiều cuộc thảo luận xung quanh AI, nơi những người như Sam Altman và Jensen Huang đang (nói), “Này, chúng ta hãy thử giảm nhiệt độ xuống. Tại sao mọi người lại nổi giận với chúng ta?” Chà, về cơ bản, bạn đã dành vài năm qua để nói rằng bạn đã chế tạo ra cỗ máy của Chúa này và nó sẽ lấy đi công việc của mọi người. Không hẳn là một cú sốc khi mọi người không cảm thấy hài lòng về điều này.
Và có điều gì đó về cách Anthropic nói riêng về Mythos, khi họ nói, “Đây là mô hình cực kỳ mạnh mẽ từ trước đến nay, quá nguy hiểm khi phát hành ra công chúng.” Và ở một mức độ nào đó, (bạn nói), “Được rồi, hãy nói rằng chúng ta xem xét vấn đề đó một cách nghiêm túc. Điều đó có nghĩa là sẽ có một mức độ xem xét kỹ lưỡng đáng kinh ngạc xung quanh nó.”
Và tôi thực sự thắc mắc – có vẻ như Anthropic không hài lòng về điều này. Tôi muốn cẩn thận về việc không phóng đại việc điều này có thể mang lại lợi ích cho họ như thế nào. Nhưng chúng tôi cũng đăng một số câu chuyện về phân tích Ramp để nhấn mạnh thực tế rằng vụ nổ lớn gần đây nhất giữa Anthropic và chính quyền Trump là tốt cho công ty, ít nhất theo một cách nào đó. Số lượt tải xuống của Claude tăng vọt. Tôi nghĩ nhiều người có thể đã nghĩ ChatGPT là cái trò chuyện, cái Trợ lý AI trước đây đột nhiên họ nhìn Claude có lẽ là người có trách nhiệm hơn, người “chống cự” hơn.
Và theo cách tương tự, (trong khi) Anthropic rất căng thẳng về điều này, thì điều này một lần nữa có thể khiến các mô hình của họ dường như thậm chí còn mạnh mẽ hơn.
Rebecca: Chắc chắn. “Chúng ta quá nguy hiểm.” Mọi người đều thích một cậu bé hư, phải không? Mọi người đều nói, “Đó là mô hình mạnh mẽ nhất, ngay cả Trump cũng nói như vậy. Tất nhiên, tôi phải chạm tay vào nó.”
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.