Cái bẫy Anthropic tự tạo cho mình

Chiều thứ Sáu, ngay khi cuộc phỏng vấn này đang diễn ra, một thông báo hiện lên trên màn hình máy tính của tôi: chính quyền Trump đang cắt đứt quan hệ với Anthropic, công ty AI ở San Francisco được thành lập vào năm 2021 bởi Dario Amodei và các cựu nhà nghiên cứu OpenAI khác, những người đã bỏ qua những lo ngại về an toàn. Bộ trưởng Quốc phòng Pete Hegseth đã viện dẫn luật an ninh quốc gia – luật được thiết kế để chống lại các mối đe dọa chuỗi cung ứng nước ngoài – để đưa công ty vào danh sách đen không được hợp tác kinh doanh với Lầu Năm Góc sau khi Amodei từ chối cho phép sử dụng công nghệ của Anthropic để giám sát hàng loạt công dân Hoa Kỳ hoặc cho máy bay không người lái có vũ trang tự động có thể chọn và tiêu diệt mục tiêu mà không cần sự can thiệp của con người.

Đó là một trình tự đáng kinh ngạc. Anthropic hiện có nguy cơ mất hợp đồng trị giá lên tới 200 triệu USD, cũng như bị cấm làm việc với các nhà thầu quốc phòng khác sau khi Tổng thống Trump đăng trên Truth Social chỉ đạo mọi cơ quan liên bang “ngay lập tức ngừng mọi hoạt động sử dụng công nghệ Anthropic”. (Anthropic kể từ đó cho biết họ sẽ thách thức Lầu Năm Góc trước tòa, gọi việc chỉ định rủi ro chuỗi cung ứng là không có căn cứ về mặt pháp lý và “trước đây chưa bao giờ được áp dụng công khai cho một công ty Mỹ.”)

Max Tegmark đã dành phần lớn thập kỷ để cảnh báo rằng cuộc đua xây dựng các hệ thống AI ngày càng mạnh mẽ đang vượt xa khả năng quản lý chúng của thế giới. Nhà vật lý và giáo sư người Mỹ gốc Thụy Điển tại MIT đã thành lập Viện Tương lai Cuộc sống vào năm 2014. Năm 2023, ông nổi tiếng đã giúp tổ chức một bức thư ngỏ – cuối cùng được hơn 33.000 người ký tên, bao gồm cả Elon Musk – kêu gọi tạm dừng phát triển AI tiên tiến.

Quan điểm của ông về cuộc khủng hoảng Nhân loại là không khoan nhượng: công ty, giống như các đối thủ của mình, đã gieo mầm mống cho tình trạng khó khăn của chính mình. Lập luận của Tegmark không bắt đầu từ Lầu Năm Góc mà từ một quyết định được đưa ra nhiều năm trước đó – một lựa chọn được chia sẻ trên toàn ngành để chống lại quy định ràng buộc. Anthropic, OpenAI, Google DeepMind và những công ty khác từ lâu đã hứa sẽ quản lý bản thân một cách có trách nhiệm. Đầu tuần này, Anthropic thậm chí còn bỏ nguyên lý trung tâm trong cam kết an toàn của chính mình – lời hứa sẽ không phát hành các hệ thống AI ngày càng mạnh mẽ cho đến khi công ty tin chắc rằng chúng sẽ không gây hại.

Tegmark cho biết hiện nay, do không có quy định nên không có nhiều biện pháp để bảo vệ những người chơi này. Đây là thông tin thêm từ cuộc phỏng vấn đó, đã được chỉnh sửa để có độ dài và rõ ràng. Bạn có thể nghe toàn bộ cuộc trò chuyện vào tuần tới trên podcast Tải xuống StrictlyVC của TechCrunch.

Khi bạn nhìn thấy tin tức này về Anthropic, phản ứng đầu tiên của bạn là gì?

Con đường đến địa ngục được lát bằng những ý định tốt. Thật thú vị khi nghĩ lại một thập kỷ trước, khi mọi người rất hào hứng về việc chúng ta sẽ tạo ra trí tuệ nhân tạo để chữa bệnh ung thư, để phát triển sự thịnh vượng ở Mỹ và làm cho nước Mỹ hùng mạnh. Và giờ chúng ta đang ở đây, chính phủ Hoa Kỳ đang tức giận với công ty này vì không muốn sử dụng AI để giám sát hàng loạt người Mỹ trong nước và cũng không muốn có những robot sát thủ có thể tự chủ – mà không cần bất kỳ sự can thiệp nào của con người – quyết định ai sẽ bị giết.

Anthropic đã đặt toàn bộ danh tính của mình vào việc trở thành một công ty AI đặt an toàn lên hàng đầu, tuy nhiên họ vẫn hợp tác với các cơ quan quốc phòng và tình báo (ít nhất là từ năm 2024). Bạn có nghĩ điều đó hoàn toàn mâu thuẫn không?

Nó mâu thuẫn. Nếu tôi có thể đưa ra một chút hoài nghi về điều này – vâng, Anthropic đã rất giỏi trong việc tiếp thị bản thân về vấn đề an toàn. Nhưng nếu bạn thực sự nhìn vào sự thật hơn là những tuyên bố, bạn sẽ thấy Anthropic, OpenAI, Google DeepMind và xAI đều đã nói rất nhiều về cách họ quan tâm đến sự an toàn. Không ai trong số họ ủng hộ quy định ràng buộc về an toàn như cách chúng tôi làm trong các ngành khác. Và cả 4 công ty này hiện đã thất hứa với chính mình. Đầu tiên chúng tôi có Google — khẩu hiệu lớn này, ‘Đừng trở nên xấu xa’. Sau đó họ bỏ nó đi. Sau đó, họ bỏ một cam kết khác dài hơn mà về cơ bản là họ hứa sẽ không gây hại cho AI. Họ bỏ nó để có thể bán AI cho mục đích giám sát và vũ khí. OpenAI vừa bỏ từ an toàn ra khỏi tuyên bố sứ mệnh của họ. xAI đã đóng cửa toàn bộ đội an toàn của họ. Và bây giờ Anthropic, vào đầu tuần, đã bỏ cam kết an toàn quan trọng nhất của họ – lời hứa không phát hành các hệ thống AI mạnh mẽ cho đến khi họ chắc chắn rằng chúng sẽ không gây hại.

Làm thế nào mà các công ty đưa ra những cam kết an toàn nổi bật như vậy lại rơi vào vị trí này?

Tất cả các công ty này, đặc biệt là OpenAI và Google DeepMind, nhưng ở một mức độ nào đó, cả Anthropic, đã kiên trì vận động chống lại các quy định về AI, nói rằng, ‘Hãy tin tưởng chúng tôi, chúng tôi sẽ tự điều chỉnh.’ Và họ đã vận động thành công. Vì vậy, hiện tại chúng ta có ít quy định hơn về hệ thống AI ở Mỹ so với bánh mì sandwich. Bạn biết đấy, nếu bạn muốn mở một cửa hàng bánh sandwich và thanh tra y tế tìm thấy 15 con chuột trong bếp, ông ấy sẽ không cho bạn bán bất kỳ chiếc bánh mì nào cho đến khi bạn sửa được nó. Nhưng nếu bạn nói, ‘Đừng lo, tôi sẽ không bán bánh sandwich, tôi sẽ bán bạn gái AI cho những đứa trẻ 11 tuổi, và chúng có liên quan đến các vụ tự tử trong quá khứ, và sau đó tôi sẽ công bố thứ gọi là siêu trí tuệ có thể lật đổ chính phủ Hoa Kỳ, nhưng tôi có cảm giác tốt về chính mình’ – thanh tra phải nói, ‘Được rồi, cứ tiếp tục, đừng bán bánh mì.’

Có quy định về an toàn thực phẩm và không có quy định về AI.

Và tôi cảm thấy tất cả các công ty này thực sự có chung trách nhiệm về điều này. Bởi vì nếu họ thực hiện tất cả những lời hứa mà họ đã đưa ra ngày trước về việc họ sẽ trở nên an toàn và tốt đẹp như thế nào, rồi đoàn kết lại, rồi đến gặp chính phủ và nói, ‘Xin hãy thực hiện những cam kết tự nguyện của chúng tôi và biến chúng thành luật Hoa Kỳ ràng buộc ngay cả những đối thủ cạnh tranh cẩu thả nhất của chúng tôi’ – thay vào đó, điều này đã xảy ra. Chúng ta đang ở trong tình trạng hoàn toàn trống rỗng về quy định. Và chúng ta biết điều gì sẽ xảy ra khi có một lệnh ân xá hoàn toàn dành cho công ty: bạn nhận được thalidomide, bạn thấy các công ty thuốc lá quảng cáo thuốc lá cho trẻ em, bạn nhận được amiăng gây ung thư phổi. Vì vậy, thật trớ trêu khi sự phản đối của chính họ đối với việc ban hành luật quy định điều gì được và không được làm với AI giờ lại quay trở lại và gây khó chịu cho họ.

Hiện tại không có luật nào cấm xây dựng AI để giết người Mỹ, vì vậy chính phủ có thể bất ngờ yêu cầu điều đó. Nếu bản thân các công ty sớm hơn ra mặt và nói: ‘Chúng tôi muốn luật này’, thì họ đã không gặp khó khăn này. Họ thực sự đã tự bắn vào chân mình.

Lập luận phản bác của các công ty luôn là cuộc chạy đua với Trung Quốc – nếu các công ty Mỹ không làm điều này thì Bắc Kinh sẽ làm. Lập luận đó có giữ được không?

Hãy phân tích điều đó. Điểm thảo luận phổ biến nhất từ ​​các nhà vận động hành lang cho các công ty AI – giờ đây họ được tài trợ tốt hơn và đông đảo hơn các nhà vận động hành lang từ ngành nhiên liệu hóa thạch, ngành dược phẩm và tổ hợp công nghiệp-quân sự cộng lại – là bất cứ khi nào có ai đề xuất bất kỳ loại quy định nào, họ sẽ nói, ‘Nhưng Trung Quốc.’ Vì vậy chúng ta hãy nhìn vào đó. Trung Quốc đang trong quá trình cấm hoàn toàn bạn gái AI. Không chỉ giới hạn độ tuổi – họ đang xem xét cấm tất cả AI nhân hình. Tại sao? Không phải vì họ muốn làm hài lòng nước Mỹ mà vì họ cảm thấy điều này đang làm hư hỏng giới trẻ Trung Quốc và khiến Trung Quốc trở nên yếu đi. Rõ ràng, nó cũng đang làm cho giới trẻ Mỹ yếu đi.

Và khi mọi người nói rằng chúng ta phải chạy đua xây dựng siêu trí tuệ để có thể giành chiến thắng trước Trung Quốc – khi chúng ta thực sự không biết cách kiểm soát siêu trí tuệ, để rồi kết quả mặc định là loài người mất quyền kiểm soát Trái đất vào tay những cỗ máy ngoài hành tinh – hãy đoán xem? Đảng Cộng sản Trung Quốc thực sự thích kiểm soát. Ai tỉnh táo lại nghĩ rằng Tập Cận Bình sẽ dung túng cho một số công ty AI Trung Quốc xây dựng thứ gì đó có thể lật đổ chính phủ Trung Quốc? Không đời nào. Rõ ràng là điều đó cũng thực sự tồi tệ đối với chính phủ Mỹ nếu nó bị lật đổ trong một cuộc đảo chính bởi công ty đầu tiên của Mỹ xây dựng siêu trí tuệ. Đây là mối đe dọa an ninh quốc gia.

Đó là cách trình bày hấp dẫn – siêu trí tuệ là mối đe dọa an ninh quốc gia, không phải là tài sản. Bạn có thấy quan điểm đó thu hút được sự chú ý ở Washington không?

Tôi nghĩ nếu mọi người trong cộng đồng an ninh quốc gia nghe Dario Amodei mô tả tầm nhìn của anh ấy — anh ấy đã có một bài phát biểu nổi tiếng trong đó nói rằng chúng ta sẽ sớm có một đất nước của những thiên tài trong một trung tâm dữ liệu — thì họ có thể bắt đầu nghĩ: chờ đã, có phải Dario vừa dùng từ ‘đất nước’ không? Có lẽ tôi nên đưa đất nước của những thiên tài đó vào trung tâm dữ liệu vào cùng danh sách mối đe dọa mà tôi đang theo dõi, vì điều đó nghe có vẻ đe dọa đối với chính phủ Hoa Kỳ. Và tôi nghĩ không lâu nữa, sẽ có đủ người trong cộng đồng an ninh quốc gia Hoa Kỳ nhận ra rằng siêu trí tuệ không thể kiểm soát là một mối đe dọa chứ không phải một công cụ. Điều này hoàn toàn giống với Chiến tranh Lạnh. Có một cuộc chạy đua giành quyền thống trị – kinh tế và quân sự – chống lại Liên Xô. Người Mỹ chúng ta đã thắng cuộc đó mà không cần tham gia vào cuộc đua thứ hai, đó là xem ai có thể đặt nhiều hố hạt nhân nhất vào siêu cường kia. Mọi người nhận ra đó chỉ là tự sát. Không ai thắng. Logic tương tự được áp dụng ở đây.

Tất cả những điều này có ý nghĩa gì đối với tốc độ phát triển AI rộng rãi hơn? Bạn nghĩ chúng tôi gần với hệ thống bạn đang mô tả đến mức nào?

Sáu năm trước, hầu hết mọi chuyên gia về AI mà tôi biết đều dự đoán rằng chúng ta phải mất hàng thập kỷ nữa mới có AI có thể nắm vững ngôn ngữ và kiến ​​thức ở cấp độ con người – có thể là năm 2040, có thể là năm 2050. Tất cả họ đều sai, bởi vì chúng ta đã có điều đó ngay bây giờ. Chúng tôi đã thấy AI tiến bộ khá nhanh từ cấp trung học đến cấp đại học, cấp tiến sĩ đến cấp giáo sư đại học ở một số lĩnh vực. Năm ngoái, AI đã giành huy chương vàng tại Olympic Toán học Quốc tế, một cuộc thi cũng khó như nhiệm vụ của con người. Tôi đã viết một bài báo cùng với Yoshua Bengio, Dan Hendrycks và các nhà nghiên cứu AI hàng đầu khác chỉ vài tháng trước để đưa ra một định nghĩa nghiêm ngặt về AGI. Theo đó, GPT-4 đã đi được 27% chặng đường. GPT-5 đã đi được 57% chặng đường. Vì vậy, chúng tôi vẫn chưa đạt được mục tiêu đó, nhưng việc tăng từ 27% lên 57% cho thấy có thể không lâu đến thế.

Khi tôi giảng cho sinh viên của mình ngày hôm qua ở MIT, tôi đã nói với họ rằng ngay cả khi phải mất bốn năm, điều đó có nghĩa là khi họ tốt nghiệp, họ có thể không kiếm được việc làm nào nữa. Chắc chắn không còn quá sớm để bắt đầu chuẩn bị cho nó.

Anthropic hiện nằm trong danh sách đen. Tôi tò mò muốn xem điều gì sẽ xảy ra tiếp theo – liệu những gã khổng lồ AI khác có đứng về phía họ và nói rằng chúng tôi cũng sẽ không làm điều này không? Hay ai đó như xAI giơ tay và nói, Anthropic không muốn hợp đồng đó, chúng tôi sẽ nhận nó? (Ghi chú của biên tập viên: Vài giờ sau cuộc phỏng vấn, OpenAI đã công bố thỏa thuận riêng của mình với Lầu Năm Góc.)

Đêm qua, Sam Altman đã bước ra và nói rằng anh ấy đứng về phía Anthropic và có cùng ranh giới đỏ. Tôi khâm phục anh ấy vì đã dũng cảm nói ra điều đó. Google, kể từ khi chúng tôi bắt đầu cuộc phỏng vấn này, vẫn chưa nói gì. Nếu họ chỉ im lặng, tôi nghĩ điều đó thật đáng xấu hổ đối với họ với tư cách là một công ty và rất nhiều nhân viên của họ cũng sẽ cảm thấy như vậy. Chúng tôi cũng chưa nhận được thông tin gì từ xAI. Vì vậy, sẽ rất thú vị để xem. Về cơ bản, đây là thời điểm mà mọi người phải thể hiện bản chất thật của mình.

Có phiên bản nào cho kết quả thực sự tốt không?

Đúng, và đây là lý do tại sao tôi thực sự lạc quan một cách kỳ lạ. Có một sự thay thế rõ ràng ở đây. Nếu chúng ta bắt đầu đối xử với các công ty AI giống như bất kỳ công ty nào khác – bỏ lệnh ân xá của công ty – rõ ràng họ sẽ phải làm điều gì đó giống như thử nghiệm lâm sàng trước khi tung ra thứ gì đó mạnh mẽ như vậy và chứng minh cho các chuyên gia độc lập rằng họ biết cách kiểm soát nó. Sau đó, chúng ta sẽ có một thời kỳ hoàng kim với tất cả những điều tốt đẹp từ AI mà không còn nỗi lo lắng hiện hữu. Đó không phải là con đường chúng ta đang đi hiện nay. Nhưng nó có thể như vậy.