Ngành công nghiệp AI có thực sự sẵn sàng chậm lại?

Chúng ta đang chứng kiến ​​một cuộc tranh luận lớn về sự an toàn của AI và khả năng xảy ra tình trạng chậm lại, vì Giám đốc điều hành Anthropic Dario Amodei gần đây đã công bố kế hoạch “tăng tốc vượt biên”, trong khi Giám đốc điều hành Nvidia Jensen Huang đã công khai lặp lại tuyên bố của Tổng thống Donald Trump rằng phản ứng dữ dội của AI là một trò lừa bịp và các quy định là không cần thiết.

Trong tập mới nhất của podcast Equity của TechCrunch, Kirsten Korosec, Sean O’Kane và tôi đã thảo luận xem liệu các giám đốc điều hành như Amodei và Giám đốc điều hành OpenAI Sam Altman có nghiêm túc về việc muốn chậm lại hay không.

Trong khi tôi ngạc nhiên khi biết có bao nhiêu nhà lãnh đạo trong ngành dường như ủng hộ kế hoạch của Amodei, Sean lưu ý rằng kế hoạch này có vẻ thiếu chi tiết.

Và khi Kristen hỏi liệu sự kết hợp giữa quy định hiện hành và hoạt động của thị trường tự do có thể tự cung cấp đủ biện pháp bảo vệ hay không, Sean trả lời: “Hiện tại, chúng tôi có một chính phủ liên bang dường như không muốn thực thi các quy định nói chung, chứ đừng nói đến việc nói cụ thể ở đây.”

Ngoài ra, ông lập luận, “Có vẻ như không có nhiều sự lựa chọn của người tiêu dùng thúc đẩy thị trường này, theo nghĩa là, được thôi, nếu một trong những công ty này làm điều gì đó thực sự tồi tệ, thì họ sẽ thấy tác động đến số lượng đơn hủy hoặc bất cứ điều gì.”

Hãy tiếp tục đọc để xem trước cuộc trò chuyện của chúng tôi, đã được chỉnh sửa để có độ dài và rõ ràng.

Anthony Hà: Sean, cậu nghĩ thế nào? Có phải chúng ta thực sự đang “đi vượt biên giới”?

Sean O’Kane: Vì lý do nào đó, âm thanh đó giống như một điều gì đó trong “Point Break”. Đó chỉ là một tuyên bố rất California, chẳng hạn như, “Chúng tôi sẽ vượt qua biên giới, anh bạn.”

Tôi không biết. Tôi đã nói trong chương trình này vào tuần trước, tôi không nghĩ chúng ta đang hướng tới sự suy thoái dưới bất kỳ hình thức nào, phần lớn là vì tôi không nghĩ các công ty này được cấu trúc theo cách có thể hoạt động được.

Vì vậy, đây là một sự thay đổi khá nhanh so với những gì tôi đã nói một tuần trước, khi nghe điều này từ Dario tại Anthropic và Sam tại OpenAI và thậm chí cả Elon Musk ở một mức độ nhất định – và chúng ta có thể biết liệu chúng ta có tin vào điều đó hay không. Tôi sẽ nói rằng, tôi không nghĩ mình đã hoàn toàn sai, bởi vì ngay cả với những kế hoạch lỏng lẻo mà Dario đã vạch ra trong một bài đăng trên blog và một số nhà lãnh đạo khác đã nói đến, tôi cảm thấy như chúng ta vẫn còn thiếu nhiều thông tin cụ thể ở đây, không chỉ về một số tuyên bố về lý do tại sao những người này nghĩ rằng có những nguy hiểm và rủi ro, mà còn cả thông tin cụ thể về ý nghĩa của việc chậm lại.

Anthony, tôi biết bạn đã đọc nội dung này khá kỹ vào cuối tuần trước vì nó mới xuất hiện, vì vậy tôi tò mò liệu bạn có hào phóng hơn tôi không, trong chừng mực hiểu được họ đang muốn nói gì ở đây.

Anthony: Ý tôi là, tôi cũng có thắc mắc. Điều thực sự nổi bật đối với tôi là thực tế là rất nhiều người trong ngành dường như đoàn kết lại với nhau khá nhanh chóng. Ngay cả trước khi Amodei xuất bản bài đăng trên blog của mình, tôi đã thấy những người khác đăng một số phiên bản của (kế hoạch) này chỉ trong những ngày trước đó.

Tôi hiểu rằng những đề xuất này đến từ cộng đồng an toàn AI; đây là những thứ đã được thấm nhuần trong một thời gian. Chúng không chỉ là những thứ (Amodei) tự mình nghĩ ra. Nhưng có vẻ như nhiều người đã sẵn sàng chấp nhận điều này và theo một cách nào đó, thật đáng khích lệ khi thấy rằng có sự đồng thuận. Nhưng nó cũng khiến tôi hơi nghi ngờ rằng đây có phải là những bước đi thực sự, quan trọng hướng tới sự suy thoái hay không.

Kirsten Korosec: Trước hết, sự đồng thuận có thể là một điều tốt. Ngoài ra, nó có thể là sự khởi đầu của việc hình thành một cartel. Và vì vậy, hãy làm rõ (về) chúng ta đang nói đến ai ở đây. Chúng ta đang nói về các phòng thí nghiệm AI tiên tiến. và điều đó cụ thể và quan trọng.

Cách đây một phút bạn đã nói rằng các chi tiết chưa thực sự rõ ràng, nhưng chúng tôi biết rằng ý tưởng chung ở đây là các nhà đánh giá bên thứ ba độc lập sẽ đến làm việc bên trong (các công ty) như Anthropic hoặc OpenAI và giám sát các hoạt động và sự cố về an toàn AI. Nhưng có rất nhiều điều mơ hồ xung quanh điều đó.

Sau đó, có một đề xuất khác là yêu cầu các công ty AI lớn ở các nước dân chủ phối hợp về các tiêu chuẩn và giới hạn an toàn. Và sau đó là phần phối hợp quốc tế này. Vì vậy, đó là những ý tưởng chung xung quanh vấn đề này.

Tôi cũng sẽ nói thêm rằng đã có những phản hồi rất đáng kể từ những người rất cụ thể. Và thật ngạc nhiên, một số người mà tôi không nghĩ sẽ phản đối việc này. Tôi đoán người rõ ràng nhất sẽ là Giám đốc điều hành Jensen Huang của Nvidia, người đã có một số từ khá chọn lọc. Tôi không biết các bạn nghĩ gì về (…) một số bình luận của anh ấy và lời kêu gọi của anh ấy từ Tổng thống Trump trên sân khấu (tại Hội nghị thượng đỉnh toàn năng)

Sean: Tôi nghĩ Jensen hiểu rằng, ở một mức độ nào đó, anh ấy được coi là người trưởng thành trong căn phòng này. Điều này thật thú vị, bởi vì đó là động lực mà tôi nghĩ đã thay đổi. Nếu bạn hỏi mọi người một năm, gần hai năm trước, ai đang đóng vai trò đó khi các công ty AI này thực sự bắt đầu bùng nổ theo những cách lớn, tôi nghĩ nhiều người sẽ chỉ vào Microsoft và Satya Nadella, và tôi cảm thấy như Microsoft đã – vì một số lý do mà chúng ta không cần phải đề cập ngay bây giờ – đã mất đi khả năng trở thành người lớn trong phòng. Chắc chắn một phần là vì Nadella đã nói rằng anh ấy sẽ khiến Google nhảy múa, và rồi điều đó đã không bao giờ xảy ra. và trên thực tế, điều ngược lại đã xảy ra, theo nhiều cách.

Jensen, tôi nghĩ, không chỉ hiểu rằng anh ấy cần phải làm hài lòng nhiều người nhất và vì vậy anh ấy muốn nói những điều có chừng mực nhất, anh ấy còn là một trong những người liên lạc hữu ích nhất giữa lĩnh vực này và chính quyền này, đến mức anh ấy nhận được cuộc gọi từ tổng thống khi anh ấy đang ở trên sân khấu tại hội nghị cấp cao và có rất đông người tham dự và cho phép cả hai người cùng ứng phó với tất cả mớ hỗn độn này.

Kirsten: (Theo) quan điểm của bạn về việc anh ấy là người lớn trong phòng và là người liên lạc, anh ấy ở vị trí có thể làm điều đó. Nhưng theo quan điểm của tôi, tôi sẽ nói rằng (sự xuất hiện của anh ấy), có vẻ hơi dàn dựng, đã đi một bước quá xa và thực sự nêu bật thực tế rằng Nvidia được hưởng lợi rất nhiều từ việc AI tiến lên một cách không theo nhịp độ.

Tôi ghét phải hoài nghi về điều đó, nhưng đó là phản ứng ban đầu của tôi đối với nó.

Anthony: Lợi ích của Trump và Huang phù hợp với nhau, đồng thời (Huang) cũng đang nói với (Trump) những gì anh ấy muốn nghe.

Tôi thực sự nghĩ rằng một số điều anh ấy đặc biệt tập trung vào đáng để giải thích một chút. Đầu tiên anh ấy nói về ý tưởng này, “Chúng ta sẽ không có sự suy thoái.” Thật thú vị, chỉ cụm từ “chậm lại” đã xuất hiện rất nhiều – nhưng đồng thời, cả Altman và Amade (sẽ) sử dụng ngôn ngữ làm chậm lại, nhưng từ họ thích sử dụng hơn là “tốc độ”. Phải?

Và ba đề xuất này – những đề xuất mà bạn vừa mô tả, Kirsten – về mặt lý thuyết, chúng có thể khiến mọi thứ chậm lại, nhưng chúng không nói điều đó một cách rõ ràng. Nó nói, “Này, chúng tôi đang thực hiện một số biện pháp an toàn cơ bản và nhờ một số người để mắt đến chúng tôi.” Nhưng về bản chất, không có điều nào trong số đó nói lên rằng mọi thứ phải diễn ra chậm hơn hiện tại, ít nhất là theo tôi hiểu.

Kirsten: Vì vậy tôi có một câu hỏi dành cho Sean. Bạn không thể tranh luận trong một xã hội thị trường tự do, chúng ta có các quy định hiện hành và cả (trong) môi trường cạnh tranh không có chủ nghĩa bảo hộ, nếu có điều gì đó không an toàn do một công ty đưa ra, thì họ sẽ không còn có thể trở thành một công ty khả thi? Và hiện nay có cơ quan quản lý nào có thể theo đuổi những công ty này không? Hay bạn bác bỏ ý tưởng đó?

Sean: Trong chân không, hoặc trong một thị trường không bị bóp méo bởi nhiều áp lực bên ngoài khác nhau, vâng, tôi nghĩ có một yếu tố của điều đó. Nhưng hiện tại, chúng ta có một chính phủ liên bang dường như không sẵn sàng thực thi các quy định nói chung, chứ chưa nói đến việc nói cụ thể ở đây.

Và chúng ta cũng đang ở trong tình huống kỳ lạ này – tôi thực sự không biết phải diễn đạt như thế nào cho đúng, nhưng có vẻ như không có nhiều sự lựa chọn của người tiêu dùng thúc đẩy thị trường này, theo nghĩa là, được thôi, nếu một trong những công ty này làm điều gì đó thực sự tồi tệ, thì họ sẽ thấy tác động đến số lượng đơn hủy hoặc bất cứ điều gì.

Đặc biệt là hiện nay, khi họ đã chuyển sang kinh doanh và kiếm được nhiều tiền hơn từ việc bán dịch vụ của mình cho các công ty, việc bỏ phiếu bằng tiền của bạn ở đó đương nhiên sẽ khó khăn hơn. Các tập đoàn sẽ không đóng gói và chuyển từ Codex (của OpenAI) sang Mã Claude (của Anthropic) chỉ vì về nguyên tắc họ không đồng ý với điều mà OpenAI đã làm.

Và sau đó, họ cũng đang bị trôi nổi bởi quá nhiều tiền đầu tư đến nỗi điều đó khiến họ dễ dàng hấp thụ bất kỳ khoản lỗ nào nếu họ thực sự phải đối mặt với chúng. Vì vậy, tôi nghĩ đó là một ý tưởng hay về mặt lý thuyết, nhưng tôi cảm thấy như trên thực tế, điều đó thực sự không xảy ra.