Đối thủ nhân loại cho biết các công ty có thể (hầu hết) bỏ qua các mẫu đắt tiền

Cùng ngày Anthropic ra mắt công chúng trong đợt IPO lớn nhất được ghi nhận, với sự nhiệt tình của nhà đầu tư dành cho phòng thí nghiệm AI xuyên suốt mái nhà, tại hội nghị khởi nghiệp Slush ở Helsinki, chủ đề du jour là mọi thứ đều có nguồn mở.

Đó là cơ hội to lớn đang được các công ty như Fireworks AI theo đuổi, khi các doanh nghiệp tìm cách tránh phải trả giá cao cho nhu cầu AI của họ.

Fireworks chạy mô hình AI cho các doanh nghiệp khác Nó chuyên về các mô hình trọng lượng mở mà bất kỳ ai cũng có thể tải xuống và giúp khách hàng điều chỉnh chúng trên dữ liệu của riêng họ để chúng chạy nhanh hơn và rẻ hơn so với các mô hình của Anthropic, OpenAI và các đối thủ nặng ký khác, đồng thời khó bị đối thủ sao chép hơn. Khách hàng đã bao gồm Uber, Shopify và Notion. Người đồng sáng lập Chenyu Zhao và tôi đã nói chuyện trên sân khấu vào cuối ngày.

Zhao và nhiều người khác tin rằng các công ty đang hướng tới các nền tảng như của anh ấy vì các mô hình biên giới rất đắt tiền và, theo anh, trong hầu hết các trường hợp, là không cần thiết trừ khi bạn cần thông tin tổng quát mới nhất và tốt nhất. Ngày càng có nhiều lo ngại rằng các phòng thí nghiệm tiên phong tiếp thu quá nhiều bí quyết của khách hàng, ngay cả khi chỉ thông qua những lời nhắc được sử dụng để nhận được câu trả lời, CEO Satya Nadella của Microsoft đã nêu lên mối lo ngại vào tháng 7.

Pháo hoa cũng đã bị mắt đen đầu tiên sau khi tiết lộ hai sự cố an ninh vào mùa thu này. Trong một lần, tin tặc đã tiếp cận các khóa API và mã thông báo được lưu trữ dưới dạng bí mật cho một số tài khoản hạn chế; mặt khác, những kẻ tấn công đã xâm nhập vào nhà cung cấp đám mây của họ, xâm nhập vào hệ thống phát triển và lấy dữ liệu khách hàng, bao gồm hồ sơ thanh toán và một số bộ dữ liệu.

Notion cho biết bản ghi cuộc trò chuyện AI từ ít hơn 1% không gian làm việc của nó đã bị lộ nhưng nó đã ngắt kết nối với Fireworks. Uber cho biết tin tặc đã đánh cắp tên, địa chỉ, ngày sinh và số giấy phép lái xe của khoảng 150.000 tài xế thông qua một nhà cung cấp mà TechCrunch xác định là Fireworks. Pháo hoa sẽ phải lấy lại niềm tin của những khách hàng như họ.

Fireworks, được các nhà đầu tư ấn định mức định giá 17,5 tỷ USD vào mùa hè, được cho là đang trong “các cuộc đàm phán sớm” cho một vòng nữa, mặc dù Zhao từ chối bình luận.

Có vẻ như tiền đang đuổi theo mọi người trong danh mục này. Các công ty đối thủ Together AI và Baseten đã công bố các vòng gọi vốn lớn trong những tháng gần đây. Vào thứ Tư, Palo Alto Networks cho biết họ sẽ mua Ứng dụng Điện toán, giống như Pháo hoa, giúp các công ty đào tạo và chạy các mô hình AI tùy chỉnh trên dữ liệu của riêng họ. Thỏa thuận dành cho công ty khởi nghiệp này, được các cựu nhà nghiên cứu OpenAI thành lập chỉ một năm trước, trị giá 4,5 tỷ USD, tất cả đều có sẵn trong kho.

Đây là một số điều Zhao đã nói. Cuộc trò chuyện này đã được chỉnh sửa để có độ dài và rõ ràng.

Bạn đã dành một thập kỷ tại Google, bao gồm việc quản lý nhóm kỹ sư gồm 50 người trên Google Cloud Vertex AI. Tại sao lại rời đi khi bạn đã làm vậy?

Khi bạn gặp những người đồng sáng lập tuyệt vời, trong vòng năm phút bạn có thể thấy rõ họ thực sự thông minh. Tôi đã bị bán sau khi nói chuyện với Lin (Qiao) và Dima (Dzhulgkov). Điều quan trọng nữa là tìm được những người thực sự tử tế, những người mà bạn sẽ thích làm việc cùng.

Bạn mô tả Pháo hoa như thế nào cho một CEO chưa từng nghe đến nó?

Tôi mô tả Fireworks như một nền tảng tình báo chuyên dụng. OpenAI và Anthropic đang xây dựng trí thông minh chung. Chúng tôi sử dụng các mô hình mở, thường nhỏ hơn, rẻ hơn và nhanh hơn, đồng thời cho phép các công ty thêm dữ liệu của riêng họ để chuyên môn hóa chúng. Bằng cách đó, bạn sở hữu AI của mình thay vì bị phụ thuộc vào các tập đoàn AI khổng lồ. Nếu bạn chỉ sử dụng Opus hoặc Sonnet thì đó không phải là điểm khác biệt.

Các mô hình mở hiện đang ở phía sau bao xa?

Cách đây vài năm tôi đã nói là một năm, một năm rưỡi. Sau đó là DeepSeek và một loạt các mô hình mở tuyệt vời. Ngày nay chậm nhất là sáu tháng, có lẽ là gần ba tháng.

Nếu mô hình bám sát nhau như vậy thì tại sao doanh nghiệp lại chậm chuyển đổi?

Các mô hình tiên phong là một thương hiệu gia đình và trước khi bạn tìm thấy sản phẩm phù hợp với thị trường, việc sử dụng mô hình tốt nhất sẽ có rủi ro thấp. Nhưng một khi bạn đã vượt qua 10.000 hoặc 100.000 người dùng và bạn đang chi từ 10.000 đến 100.000 USD mỗi tháng cho các token thì đã đến lúc nghĩ đến nguồn mở.

Vào tháng 7, Giám đốc điều hành Microsoft Satya Nadella đã cảnh báo rằng các công ty sử dụng mô hình AI độc quyền phải trả hai lần, một lần bằng tiền và một lần bằng bí quyết. Bạn có nghĩ rằng lời cảnh báo đó có ảnh hưởng đáng kể không?

Chúng tôi nghĩ rằng chúng ta sẽ sống trong một thế giới hai mô hình, song song với các mô hình biên giới và mở. Bạn muốn có thông tin tốt nhất để lập kế hoạch cấp cao, nhưng bạn không cần mô hình biên cho số học cơ bản. Đó là lý do tại sao có nhiều sự quan tâm đến việc định tuyến và tại sao bây giờ mọi người nghĩ về chi phí cho mỗi nhiệm vụ chứ không chỉ chi phí cho mỗi mã thông báo.

Anthropic đã ra mắt công chúng ngày hôm nay. Bạn nghĩ gì về giá trị của nó? Có một kịch bản trong đó nó tiếp tục củng cố vị trí của mình trong loại độc quyền nhóm này; có một nơi khác nó bắt đầu mất lực kéo.

Ghi lại: Có lẽ tối nay tôi sẽ gọi cho người môi giới của mình và mua một vài cổ phiếu. Đây là một vụ cá cược dài hạn. Trong 10 năm nữa, việc sử dụng AI sẽ ở quy mô hoàn toàn khác và điều đó cần một lượng vốn đáng kinh ngạc, đó là lý do tại sao các công ty này sẽ IPO.

Pháo hoa đã có một số vi phạm an ninh gần đây. Bạn nói gì với khách hàng?

Mọi công ty có lẽ đang chứng kiến ​​tần suất tấn công chưa từng có. Đối với sự cố của chúng tôi, phần lớn động cơ là do lừa đảo LLM: săn lùng thông qua các nhà cung cấp khóa API và bí mật để bán mã thông báo trên các thị trường bất hợp pháp. Lời hứa của chúng tôi là không lưu giữ dữ liệu cho lưu lượng suy luận và không có dấu hiệu nào cho thấy đã bị xâm phạm.

Notion đã ngắt kết nối với Fireworks. Bạn có mất khách hàng khác không?

Tôi không nghĩ mình có thể công khai tên những khách hàng cụ thể bị ảnh hưởng. Một số, chẳng hạn như Notion và Cursor, đã được công khai. Chỉ một nhóm nhỏ khách hàng của chúng tôi bị ảnh hưởng bởi dữ liệu này.

Làm thế nào dữ liệu khách hàng đó bị lộ, với lời hứa không lưu giữ của bạn?

Notion đang sử dụng dự đoán hàng loạt, trong đó bạn tải lên một tập dữ liệu được lưu trữ ở trạng thái nghỉ, do đó, về bản chất, đây không phải là một sản phẩm không được lưu giữ. Chúng tôi đang chuyển các dịch vụ đó sang luồng trực tuyến để chúng tôi chỉ lưu giữ dữ liệu khi chúng tôi cần.

Jensen Huang đã rời Nvidia vào tuần trước và Nvidia đã ủng hộ Fireworks từ năm 2024. Điều đó có ảnh hưởng đến bạn không?

Đó là một đòn giáng mạnh vào ngành và chúng tôi cảm thông với Jensen và gia đình anh ấy. Nhưng Nvidia luôn là người ủng hộ mạnh mẽ nguồn mở và tôi không thấy điều đó sẽ thay đổi. Chúng tôi hy vọng họ sẽ tiếp tục đầu tư vào Nemotron và chúng tôi rất vui được tiếp tục hợp tác với họ.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể kiếm được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập biên tập của chúng tôi.

Bài viết liên quan

Chuyên Mục: Tin tức
Bài trước
Báo cáo cho biết đặc vụ AI của Meta, Muse đang trộn lẫn các cuộc trò chuyện và tiết lộ dữ liệu riêng tư
Bài sau
Apple có thể đang phát triển tác nhân AI của riêng mình để chạy máy Mac của bạn