Multiverse Computing đẩy các mô hình AI nén của mình trở thành xu hướng phổ biến

Với tỷ lệ vỡ nợ của công ty tư nhân lên tới 9,2% – tỷ lệ cao nhất trong nhiều năm – công ty VC Lux Capital gần đây đã tư vấn cho các công ty dựa vào AI để xác nhận các cam kết về năng lực tính toán của họ bằng văn bản. Lux cảnh báo, với sự bất ổn tài chính lan truyền khắp chuỗi cung ứng AI, một thỏa thuận bắt tay là không đủ.

Nhưng có một lựa chọn hoàn toàn khác, đó là ngừng hoàn toàn dựa vào cơ sở hạ tầng điện toán bên ngoài. Các mô hình AI nhỏ hơn chạy trực tiếp trên thiết bị của chính người dùng — không có trung tâm dữ liệu, không có nhà cung cấp đám mây, không có rủi ro đối tác — đang trở nên đủ tốt để đáng được xem xét. Và Multiverse Computing đang giơ tay.

Công ty khởi nghiệp Tây Ban Nha cho đến nay vẫn giữ vị trí thấp hơn so với một số công ty cùng ngành, nhưng khi nhu cầu về hiệu quả AI tăng lên, điều này đang thay đổi. Sau khi nén các mô hình từ các phòng thí nghiệm AI lớn bao gồm OpenAI, Meta, DeepSeek và Mistral AI, nó đã ra mắt cả một ứng dụng thể hiện khả năng của các mô hình nén và một cổng API — một cổng cho phép các nhà phát triển truy cập và xây dựng bằng các mô hình đó — giúp chúng có sẵn rộng rãi hơn.

Ứng dụng CompactifAI, có cùng tên với công nghệ nén lấy cảm hứng từ lượng tử của Multiverse, là một công cụ trò chuyện AI giống như ChatGPT hoặc Mistral’s Le Chat. Đặt một câu hỏi và mô hình sẽ trả lời. Theo công ty, sự khác biệt là Multiverse nhúng Gilda, một mô hình nhỏ đến mức có thể chạy cục bộ và ngoại tuyến.

Đối với người dùng cuối, đây là hương vị của AI tiên tiến, với dữ liệu không rời khỏi thiết bị của họ và không cần kết nối. Nhưng có một lưu ý: thiết bị di động của họ phải có đủ RAM và dung lượng lưu trữ. Nếu không – và nhiều iPhone cũ hơn cũng sẽ không – ứng dụng sẽ chuyển về mô hình dựa trên đám mây thông qua API. Việc định tuyến giữa quá trình xử lý cục bộ và đám mây được xử lý tự động bởi một hệ thống mà Multiverse có tên là Ash Nazg, cái tên sẽ rung chuông đối với những người hâm mộ Tolkien khi nó đề cập đến dòng chữ One Ring trong “Chúa tể của những chiếc nhẫn”. Nhưng khi ứng dụng chuyển lên đám mây, nó sẽ mất đi lợi thế chính về quyền riêng tư trong quá trình này.

Những hạn chế này có nghĩa là CompactifAI chưa hoàn toàn sẵn sàng để được áp dụng rộng rãi cho khách hàng, mặc dù đó có thể chưa bao giờ là mục tiêu. Theo dữ liệu từ Sensor Tower, ứng dụng này có ít hơn 5.000 lượt tải xuống trong tháng qua.

Mục tiêu thực sự là các doanh nghiệp. Hôm nay, Multiverse sẽ ra mắt cổng API tự phục vụ cho phép các nhà phát triển và doanh nghiệp truy cập trực tiếp vào các mô hình nén của nó — không cần có AWS Marketplace.

“Cổng API CompactifAI (hiện tại) cung cấp cho các nhà phát triển quyền truy cập trực tiếp vào các mô hình nén với sự minh bạch và khả năng kiểm soát cần thiết để chạy chúng trong sản xuất,” Giám đốc điều hành Enrique Lizaso cho biết trong một tuyên bố.

Giám sát việc sử dụng theo thời gian thực là một trong những tính năng chính của API và điều đó không phải ngẫu nhiên mà có. Bên cạnh những lợi thế tiềm năng của việc triển khai ở biên, chi phí điện toán thấp hơn là một trong những lý do chính khiến các doanh nghiệp xem xét các mô hình nhỏ hơn để thay thế cho các mô hình ngôn ngữ lớn (LLM).

Nó cũng giúp các mô hình nhỏ ít bị hạn chế hơn trước đây. Đầu tuần này, Mistral đã cập nhật dòng sản phẩm mô hình nhỏ của mình với việc ra mắt Mistral Small 4, được tối ưu hóa đồng thời cho trò chuyện chung, mã hóa, tác vụ tác nhân và suy luận. Công ty Pháp cũng phát hành Forge, một hệ thống cho phép các doanh nghiệp xây dựng các mô hình tùy chỉnh, bao gồm các mô hình nhỏ mà họ có thể chọn sự cân bằng mà trường hợp sử dụng của họ có thể chấp nhận tốt nhất.

Kết quả gần đây của Multiverse cũng cho thấy khoảng cách với LLM đang được thu hẹp. Mô hình nén mới nhất của nó, HyperNova 60B 2602, được xây dựng trên gpt-oss-120b — một mô hình OpenAI có mã cơ bản được công khai. Công ty tuyên bố hiện tại họ cung cấp phản hồi nhanh hơn với chi phí thấp hơn so với ban đầu, một lợi thế đặc biệt quan trọng đối với quy trình mã hóa tác nhân, trong đó AI tự động hoàn thành các nhiệm vụ lập trình phức tạp, nhiều bước.

Việc tạo ra các mô hình đủ nhỏ để hoạt động trên thiết bị di động mà vẫn hữu ích là một thách thức lớn. Apple Intelligence đã giải quyết vấn đề đó bằng cách kết hợp mô hình trên thiết bị và mô hình đám mây. Ứng dụng CompactifAI của Multiverse cũng có thể định tuyến các yêu cầu tới gpt-oss-120b thông qua API, nhưng mục tiêu chính của nó là cho thấy rằng các mẫu xe địa phương như Gilda và các mẫu thay thế trong tương lai của nó có những lợi thế vượt xa khả năng tiết kiệm chi phí.

Đối với người lao động trong các lĩnh vực quan trọng, một mô hình có thể chạy cục bộ và không cần kết nối với đám mây sẽ mang lại nhiều quyền riêng tư và khả năng phục hồi hơn. Nhưng giá trị lớn hơn nằm ở các trường hợp sử dụng kinh doanh mà tính năng này có thể mở khóa – ví dụ: nhúng AI vào máy bay không người lái, vệ tinh và các cài đặt khác nơi khả năng kết nối không thể được coi là đương nhiên.

Công ty đã phục vụ hơn 100 khách hàng toàn cầu bao gồm Ngân hàng Canada, Bosch và Iberdrola, nhưng việc mở rộng cơ sở khách hàng có thể giúp công ty huy động được nhiều nguồn vốn hơn. Sau khi huy động được Series B trị giá 215 triệu đô la vào năm ngoái, giờ đây có tin đồn rằng họ sẽ huy động được vòng tài trợ mới trị giá 500 triệu euro với mức định giá hơn 1,5 tỷ euro.