HiddenLayer kiếm được 100 triệu đô la khi các doanh nghiệp gấp rút đảm bảo việc triển khai AI của họ

Khi công ty khởi nghiệp bảo mật AI HiddenLayer huy động được Series A trị giá 50 triệu đô la ba năm trước, một trong những câu hỏi lớn được đặt ra là liệu các mối đe dọa AI mà công ty khởi nghiệp đang bảo vệ có xuất hiện với số lượng đủ để tạo nên một thị trường thực sự hay không. Như đồng nghiệp cũ của tôi, Kyle Wiggers đã lưu ý vào thời điểm đó, rất khó để xác định các ví dụ thực tế về các cuộc tấn công chống lại AI trên quy mô lớn.

Mọi thứ đã thay đổi nhanh như thế nào. Các công ty bảo mật hiện đang nỗ lực xây dựng các sản phẩm có thể giám sát không chỉ các tác nhân mà còn cả các công cụ và tiện ích bổ sung mà họ sử dụng. Mặc dù vẫn chưa có nhiều tin tức về việc các đại lý bị lợi dụng nhưng nguy cơ các đại lý gặp rắc rối trong quá trình sản xuất là có thật. Và do đó, thị trường công cụ ngăn chặn điều đó xảy ra đã bùng nổ: Gartner ước tính các công ty sẽ chi 2,83 tỷ USD trong năm nay cho các sản phẩm nhằm bảo mật các công cụ AI, nhiều hơn 83% so với năm 2025 và dự kiến ​​chi tiêu sẽ đạt gần 4,78 tỷ USD vào năm tới.

HiddenLayer, công ty tạo ra các công cụ để bảo vệ các mô hình, tác nhân và quy trình công việc AI khỏi các cuộc tấn công đối nghịch, lỗ hổng và việc tiêm mã độc, đã có thể tận dụng tốt sự thay đổi đó. Người đồng sáng lập và Giám đốc điều hành của nó, Chris Sestito, nói với TechCrunch rằng doanh thu định kỳ hàng năm của công ty khởi nghiệp đã tăng hơn 10 lần trong năm qua. Ông từ chối đưa ra con số chính xác, nhưng cho biết ARR hiện ở mức “hàng chục triệu” đô la và hơn 90% mức tăng trưởng đó là do các khách hàng mới ký hợp đồng trong năm qua.

Dịch vụ tài chính và các công ty công nghệ lớn xây dựng các sản phẩm AI hiện là ngành lớn nhất của công ty và công ty cũng có hợp đồng với Bộ Quốc phòng và cộng đồng tình báo. Một trong những khách hàng của nó rõ ràng là “nhà cung cấp mô hình biên giới hàng đầu” với “hơn 700 triệu người dùng hàng tuần”, đối với tôi nghe có vẻ giống OpenAI hoặc Anthropic.

Để tận dụng tối đa động lực đó, công ty khởi nghiệp hiện đã huy động được 100 triệu USD trong vòng cấp vốn Series B do Delta-v Capital dẫn đầu, với sự tham gia của Ten Eleven Ventures, Morgan Stanley, M12 của Microsoft, Booz Allen Hamilton và những người khác.

Công ty khởi nghiệp có trụ sở tại Austin nói chung vẫn bán những gì họ đã từng bán vào năm 2023, nhưng Sestito nói với TechCrunch rằng thay đổi lớn nhất mà họ phải thực hiện là mở rộng các sản phẩm hiện có – khám phá, bảo vệ thời gian chạy, mô phỏng tấn công và bảo mật chuỗi cung ứng – để giải quyết vấn đề tiêm nhắc, thao túng tác nhân và sử dụng công cụ độc hại.

“Suy luận vẫn là suy luận. Vì vậy, cho dù đó là mô hình học máy truyền thống, cho dù đó là Gen AI, cho dù đó là luồng công việc tác tử, thì rất nhiều công nghệ của chúng tôi vẫn được áp dụng. Vì vậy, thực sự, chúng tôi chưa phải chuyển hướng, nhưng chúng tôi đã phải phát triển phạm vi của mình… từ mô hình truyền thống đến Gen AI rồi đến tác tử,” ông nói.

Sestito nhấn mạnh rằng bảo mật thời gian chạy đặc biệt trở thành ưu tiên hàng đầu khi việc triển khai AI ngày càng phổ biến ở các doanh nghiệp và so sánh nó với các giải pháp phát hiện và phản hồi điểm cuối (EDR) truyền thống, nhưng đặc biệt dành cho AI.

Các sản phẩm mới của công ty phản ánh sự thay đổi đó và Sestito nhấn mạnh cơ hội mới cho những kẻ tấn công trong việc khai thác các mô hình nguồn mở. “Chúng tôi phân tích và quét khoảng 50 khung tệp AI khác nhau để đảm bảo rằng, đặc biệt trong trường hợp các mô hình nguồn mở, có trọng lượng mở, công cụ mà bạn đang làm việc chính là công cụ mà bạn tin tưởng và đó là công cụ mà nó dự định trở thành. Chúng tôi đang xem xét những thứ như mô hình có mục đích là một thứ, nhưng chúng lại là một thứ khác – các mô hình ẩn bên trong các mô hình,” ông nói.

Công ty khởi nghiệp cho biết 100 triệu USD mới sẽ giúp họ xây dựng theo hướng đó, mặc dù tập trung nhiều hơn vào bán hàng và phân phối, đồng thời tiếp tục mở rộng kỹ thuật và nghiên cứu. Nó cũng có kế hoạch mở rộng sang Châu Âu và EMEA.

Tuy nhiên, HiddenLayer có thể thấy mình đang khai thác chiếc rương đó để biết thêm. Các công ty an ninh mạng lớn như Cisco, Palo Alto Networks và Check Point thường thích mua hơn là xây dựng loại công nghệ này, trong khi các công ty khởi nghiệp như Noma và Zenity đã huy động được hơn 100 triệu USD mỗi công ty để đảm nhận các khu vực lân cận hoặc chồng chéo của không gian này.

Sestito thừa nhận rằng một số phần của sản phẩm bảo mật AI mà công ty ông cung cấp cuối cùng có thể được tích hợp vào các nền tảng do các công ty như Microsoft, OpenAI và AWS xây dựng. Tuy nhiên, ông hy vọng cơ sở hạ tầng AI sẽ phát triển theo hướng các tính năng quản trị như khám phá, nhận dạng và kiểm soát chính sách, thay vì loại công cụ mà công ty ông xây dựng.

Hiện tại, ông cho biết công việc của HiddenLayer là “mở rộng quy mô theo chiều dọc cùng với trí tuệ nhân tạo” và cuối cùng, mở rộng theo chiều ngang sang các bộ phận của an ninh mạng ngày càng phụ thuộc vào AI. Đó là một mục tiêu đầy tham vọng, nhưng trước tiên, công ty khởi nghiệp phải chứng minh rằng họ có thể biến khởi đầu thành một hoạt động kinh doanh lâu dài trước khi phần còn lại của ngành bắt kịp.