Phòng thí nghiệm AI PrismML – được thành lập bởi các nhà nghiên cứu của Caltech và được cố vấn bởi Ion Stoica của UC Berkeley – đã tạo ra một phiên bản mô hình ngôn ngữ nhỏ bé dành cho kính thông minh chạy trên chip Snapdragon của Qualcomm.
Vào thứ Tư, tại Hội nghị thượng đỉnh Snapdragon của Qualcomm, nhà sản xuất chip này đã giới thiệu Bonsai LLM 1-bit của PrismML, có thể chạy cục bộ trên kính thông minh AI được xây dựng trên Nền tảng Snapdragon AR1 Gen 1.
Như TechCrunch đã báo cáo trước đây, tuyên bố nổi tiếng của PrismML là nó thu nhỏ đáng kể các mô hình lớn hơn (trong trường hợp này là gấp 4 lần), trong khi vẫn giữ được gần như toàn bộ hiệu suất của chúng theo tiêu chuẩn chuẩn. Phiên bản kính thông minh là mẫu có 2 tỷ thông số được điều chỉnh cho tầm nhìn và ngôn ngữ, vì vậy người đeo có thể hỏi những gì họ đang nhìn trong thời gian thực.
Mục tiêu lớn hơn của Prism là AI trọng lượng mở chạy trên các thiết bị và tận dụng tốt hơn sức mạnh tính toán mà họ đã có. Công ty khởi nghiệp coi đây là một giải pháp thay thế để phụ thuộc vào những lời hứa về quyền riêng tư của các phòng thí nghiệm AI độc quyền và nhu cầu vô độ của họ về khả năng tính toán nhiều hơn.
Việc phát hành mẫu chip của Qualcomm là một bước hướng tới tầm nhìn đó. Nhưng chưa có loại kính thông minh nào chạy PrismML được công bố.