PrismML представила свои компактные языковые модели для смарт-очков

По сообщению TechCrunch, лаборатория искусственного интеллекта PrismML, основанная исследователями из Калифорнийского технологического института и получившая консультации от Иона Стики из Университета Калифорнии в Беркли, разработала версию своих компактных языковых моделей для смарт-очков на базе чипов Snapdragon от Qualcomm. На конференции Snapdragon Summit, прошедшей в среду, производитель чипов продемонстрировал 1-битную языковую модель Bonsai от PrismML, которую можно запускать локально на смарт-очках, использующих платформу Snapdragon AR1 Gen 1. Как ранее сообщал TechCrunch, известность PrismML заключается в том, что она значительно уменьшает размеры больших моделей (в данном случае в 4 раза), сохраняя при этом почти все их показатели на стандартных бенчмарках. Версия для смарт-очков представляет собой модель с 2 миллиардами параметров, настроенную на обработку визуальной информации и языка, что позволяет пользователям задавать вопросы о том, что они видят в реальном времени. Более широкая цель Prism заключается в создании открытого ИИ, который работает на устройствах и более эффективно использует вычислительные мощности, которые уже имеются. Стартап предлагает это как альтернативу зависимостям от обещаний конфиденциальности закрытых лабораторий ИИ и их ненасытной потребности в вычислительных ресурсах. Выпуск модели для чипов Qualcomm является шагом к этой цели. Однако на данный момент не было анонсировано ни одних смарт-очков, работающих на PrismML. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.