看起来 Jev 有一个开放的本地替代方案 - Laya。
看起来 Jev 有一个开放的本地替代方案 - Laya。 Laya是一个本地开放决策模型,拥有4.21亿个参数。它适用于结构化决策(快速是/否答案、评估或从选项中进行选择)。 > 适用于小于 1 GB 的内存 >...
- 01.看起来 Jev 有一个开放的本地替代方案 - Laya。 Laya是一个本地开放决策模型,拥有4.21亿个参数。它适用于结构化决策(快速是/否答案、评估或从选项中进行选择)。 > 适用于小于 1 GB 的内存 >...
Похоже, у Jev появилась открытая локальная альтернатива — Laya. Laya - локальная открытая модель принятия решений на 421 млн параметров. Она работает со структурированными решениями (быстрые ответы да/нет, оценка или выбор из вариантов). > работает менее чем с 1 ГБ памяти > бесплатно доступна на Hugging Face > запускается на ноутбуке и даже на телефоне В тесте Laya сравнили с облачным Jev. Обе системы играли в одну и ту же змейку с одинаковым форматом решений в течение 30 секунд. > Laya — счёт 46, длина 52, 86,5 решений в секунду, P50 около 9 мс > Jev — счёт 1, длина 7, 3,2 решения в секунду, полный цикл запроса к API 317 мс На M5 Pro медианное время составило 15,3 мс для локальной Laya и 298,1 мс для облачного Jev. Это почти 20-кратная разница в этом тесте. Главное отличие здесь в том, что Laya принимает каждое решение локально, тогда как Jev на каждом шаге ждёт ответ от облачного API. При этом у проекта есть два ограничения, о которых заявляется прямо: 1) контекст всего 512–1024 токена, поэтому некоторые задачи просто не поместятся 2) без дополнительной настройки Laya хуже обобщает, чем Jev GitHub - https://github.com/NandhaKishorM/laya
Related Intelligence
All stories →Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот ...
Разработчик решил заняться реверс-инжинирингом собственного телевизора Samsung стоимостью $3000, заподозрив, что тот неспроста показывает ему таргетированную рекламу. 🙅 По его словам, в ходе исследования он обнаружил множество механизмов слежения и сбора телеметрии, включая…
NVIDIA 在 HackAlem AI 上表彰三支团队,奖励其在人工智能领域的开发成果
在阿斯塔纳举行的 AI Month 期间,举办了最大规模 AI 黑客马拉松 HackAlem AI 的颁奖典礼。该活动被纳入 NVIDIA 创始人兼 CEO 黄仁勋 访问哈萨克斯坦的行程。黑客马拉松获奖者获得了与黄仁勋 亲自会面的机会,并……
ChatGPT 新增受 PIN 码和 Face ID 保护的加密聊天
OpenAI 正在向 ChatGPT 推出加密聊天功能,允许用户用 PIN 码或生物识别保护隐藏单独的对话。这一新功能有助于保护个人对话不被他人查看,即使用户将手机交给他人也无法访问。