Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face. Правда, для локального запуска придётся раскошелиться.
Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face. Правда, для локального запуска придётся раскошелиться. Модель насчитывает 2,8 трлн параметров, а одни только веса, по имеющимся данным, занимают около 1,56 ТБ. Для запуска можно использовать сервер с восемью NVIDIA…
- 01.Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face
- 02.Правда, для локального запуска придётся раскошелиться
- 03.Модель насчитывает 2,8 трлн параметров, а одни только веса, по имеющимся данным, занимают около 1,56 ТБ
Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face. Правда, для локального запуска придётся раскошелиться. Модель насчитывает 2,8 трлн параметров, а одни только веса, по имеющимся данным, занимают около 1,56 ТБ. Для запуска можно использовать сервер с восемью NVIDIA B300 и суммарным объёмом видеопамяти 2,3 ТБ. Стоимость такого оборудования оценивается в $550 000–650 000. Удачи с локальным запуском. 👍
Связанные материалы
Все материалы →Техас стал новым эпицентром строительства центров обработки данных с использованием искусственного интеллекта. Это может быть капут.
Техас является самым быстрорастущим рынком центров обработки данных в США и эпицентром крупнейших разработок искусственного интеллекта крупных технологических компаний. Но голубая волна, охватившая штат Одинокой звезды, может поставить под угрозу это положение. Демократ Джеймс Таларико выиграл место в Сенате США, одержав победу над Кеном Пакстоном. Джина Инохоса выиграла…
Опираетесь на ИИ с открытым исходным кодом? Глава отдела политики Hugging Face о затратах, рисках и компромиссах
Модели с открытым исходным кодом становятся все более распространенными, поскольку предприятия, правительства и стартапы в равной степени полагаются на обещания более низких затрат, большего контроля и большей гибкости. Но по мере того, как все более функциональные модели становятся все более доступными, как компании получают выгоду? И с…
OpenAI приобретает компанию Pierre Computer, чтобы Git не отставал от агентов кодирования ИИ
OpenAI покупает Pierre Computer Company, стартап, чьи библиотеки уже используются в агенте кодирования Codex. В сочетании с недавно запущенным бэкэндом Git Pando от OpenAI эта сделка показывает, что компания строит свою инфраструктуру для разработчиков и агентов искусственного интеллекта, работающих бок о бок…