Moonshot AI 在 Hugging Face 上公布了 Kimi K3.1 Pro 的重量。但是,要在本地启动,您将需要花费一些钱。
Moonshot AI 在 Hugging Face 上公布了 Kimi K3.1 Pro 的重量。但是,要在本地启动,您将需要花费一些钱。该模型有 2.8 万亿个参数,据报道仅权重就占用了约 1.56 TB。要运行,您可以使用具有八个 NVIDIA 的服务器...
- 01.Moonshot AI 在 Hugging Face 上公布了 Kimi K3.1 Pro 的重量。但是,要在本地启动,您将需要花费一些钱。该模型有 2.8 万亿个参数,据报道仅权重就占用了约 1.56 TB。要运行,您可以使用具有八个 NVIDIA 的服务器...
Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face. Правда, для локального запуска придётся раскошелиться. Модель насчитывает 2,8 трлн параметров, а одни только веса, по имеющимся данным, занимают около 1,56 ТБ. Для запуска можно использовать сервер с восемью NVIDIA B300 и суммарным объёмом видеопамяти 2,3 ТБ. Стоимость такого оборудования оценивается в $550 000–650 000. Удачи с локальным запуском. 👍
Related Intelligence
All stories →德克萨斯州是人工智能数据中心建设的新中心。那可能就完了。
德克萨斯州是美国增长最快的数据中心市场,也是大型科技公司最大的人工智能扩建项目的归零地。但席卷孤星州的蓝色浪潮可能会危及这一地位。民主党人詹姆斯·塔拉里科(James Talarico)击败肯·帕克斯顿(Ken Paxton)赢得了美国参议院席位。吉娜·伊诺霍萨赢得了……
基于开源人工智能? Hugging Face 的政策负责人谈成本、风险和权衡
随着企业、政府和初创公司都依赖于更低的成本、更多的控制和更大的灵活性的承诺,开源模式正变得越来越主流。但随着功能越来越强大的模型变得更加免费,公司如何获取价值?并与...
OpenAI 收购 Pierre Computer Company,让 Git 跟上 AI 编码代理的步伐
OpenAI 正在收购 Pierre Computer Company,这家初创公司的库已经为编码代理 Codex 提供了支持。结合 OpenAI 最近推出的 Git 后端 Pando,该交易表明该公司正在为开发人员和人工智能代理构建基础设施……