Moonshot AI Kimi K3.1 Pro салмағын Hugging Face-те жариялады. Дегенмен, жергілікті жерде іске қосу үшін сізге біраз ақша бөлуге тура келеді.
Moonshot AI Kimi K3.1 Pro салмағын Hugging Face-те жариялады. Дегенмен, жергілікті жерде іске қосу үшін сізге біраз ақша бөлуге тура келеді. Модельдің 2,8 триллион параметрі бар және тек салмақтардың өзі шамамен 1,56 ТБ құрайды. Іске қосу үшін сегіз NVIDIA бар серверді пайдалануға болады...
- 01.Moonshot AI Kimi K3.1 Pro салмағын Hugging Face-те жариялады
- 02.Дегенмен, жергілікті жерде іске қосу үшін сізге біраз ақша бөлуге тура келеді
- 03.Модельдің 2,8 триллион параметрі бар және тек салмақтардың өзі шамамен 1,56 ТБ құрайды
Moonshot AI опубликовала веса Kimi K3.1 Pro на Hugging Face. Правда, для локального запуска придётся раскошелиться. Модель насчитывает 2,8 трлн параметров, а одни только веса, по имеющимся данным, занимают около 1,56 ТБ. Для запуска можно использовать сервер с восемью NVIDIA B300 и суммарным объёмом видеопамяти 2,3 ТБ. Стоимость такого оборудования оценивается в $550 000–650 000. Удачи с локальным запуском. 👍
Байланысты материалдар
Барлығы →Техас AI деректер орталығын құрудың жаңа ошағы болды. Бұл капут болуы мүмкін.
Техас - АҚШ-тағы ең жылдам дамып келе жатқан деректер орталығының нарығы және Big Tech-тің ең үлкен AI құрылыстары үшін нөлдік көрсеткіш. Бірақ Жалғыз жұлдыз мемлекетін шарпыған көк толқын бұл ұстанымға қауіп төндіруі мүмкін. Демократ Джеймс Таларико АҚШ сенатында Кен Пакстонға қарсы жеңіске жетті. Джина Хинохоса жеңіп алды…
Ашық бастапқы AI негізінде құру керек пе? Құшақтап жатқан Face саясатының жетекшісі шығындар, тәуекелдер және айырбастар туралы
Кәсіпорындар да, үкіметтер де, стартаптар да төмен шығындар, көбірек бақылау және икемділік туралы уәдеге сенетіндіктен, ашық бастапқы код үлгілері негізгі ағымға айналуда. Бірақ барған сайын қабілетті модельдер еркін қол жетімді болған сайын, компаниялар құндылықты қалай алады? Және…
OpenAI Git-ті AI кодтау агенттерінен хабардар ету үшін Pierre Computer Company компаниясын сатып алады
OpenAI кітапханалары Codex кодтау агентін қуаттайтын Pierre Computer Company компаниясын сатып алады. OpenAI-дің жақында іске қосылған Git сервері Pando-мен біріктірілген мәміле компанияның әзірлеушілер мен AI агенттері үшін өз инфрақұрылымын жасап жатқанын көрсетеді ...