Согласно материалу Together AI, Kimi K3 является самой мощной моделью компании Moonshot AI на сегодняшний день. Эта модель содержит 2,8 триллиона параметров и является первой открытой моделью в классе моделей с 3 триллионами параметров. Она предназначена для выполнения сложных задач, таких как долгосрочное программирование, работа с знаниями и глубокое логическое мышление. Kimi K3 также является первой моделью с открытыми весами, которая конкурирует на уровне моделей GPT 5.6 Sol и Claude Fable 5. Together AI работает напрямую с командой Moonshot для предоставления этой модели пользователям. Команда Kimi активно стремится к масштабированию, что можно заметить по тому, что в девяти из двенадцати месяцев с июля 2025 по июль 2026 года модели Kimi устанавливали верхнюю границу масштабов открытых моделей. Kimi K3, с 2,8 триллиона параметров, теперь является самой крупной моделью с открытыми весами, когда-либо выпущенной. Она доступна для запуска на Together AI с полной поддержкой контекста в 1 миллион токенов, автоматическим кэшированием префиксов и совместимым с OpenAI API. В основе Kimi K3 лежат две архитектурные обновления, которые помогают информации легче проходить через более длинные последовательности и глубже в сети: Kimi Delta Attention (KDA), который представляет собой гибкий линейный механизм внимания, и Attention Residuals (AttnRes), который избирательно извлекает представления по глубине модели. Кроме того, Moonshot продвинул разреженность Mixture-of-Experts с помощью Stable LatentMoE, эффективно активируя 16 из 896 экспертов. На этом уровне разреженности, примерно 2% экспертов активируется на токен, что создает первоочередные задачи для маршрутизации и оптимизации, поэтому несколько поддерживающих технологий обеспечивают стабильное обучение на уровне 2,8 триллиона. API Kimi K3 совместим с OpenAI и доступен через официальную Python SDK Together. Пользователи могут настраивать уровень логического мышления и использовать различные функции, такие как потоковая передача, работа с изображениями и структурированный вывод. Kimi K3 оценивается по токенам, с учетом кэширования, что позволяет снизить стоимость при стабильных префиксах. Модель показывает выдающиеся результаты на различных оценочных тестах, опережая другие открытые модели и оставаясь конкурентоспособной по сравнению с сильнейшими проприетарными моделями. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.