DeepSeek открыла исходный код DeepInfer, движка инференса, который она использует для масштабного запуска V4.1-Flash. https://github.com/deepseek-ai/DeepInfer Именно этот код помогает быстрее обслуживать запросы к моделям и снижать затраты на их работу. Для компаний, развёртывающих собственные ИИ-сервисы, DeepInfer может оказаться даже ценнее самих весов модели. Ещё одна важная деталь: движок работает не только на чипах Nvidia, но и на Huawei. 👍👍👍
From the original source:
Telegram — Вайб-кодинг
Read full article at Telegram — Вайб-кодингThis material was compiled from public sources. If its publication affects your rights → Request removal
DeepSeek has open-sourced DeepInfer, the inference engine it is using to launch V4.1-Flash at scale.
DeepSeek has open-sourced DeepInfer, the inference engine it is using to launch V4.1-Flash at scale. https://github.com/deepseek-ai/DeepInfer It is this code that helps to quickly service requests to models and reduce the cost of their operation. For companies…
AI Summary & Key Takeaways
- DeepSeek has open-sourced DeepInfer, the inference engine it is using to launch V4.1-Flash at scale
- https://github.com/deepseek-ai/DeepInfer It is this code that helps to quickly service requests to models and reduce the cost of their operation
- For companies…
DeepSeek has open-sourced DeepInfer, the inference engine it is using to launch V4.1-Flash at scale.
Event timeline
Related stories
Ex-Nvidia-turned-VC Amulya Vishwanath: ‘Physical AI is in it’s LEGO era’
It’s the moment everyone is waiting for — the ChatGPT moment for robotics, Amulya Vishwanath explained to TechCrunch’s Equity.
The new economics of enterprise AI
Imagine your company just discovered electricity. At first only a few machines run on it, and nobody worries about efficiency — consumption is low and the value is obvious. But once electricity becomes infrastructure, every process depends on it, and the question changes from…
RUСША приказали федеральным агентствам удалить AI DeepSeek из систем
США приказали удалить технологии DeepSeek из государственных систем.
RUГлава NVIDIA Дженсен Хуанг приедет в Казахстан 23 октября
💎 Глава NVIDIA Дженсен Хуанг приедет в Казахстан 23 октября 23 октября в Астане состоится встреча основателя и генерального директора NVIDIA Дженсена Хуанга с заместителем премьер-министра — министром искусственного интеллекта и цифрового развития Казахстана Жасланом Мадиевым.…

