DeepSeek открыла исходный код DeepInfer, движка инференса, который она использует для масштабного запуска V4.1-Flash. https://github.com/deepseek-ai/DeepInfer Именно этот код помогает быстрее обслуживать запросы к моделям и снижать затраты на их работу. Для компаний, развёртывающих собственные ИИ-сервисы, DeepInfer может оказаться даже ценнее самих весов модели. Ещё одна важная деталь: движок работает не только на чипах Nvidia, но и на Huawei. 👍👍👍
Материал бастапқы дереккөзден алынған:
Telegram — Вайб-кодинг
Толық мәтінді Telegram — Вайб-кодинг сайтында оқуМатериал ашық дереккөздерден жиналған. Оның орналастырылуы сіздің құқықтарыңызға тиіп жатса → Ақпаратты жою
DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы.
DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы. https://github.com/deepseek-ai/DeepInfer Дәл осы код үлгілерге сұрауларға жылдам қызмет көрсетуге және олардың жұмыс құнын төмендетуге көмектеседі. Компаниялар үшін…
AI қорытындысы: Басты тезистер
- DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы
- https://github.com/deepseek-ai/DeepInfer Дәл осы код үлгілерге сұрауларға жылдам қызмет көрсетуге және олардың жұмыс құнын төмендетуге көмектеседі
- Компаниялар үшін…
DeepSeek-де ашық бастапқы DeepInfer бар, ол V4.1-Flash-ты масштабта іске қосу үшін қолданатын қорытынды қозғалтқышы.
Оқиға хронологиясы
Ұқсас материалдар
ENEx-Nvidia-turned-VC Amulya Vishwanath: ‘Physical AI is in it’s LEGO era’
It’s the moment everyone is waiting for — the ChatGPT moment for robotics, Amulya Vishwanath explained to TechCrunch’s Equity.
АИ кәсіпорынның жаңа экономикасы
Сіздің компанияңыз электр қуатын жаңа ғана ашты деп елестетіп көріңіз. Бастапқыда ондағы бірнеше машина ғана жұмыс істейді, және ешкім тиімділік туралы алаңдамайды - тұтыну аз және құндылығы айқын. Бірақ электр энергиясы инфрақұрылымға айналғаннан кейін, әрбір процесс оған байланысты және сұрақ өзгереді ...
RUСША приказали федеральным агентствам удалить AI DeepSeek из систем
США приказали удалить технологии DeepSeek из государственных систем.
RUГлава NVIDIA Дженсен Хуанг приедет в Казахстан 23 октября
💎 Глава NVIDIA Дженсен Хуанг приедет в Казахстан 23 октября 23 октября в Астане состоится встреча основателя и генерального директора NVIDIA Дженсена Хуанга с заместителем премьер-министра — министром искусственного интеллекта и цифрового развития Казахстана Жасланом Мадиевым.…

