VentureBeat рассказывает, что большинство опрошенных компаний, использующих искусственный интеллект в производстве, заявляют, что их графические процессоры (GPU) простаивают как минимум половину времени. При этом большинство из этих компаний намерены добавить или сменить платформы для вычислений с использованием ИИ в ближайшие 12 месяцев, согласно последним данным от VentureBeat Intelligence. Поразительные 79% из 218 респондентов, сообщивших о загрузке GPU, отметили, что их процессоры заняты половину времени или меньше, согласно трем ежемесячным опросам VB Pulse, проведенным с июля по сентябрь. Среди этих компаний 70% заявили о планах принять новую, дополнительную или заменяющую платформу для вычислений с использованием ИИ в течение следующего года. Доля компаний с неиспользуемыми GPU оставалась на уровне от 77% до 81% в каждом из трех месяцев. Мы сообщили о результатах сентября в четверг; данные за три месяца показывают, что эта тенденция сохраняется. Эти цифры важны, поскольку на Уолл-Стрит ведутся споры о том, является ли ИИ пузырем. 13 октября Международный валютный фонд предупредил, что резкое падение цен акций ИИ может угрожать глобальной финансовой стабильности. Большая часть обсуждений сосредоточена на компаниях, продающих вычисления для ИИ, таких как Nvidia, облачные гиганты Microsoft, Google и Amazon Web Services, а также специализированные облака GPU, такие как CoreWeave, и на том, строят ли они больше мощностей, чем их клиенты смогут оплатить. Мы исследовали, что на самом деле делают эти клиенты. На первый взгляд, эти цифры выглядят как противоречие. Почему компании с таким количеством неиспользуемой мощности GPU планируют добавлять или менять платформы для вычислений с использованием ИИ? И почему они оставляют GPU неиспользуемыми, когда, как говорят лидеры технологий, они испытывают сильное давление в этом осеннем бюджетном сезоне, чтобы сократить свои расходы на ИИ? Спрос на ИИ реален, но он направляется в другое русло, чем неиспользуемые GPU. Профессионалы и потребители продолжают использовать все больше ИИ, и большая часть этой работы проходит через передовые модели от Anthropic и OpenAI. Этот спрос продолжит поддерживать расходы этих компаний на вычисления в течение некоторого времени. Несоответствие наблюдается на уровне предприятий, которые оплачивают два типа ИИ, которые не могут легко заменить друг друга. Первый тип — это мощность. Я полагаю, что многие компании испугались сообщений о нехватке GPU в 2024 и 2025 годах и выстроили мощности GPU, чтобы не оказаться в затруднительном положении. Большая часть мощности, которую используют компании, простаивает, показывают наши опросы, хотя в опросах не спрашивалось, как компании получили эту мощность или контролируют ли они ее напрямую. Второй тип — это передовые модели. Инженеры и другие сотрудники предпочли самые мощные модели от Anthropic, OpenAI и Google, оплаченные по токенам через API этих компаний, через ежемесячные подписки или через крупных облачных провайдеров. Мысль была в том, что компаниям нужны лучшие решения, чтобы опередить конкурентов, и они разберутся с экономикой позже. Главный технический директор Uber, Превин Неппалли Нага, заявил в августе, что «мы подходим к концу так называемой эры максимизации токенов», после того как Uber потратил свой бюджет на ИИ за 2026 год всего за несколько месяцев, согласно Fortune. Один из лидеров ИИ в компании Fortune 500, говоривший на условиях анонимности, сообщил мне в октябре, что расходы на ИИ продолжают расти, и хотя компания ожидает, что повышения производительности в конечном итоге компенсируют их, она пока не знает этого. Amazon Web Services, Microsoft и Google теперь продают модели Anthropic или OpenAI через свои облака, и OpenAI сообщила в среду, что ее модели будут доступны в Google Cloud в ближайшие недели. Передовые модели GPT от OpenAI и модели Claude от Anthropic являются закрытыми, поэтому облачный провайдер или производитель модели запускает их на своей инфраструктуре и выставляет счета по токенам или за мощность, зарезервированную для этой модели. Компания не может загрузить их на GPU, которые она уже контролирует. Чтобы перенести работу на эти GPU, компании необходимо переключиться на открытую модель и запустить ее самостоятельно. Это требует реальной инженерной работы, и самые дешевые варианты поднимают свои вопросы: в собственных тестах VentureBeat в октябре модель DeepSeek оказалась самой дешевой из пяти открытых моделей, которые мы протестировали, и DeepSeek поступает из китайской лаборатории — и многие компании все еще не хотят делать ставку на китайские модели как на свои основные рабочие модели по ряду причин. Наши данные подтверждают это в трех аспектах: компании с неиспользуемыми GPU все еще планируют новые платформы. В течение следующего года 70% компаний с неиспользуемыми GPU планируют принять новую, дополнительную или заменяющую платформу для вычислений с использованием ИИ. Это примерно столько же, сколько 74% компаний, чьи GPU заняты. Разница статистически незначительна. Компании с неиспользуемыми GPU рассматривают облачные платформы или поставщиков моделей. Среди тех, кто планирует новую платформу, 90% назвали облачную платформу или поставщика модели среди своих вариантов, и только 8% назвали локальный или совместно используемый кластер GPU или управляемую самостоятельно открытую систему. Компании, которые управляют своим стеком, сообщают о более высокой загрузке GPU. Среди компаний, использующих ИИ на локальном или совместно используемом кластере GPU или управляемом самостоятельно открытом стеке, 56% заявили, что их GPU простаивают как минимум половину времени, по сравнению с 83% всех остальных компаний, использующих ИИ в производстве. Мы не спрашивали, почему. Мое предположение заключается в том, что команда, управляющая своим стеком, видит каждый простой час напрямую и имеет инженеров, чтобы заполнить его. Немногие компании, планирующие новую платформу для вычислений с использованием ИИ, имеют проверенные финансовыми службами показатели ROI. В сентябрьском опросе 91% всех компаний, планирующих новую платформу для вычислений с использованием ИИ, не имели показателя возврата инвестиций, который бы проверила их финансовая команда. Следует отметить, что часть неиспользуемой мощности может быть преднамеренной, поскольку компания может резервировать GPU для пикового спроса, и запланированная платформа может заменить более старую. Я ожидаю, что растущая доля расходов компаний на ИИ будет направлена на использование моделей. Под этим я подразумеваю затраты на каждый токен, которые производители моделей и облачные провайдеры собирают за каждый запрос. Эти расходы, вероятно, будут расти, поскольку компании переходят на ИИ-агентов, которые планируют и выполняют многоступенчатые задачи. По прогнозам Gartner, затраты на вывод на каждого агента будут расти более чем в пять раз к 2028 году. Стоимость каждого токена падает, но агенты используют гораздо больше токенов и более дорогие, так что падающие цены не успевают за ростом. Большинство токенов, которые обрабатывает агент программирования, являются контекстом, то есть инструкциями, документами и историей, которые он перечитывает на каждом этапе. Вот почему кэширование имеет такое значение. В техническом руководстве, впервые опубликованном в марте, два инженера Nvidia сообщили, что после первого вызова в сессии Claude Code последующие вызовы повторно используют от 85% до 97% своего контекста из кэша. Повторное использование этого контекста обходится гораздо дешевле, чем его обработка заново: Anthropic взимает от одной сороковой до одной десятой своей обычной цены за ввод за кэшированные токены, в зависимости от модели. Добавление агентов также увеличивает счет. Команды с агентами программирования, где ведущий агент управляет до пяти подагентов одновременно, стоят от 1,8 до 5,1 раз больше, чем один агент, и только одна из четырех команд улучшила показатели на статистически значимую величину, согласно Vals AI. Компании должны получить больше готовой работы из вычислений и токенов, за которые они уже платят, прежде чем подписывать следующий контракт. На практике это означает шесть вещей: измерение стоимости каждой завершенной задачи, как по мощности GPU, так и по расходам на API; тестирование, какую модель и уровень усилий установить в качестве стандартного для компании, судя по стоимости каждой завершенной задачи, а не по цене за токен, поскольку более дешевая модель может использовать гораздо больше токенов, что в итоге будет стоить больше за задачу; отправка каждому агенту только того контекста, который ему нужен, и кэширование повторяющегося контекста, будь то через API поставщика модели или на собственной инфраструктуре компаний; добавление второго агента только тогда, когда задача делится на параллельные части; перемещение рутинной, высокообъемной работы, такой как классификация, извлечение и обобщение, от API передовых моделей к открытым моделям, работающим на неиспользуемой мощности; заполнение оставшихся неиспользуемых часов GPU работой, которая может подождать, такой как пакетное выведение, оценки моделей и дообучение. Суммит VentureBeat, который состоится 28 октября, будет посвящен этим выбором. Эти вопросы станут повесткой дня Саммита по инфраструктуре агентного стека VentureBeat 28 октября в Сан-Франциско под темой «Умные агенты требуют больше памяти. Лучшие команды будут использовать меньше». День будет разделен на четыре части: сколько агентов запускать: Джефф Саймон, главный информационный директор T-Mobile; Валь Беркович, главный директор по ИИ WEKA; Дипика Кхера, старший директор по ИИ в PayPal; и Бен Кус, главный технический директор Box, обсудят координацию агентов при контроле затрат и рисков; сколько контекста им давать: Анжул Бхамбхри, старший вице-президент по инженерии в Adobe, и Виджой Пандей, старший вице-президент и генеральный директор Outshift от Cisco, обсудят память, контекст и координацию; сколько на самом деле стоит вывод: Мика Хилл-Смит, соучредитель и генеральный директор Artificial Analysis, и Удай Кирана Медисетти, выдающий инженер компании Uber, обсудят экономику вывода, маршрутизацию моделей и стоимость завершенных задач. Трек также включает панель, спонсируемую WEKA, с Судханшу Бистом из Upwork и Валь Берковичем из WEKA. Следует отметить, что данные VentureBeat Intelligence собраны из опросов VB Pulse по инфраструктуре ИИ и вычислениям, проведенных в июле, августе и сентябре 2026 года. Опросы охватили 385 квалифицированных респондентов из организаций с 100 и более сотрудниками, включая консультантов, отвечающих за своих основных клиентов. Каждый месяц опрос привлек разную самовыбранную группу читателей VentureBeat и респондентов панели, поэтому результаты описывают этих респондентов, а не каждую компанию. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.