На облачном рынке появляется новый класс игроков - neocloud. В отличие от традиционных облачных провайдеров, такие компании изначально строят инфраструктуру вокруг GPU и задач искусственного интеллекта. О том, почему AI меняет саму архитектуру облаков, зачем компаниям тысячи связанных между собой GPU и почему в этой гонке вопрос электроэнергии становится не менее важным, чем доступ к современным чипам, рассказал CEO Freedom Cloud Темирлан Зиналабдин. — В последнее время все чаще используется термин neocloud. Что это вообще такое и чем он отличается от обычного облака? — Если совсем просто, обычное облако строилось как универсальная инфраструктура. Компании нужны виртуальные серверы, базы данных, хранилище, резервное копирование - она получает все это как сервис. Neocloud строится немного от обратного. В центре изначально находится очень тяжелая вычислительная нагрузка - прежде всего AI. Поэтому основу такой инфраструктуры составляют GPU-кластеры, высокоскоростные сети, специализированные системы хранения и соответствующая инженерная инфраструктура. То есть это не «новое облако» в буквальном смысле. Скорее специализация облачной модели под задачи, для которых обычной вычислительной инфраструктуры уже недостаточно. — Но крупные облачные провайдеры тоже предлагают GPU. Зачем тогда понадобился отдельный класс компаний? — Конечно, предлагают. И говорить, что традиционные облака не подходят для AI, было бы неправильно. Вопрос в масштабе и специализации. Есть большая разница между тем, когда компании нужны несколько GPU для эксперимента, и ситуацией, когда нужно одновременно задействовать сотни или тысячи ускорителей для обучения модели. Во втором случае недостаточно просто поставить много дорогих видеокарт в стойки. Они должны работать как единая вычислительная система. Нужны очень быстрая сеть между узлами, правильная архитектура хранения данных, охлаждение, электропитание. Даже то, как физически размещено оборудование внутри ЦОДа, начинает влиять на эффективность всей системы. Именно вокруг таких задач и появился рынок специализированных AI-cloud провайдеров. — Почему эта тема сейчас привлекает столько денег? Например, Crusoe недавно привлекла 3,9 млрд долларов при оценке почти 31 млрд долларов. — Потому что рынок начал понимать: за каждым AI-сервисом стоит очень капиталоемкая физическая инфраструктура. Мы привыкли видеть конечный продукт - чат-бот, генерацию видео, корпоративного AI-ассистента. Но за простым запросом пользователя находится длинная цепочка: дата-центр, электричество, охлаждение, сеть, серверы, GPU и только потом программный слой. И чем больше становится AI-продуктов, тем больше нужна вся эта инфраструктура. Поэтому инвестиции идут уже не только в разработчиков моделей. Большой капитал идет в компании, которые обеспечивают вычисления для этих моделей. — То есть главный актив neocloud - это GPU? — GPU — очень важная часть, но я бы не сводил все к ним. Можно купить самые современные ускорители и получить очень дорогой набор оборудования, который используется неэффективно. Задача инфраструктурного оператора - добиться высокой загрузки этого оборудования. Для этого нужно правильно собрать весь стек: сеть, storage, software, охлаждение, энергетику. Особенно хорошо это видно при обучении больших моделей. Тысячи GPU должны постоянно обмениваться огромным количеством данных. Если сеть становится узким местом, часть дорогостоящих ускорителей фактически простаивает в ожидании. Поэтому ценность сегодня не просто в наличии GPU. Она в способности построить вокруг них эффективную инфраструктуру. — Насколько критичным становится вопрос электроэнергии? — Я бы сказал, что это уже один из основных вопросов. AI существенно увеличивает плотность вычислений. В одной стойке сегодня можно разместить вычислительную мощность, которая требует совершенно другого подхода к энергоснабжению и охлаждению, чем традиционная серверная инфраструктура. Поэтому при строительстве крупных AI-кластеров разговор довольно быстро переходит от количества GPU к мегаваттам. И здесь возникает интересная ситуация. Раньше при выборе площадки для IT-инфраструктуры мы в первую очередь обсуждали связь, надежность ЦОДа, стоимость размещения. Теперь доступность энергии становится одним из ключевых факторов. AI в каком-то смысле снова сделал IT очень физической отраслью. — Что вы имеете в виду? — Последние 10-15 лет облачная индустрия двигалась в сторону абстракции. Пользователю неважно, какой конкретно сервер стоит в дата-центре. Он нажимает несколько кнопок и получает необходимый ресурс. С AI физический уровень снова становится важным. Какой GPU установлен? Сколько их? Как они соединены? Какая пропускная способность сети? Как быстро данные поступают к ускорителям? Как охлаждается оборудование? Сколько доступно электроэнергии? Для разработчика AI-модели ответы на эти вопросы напрямую влияют и на скорость работы, и на стоимость. Поэтому мы видим возвращение внимания к инфраструктуре. — Получается, что обычные облака со временем уступят место neocloud? — Нет. Я бы вообще не ставил вопрос таким образом. У бизнеса остается огромное количество задач, где специализированная GPU-инфраструктура просто не нужна. Корпоративные системы, базы данных, сайты, ERP, резервное копирование - традиционное облако прекрасно решает эти задачи. Neocloud закрывает другой класс нагрузок. Более того, думаю, рынок будет двигаться к смешанной модели. Одна компания может одновременно использовать обычное облако для корпоративной инфраструктуры, специализированный GPU-кластер для обучения модели и отдельные мощности для inference, когда эта модель уже работает с пользователями. Поэтому речь скорее не о замене одного другим, а о специализации. — А обучение AI и его дальнейшая работа требуют разной инфраструктуры? — Да, и это важный момент. Training - это период, когда модель обучается. Здесь могут понадобиться очень большие кластеры, которые одновременно выполняют огромный объем вычислений. Inference - это уже использование обученной модели: когда пользователь задает вопрос, загружает изображение или отправляет запрос корпоративному AI-сервису. Требования здесь отличаются. Для inference важны скорость ответа, стоимость каждого запроса, географическая близость инфраструктуры к пользователю. И по мере массового внедрения AI именно inference будет создавать все больше постоянной нагрузки. Поэтому AI-инфраструктура тоже постепенно будет становиться более разнообразной. — Насколько эта тенденция актуальна для Казахстана? Все-таки масштабы нашего рынка несопоставимы с США. — Нам точно не нужно пытаться копировать американский рынок один в один. Но сама тенденция для Казахстана очень актуальна. Если компании внутри страны начинают внедрять AI, им нужны вычислительные мощности. Причем не всем обязательно покупать собственные GPU и строить серверные. Для большинства бизнеса это вообще неэффективная модель. Гораздо логичнее получать вычисления как сервис и платить за тот ресурс, который действительно используется. Здесь уже возникает вопрос локальной инфраструктуры: где находятся данные, какая задержка, насколько быстро можно получить необходимые мощности, в какой юрисдикции они обрабатываются. Поэтому развитие AI неизбежно будет увеличивать спрос и на локальные облачные, и на GPU-мощности. — Что в итоге меняется для обычного бизнеса? Нужно ли компаниям уже сейчас разбираться в neocloud, GPU-кластерах и архитектуре ЦОДов? — Бизнесу не обязательно разбираться в устройстве GPU-кластера так же глубоко, как инфраструктурному оператору. Для него важнее другой вопрос: сколько стоит решить конкретную задачу с помощью AI и насколько легко эту систему потом масштабировать. Инфраструктура должна в итоге стать незаметной для клиента. Но чтобы клиент мог нажать условную кнопку и через несколько минут получить необходимые AI-мощности, на другой стороне должна работать очень сложная система - от электроснабжения и охлаждения до GPU, сети и программного обеспечения. Поэтому мне кажется показательным само появление neocloud. Мы много говорим о новых AI-моделях, но следующий этап развития рынка будет во многом зависеть от того, насколько быстро мы сможем построить инфраструктуру под их массовое использование.