Согласно материалу NVIDIA Developer, инженеры инфраструктуры ИИ, разработчики хранилищ и провайдеры облачных услуг нуждаются в быстром и безопасном доступе к высокоемким файловым и объектным хранилищам для поддержки рабочих нагрузок ИИ. Рабочие нагрузки ИИ требуют высокоскоростного доступа к данным для обучения, дообучения, контекста вывода, вызовов инструментов, поисков и запросов к базам данных. Большая часть этих данных хранится в файлах и объектах как на месте, так и в облаке. Ускорители вычислений, включая графические процессоры (GPU), тензорные процессоры (TPU) и другие ускорители (XPU), нуждаются в удаленном прямом доступе к памяти (RDMA), который использует ускоренные передачи данных через сетевые интерфейсы (NIC) или ускорители обработки данных (DPU), такие как NVIDIA ConnectX NIC или NVIDIA BlueField DPU, и не копирует данные через память, контролируемую CPU сервера. Потребность в ускоренных передачах данных без копирования возрастает с развитием более быстрых архитектур GPU. Разработчики, создающие прямой доступ к файловым и объектным хранилищам, сталкиваются с необходимостью навигации по различным API и протоколам от разных провайдеров. Объектное хранилище через RDMA также не имело общего проводного протокола, что заставляло разработчиков поддерживать интеграции, специфичные для провайдеров, или полагаться на традиционные методы доступа. Расширение xio-sig и новый SDK сервера SCADA предлагают два способа создания более совместимого доступа к хранилищам для рабочих нагрузок ИИ. NVIDIA расширяет xio-sig, включая NVIDIA cuObject наряду с cuFile, в партнерстве с Google Cloud и Microsoft. Также анонсируется общая доступность клиентских и серверных библиотек cuObject. Разработчики могут использовать API cuObject и проводной протокол RDMA для создания ускоренных приложений и серверов объектного хранилища, в то время как xio-sig предоставляет путь к обеспечению совместимости клиента cuObject с любой серверной реализацией, которая соответствует проводному протоколу. Новый SDK сервера SCADA позволяет провайдерам хранилищ создавать SCADA-сервера, которые отвечают на запросы, инициированные GPU, от клиентов SCADA. IBM продемонстрировала совместимость с прототипом, который интегрирует SCADA и IBM Storage Scale. В сочетании с расширением xio-sig эти усилия предоставляют разработчикам ИИ, провайдерам хранилищ и облачным сервисам больше возможностей для создания и использования ускоренного хранилища через общие API и протоколы. Также появляется новый класс доступа к данным ИИ, включающий небольшие, детализированные запросы ввода-вывода, инициируемые ускорителями, которые не соответствуют традиционным носителям хранилищ или протоколам. Через инициативу NVIDIA Storage-Next NVIDIA возглавляет группу из более чем 40 поставщиков и клиентов, включая производителей NAND, производителей контроллеров, провайдеров хранилищ, гипермасштаберов и разработчиков приложений, чтобы определить, как должно работать хранилище, управляемое GPU, и превратить эти достижения в совместимые, открытые отраслевые стандарты. Программная инфраструктура, поддерживающая высокопроизводительный, детализированный доступ к хранилищам, инициированному GPU, — это SCADA. Блог FMS о открытых API cuFile, Storage-Next и SCADA предоставляет информацию об этих усилиях. Общая доступность библиотек cuObject предоставляет разработчикам приложений ИИ, разработчикам открытых фреймворков, провайдерам хранилищ и потребителям хранилищ стандартизированные методы для ускоренного доступа к данным ИИ с использованием как файловых, так и объектных протоколов. Ускорители ИИ могут получать доступ к файловым и объектным хранилищам с использованием RDMA, без маршрутизации данных через CPU сервера, что позволяет достичь более высокой пропускной способности, меньшей задержки и сниженной нагрузки на CPU при записи и чтении данных. Google Cloud, продолжая участвовать в качестве поддерживающего участника cuFile в xio-sig, рассматривает возможность расширения своего участия для cuObject, что отражает его фокус на высокопроизводительном облачном файловом и объектном хранилище. Microsoft также ожидает присоединиться к совету xio-sig для улучшения совместимости в I/O хранилищ. Структура репозитория настроена для каждого из cuFile и cuObject. Заголовки для cuFile и cuObject, проводной протокол cuObject и код реализации библиотеки для libxFile и xFilekernel будут опубликованы, как только готовый к производству стек пройдет тесты на соответствие. Документы управления в настоящее время находятся на рассмотрении у ожидающих членов совета. В рамках инициативы Storage-Next новый SDK сервера SCADA позволяет партнерам по хранилищам создавать серверы, которые принимают запросы от клиентов SCADA на базе GPU, выполняют их с использованием локального или удаленного хранилища и передают результаты через RDMA. Эти компоненты поддерживают серверы провайдеров хранилищ, которые могут взаимодействовать с клиентами SCADA. IBM Storage продемонстрировала прототип, в котором клиент SCADA отправляет запросы на их первоначальную версию сервера SCADA Storage Scale, построенного на новом SDK сервера SCADA. Это показывает, как поставщики хранилищ могут сотрудничать с NVIDIA для создания экосистемы для ускоренного доступа к хранилищам, инициированного GPU, прокладывая путь для программной инфраструктуры, которая может поддерживать доступ к большим наборам данных для таких приложений, как семантический поиск, рекомендательные системы и выявление мошенничества. С расширением xio-sig, включающим NVIDIA cuObject, и с уже доступными библиотеками cuObject, партнеры по хранилищам, провайдеры и потребители могут начать использовать cuObject и подготовиться к участию в работе сообщества по совместимым API и протоколам как для cuFile, так и для cuObject. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.