NVIDIA Developer рассказывает, что фабрики искусственного интеллекта являются системами с ограниченной мощностью, которые обеспечивают максимальную ценность при полной оптимизации. Размещение нагрузки на графических процессорах (GPU) является ключевым элементом этой оптимизации. Плохое размещение нагрузки фрагментирует топологические домены и заставляет трафик проходить через общие каналы, что снижает пропускную способность, увеличивает затраты на выполнение задач и оставляет GPU потреблять выделенную мощность, ожидая данных без продвижения нагрузки. GPU постоянно обмениваются данными во время обучения и вывода, поэтому распределенные нагрузки выигрывают от локальности связи. NVIDIA NVLink и NVLink Switch обеспечивают высокоскоростное, масштабируемое соединение внутри доменов GPU на уровне стоек, в то время как Ethernet Spectrum-X от NVIDIA предоставляет предсказуемую, низколатентную сетевую связь на уровне систем и стоек. Планировщик может эффективно размещать нагрузки только при наличии актуального и точного представления о взаимосвязях между GPU и сетевой инфраструктурой, и поддержание этого представления актуальным по мере изменения кластера является проблемой, с которой сталкиваются на практике. NVIDIA Topograph решает эту проблему. Он обнаруживает топологию кластера через облачные API или локальные системы, нормализует её в общую модель и публикует в формате, который ожидает каждый менеджер нагрузки: метки узлов Kubernetes, конфигурация топологии Slurm или ConfigMaps Slinky. В рамках слоя оркестрации кластера NVIDIA DSX OS Topograph работает совместно с динамическим распределением ресурсов (DRA) и планировщиком KAI для обеспечения учета топологии при групповой планировке по всей инфраструктуре фабрики ИИ. Основная проблема топологии заключается в том, как подключено оборудование кластера, чтобы планировщики могли предпочитать ближайшие ресурсы. Рассматривайте сеть как дорожную систему: GPU в одном локальном домене имеют короткие, высокоскоростные пути, в то время как трафик между доменами проходит через более общие каналы и коммутаторы. Распределение плотно связанных нагрузок по удалённым доменам может увеличить конкуренцию и задержки, поэтому Topograph помогает размещать нагрузки в наиболее эффективных местах и избегать этих узких мест. Современные порты NVIDIA Quantum InfiniBand могут достигать скорости до 800 Гбит/с, в то время как NVIDIA NVLink обеспечивает 1,8 ТБ/с двунаправленной пропускной способности на GPU пятого поколения (NVIDIA Blackwell, такие как GB200/GB300) и 3,6 ТБ/с на GPU шестого поколения (Vera Rubin) через выделенную инфраструктуру NVIDIA NVLink Switch. Эта неблокирующая, общая система обеспечивает каждому GPU собственную полосу, а не делит пропускную способность под нагрузкой. Планировщики с актуальным представлением могут отдавать предпочтение GPU в ближайшем топологическом домене. Slurm и Kubernetes оба поддерживают распределение, учитывающее топологию, но планировщик может действовать только на основе той топологии, которую он наблюдает. Topograph восстанавливает это представление по запросу и при изменениях в кластере, таким образом, планировщик работает с актуальными данными, а не с вручную поддерживаемой снимкой. Topograph является открытым инструментом, который идентифицирует сетевую топологию кластера, позволяя менеджерам нагрузки принимать решения о планировании с учетом топологии. Он имеет две концепции: провайдеры и движки. Провайдер обнаруживает топологию через облачные API или локальные системы и нормализует её в каноническую модель. Движок переводит эту модель в конфигурацию Slurm, метки Kubernetes, ConfigMaps Slinky, ресурсы Node Feature Discovery (NFD) или JSON топологии, ориентированный на экземпляры. Облачные провайдеры, которые имеют работающую интеграцию с Topograph, включают Google Cloud, Lambda, Nebius, Nscale и OCI, с дополнительными облачными и колокационными провайдерами в разработке. При использовании в локальных условиях используйте провайдер InfiniBand с ibnetdiscover или NetQ для Spectrum-X или Multi-Node NVLink (MNNVL) доменов. Интерфейс провайдера открыт, поэтому операторы могут добавить свой собственный для своей среды и внести свой вклад в общий проект. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником. Обеспечение безопасного высокопроизводительного ИИ с NVIDIA Confidential Computing Claude Opus 5.5 теперь доступен на Amazon Bedrock Tata Elxsi разработала платформу IRIS для обнаружения рисков на заводах за секунды. AstroForge разрабатывает ИИ для управления космическими аппаратами, что позволит компании проводить миссии без постоянного контроля с Земли. Стартап использует нейронные паттерны из мозга крыс для создания ИИ-моделей.