Как пишет NVIDIA Generative AI, в следующем месяце станет доступна общая доступность экземпляров A5X, с планами расширения доступности в Европу. Это интегрированная платформа для обучения, вывода и масштабного обучения с подкреплением для облачных клиентов. Экземпляры A5X объединяют NVIDIA Vera Rubin NVL72, NVIDIA ConnectX-9 SuperNICs, сеть Google Cloud Virgo и технологии жидкостного охлаждения четвертого поколения Google Cloud для требовательных задач вывода и обучения с подкреплением в больших масштабах. Google Cloud планирует масштабировать свою инфраструктуру на основе Vera Rubin до 960 000 графических процессоров Rubin на нескольких площадках. Первым клиентом, получившим доступ к A5X, стала компания Ineffable Intelligence, базирующаяся в Лондоне и основанная создателем AlphaGo Дэвидом Силвером. Ineffable использует платформу для продвижения масштабного обучения с подкреплением и создания систем «суперобучателей», которые непрерывно учатся на опыте. Обучение через взаимодействие требует непрерывного цикла генерации опыта, оценки результатов и обновления моделей, что требует инфраструктуры, способной поддерживать весь процесс в больших масштабах. A5X интегрирует Vera Rubin в ИИ гиперкомпьютер Google Cloud как единую систему, объединяя вычисления, сети и хранилище для поддержки обучения на основе опыта в больших масштабах. «Мы создаем суперобучателей, которые постоянно улучшаются на основе собственного опыта», — сказал Дэвид Силвер, основатель и генеральный директор Ineffable Intelligence. «Это требует значительных вычислительных ресурсов и тесной связи между генерацией опыта и обучением на нем, чтобы каждое улучшение агента быстро формировало его следующий опыт. Сочетание вычислительной производительности и высокой пропускной способности Vera Rubin, между процессором Vera и графическими процессорами Rubin, а также между графическими процессорами Rubin в стойке, позволяет нам продвигать масштаб и амбиции нашего исследования обучения с подкреплением дальше». Компания WPP, маркетинговая и коммуникационная компания из Лондона, также продемонстрировала свою архитектуру креативного агента на экземплярах A5X на основе NVIDIA Vera Rubin, используя модели NVIDIA Nemotron и NVIDIA OpenShell, часть архитектуры NVIDIA OpenShell для безопасных ИИ-агентов. Агенты превращают разговорные запросы в многоступенчатые креативные рабочие процессы, такие как создание видео, увеличение разрешения и изменение стиля, с одобрением человека перед выполнением. OpenShell предоставляет управляемые песочницы для выполнения агентов, помогая контролировать доступ к чувствительным активам бренда и креативным инструментам. В первых тестах WPP рабочие нагрузки, которые обычно требовали многонодного кластера, выполнялись на одном экземпляре A5X. Поскольку организации внедряют агентные системы, им необходимо защищать собственные модели и чувствительные данные, которые питают эти системы, даже когда они работают на инфраструктуре, которой они не владеют. Google Cloud станет одним из первых облачных провайдеров, предлагающих NVIDIA Confidential Computing на уровне стойки на экземплярах без виртуализации, таких как A4X Max, работающих на NVIDIA GB300 NVL72. Кроме того, Google Cloud делает Confidential Computing общедоступным на виртуальных машинах G4, работающих на графических процессорах NVIDIA RTX PRO 6000 Blackwell Server Edition, предлагая гибкую платформу для конфиденциального вывода и тонкой настройки. Клиенты, включая Vertebrae, Polaris Cloud и Confidential Core AI, используют Confidential G4 для обеспечения конфиденциальности разговоров, проверяемого выполнения агентов и корпоративной интеллигенции, регулируемой политиками. Для поддержки энергоэффективного развертывания в больших масштабах Google Cloud и NVIDIA изучают возможности NVIDIA DSX MaxLPS для инфраструктуры на основе Vera Rubin, чтобы помочь оптимизировать производительность на ватт и расширить мощность в рамках доступных бюджетов электроснабжения дата-центров. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.