Согласно материалу NVIDIA Generative AI, компания NVIDIA разрабатывает инструменты для безопасного развертывания агентов на всех уровнях. Сегодня была анонсирована архитектура NVIDIA OpenShell Reference, которая является частью растущего портфолио технологий NVIDIA, позволяющих организациям безопасно разворачивать агентов в масштабах. NVIDIA Confidential Computing представляет собой инфраструктурный уровень, который защищает модели и данные, от которых зависят эти агенты во время работы. В настоящее время NVIDIA расширяет этот уровень с помощью Confidential Bare Metal, новой опции развертывания, которая позволяет строителям передовых моделей запускать чувствительные рабочие нагрузки на выделенной инфраструктуре третьих лиц, сохраняя контроль над своими моделями и данными. NVIDIA вводит новые меры безопасности платформы, которые защищают данные во время передачи, измеряют целостность платформы и обеспечивают аппаратные ограничения доступа. Эти новые меры позволяют строителям передовых моделей использовать bare-metal экземпляры для управления и эксплуатации своего программного обеспечения, включая хост и программное обеспечение для платформы, при работе на инфраструктуре NVIDIA ускоренных вычислений в облаках третьих лиц, неоклаудах и корпоративной инфраструктуре. NVIDIA Confidential Computing теперь предлагает объединенную архитектуру безопасности с тремя вариантами развертывания: Confidential Bare Metal для bare-metal инфраструктуры, Confidential Containers для окружений Kubernetes и Confidential Virtual Machines для виртуализированных окружений. Организации могут подбирать подходящую модель в зависимости от своих требований к доверию и операционным условиям. NVIDIA Confidential Computing также расширяется на системы NVIDIA Grace Blackwell и Rubin и будет интегрироваться с NVIDIA DSX OS в качестве эталонной архитектуры для облачных провайдеров, создающих фабрики ИИ. Confidential Bare Metal предоставляет поддерживаемым провайдерам возможность обслуживать высокоценные рабочие нагрузки, требующие надежной защиты моделей и данных. Для строителей моделей расширяющаяся экосистема предлагает больше географических, суверенных и операционных вариантов для масштабирования обучения и вывода по всему миру. Компания Cohere планирует интегрировать Confidential Bare Metal в Cohere Model Vault, используя доверенные вычислительные среды NVIDIA Confidential Computing для продления аппаратной безопасности непосредственно до GPU — защищая модели и данные в памяти и по соединениям во время выполнения. «Предприятия доверяют Cohere в предоставлении безопасной и конфиденциальной платформы для вывода», — сказал Фил Блансом, технический директор Cohere. «С NVIDIA Confidential Computing в Cohere Model Vault мы продлеваем аппаратную безопасность непосредственно до GPU, защищая данные клиентов в памяти и по соединениям во время выполнения.» Google Cloud расширяет поддержку Confidential Bare Metal для экземпляров A4X Max, работающих на системах NVIDIA GB300 NVL72. Эти экземпляры будут сочетать не виртуализированные NVIDIA ускоренные вычисления с криптографической защитой для данных обучения и интеллектуальной собственности моделей. «Google Cloud вводит Confidential Bare Metal, чтобы предоставить лабораториям ИИ аппаратно-изолированные, не виртуализированные вычислительные среды и полную криптографическую защиту. Наши экземпляры A4X, созданные с использованием NVIDIA Confidential Computing, сохраняют конфиденциальность пользовательских данных, защищают интеллектуальную собственность моделей и обеспечивают высокую производительность сервиса», — сказал Андрес Лагар-Кавилья, выдающийся инженер и руководитель по безопасности инфраструктуры ИИ в Google Cloud. NVIDIA Confidential Computing использует аппаратное изолирование и криптографическую аттестацию для защиты моделей и данных во время выполнения. Поддержка теперь распространяется на системы NVIDIA Grace Blackwell NVL72, что приносит Confidential Computing в системы NVL72 на уровне стоек, а также на системы NVIDIA HGX Rubin NVL8 и NVIDIA DGX Rubin NVL8 на базе x86. CoreWeave, Firmus, GMI Cloud, Google Cloud, IREN, Lambda, Microsoft Azure Infrastructure, Nebius, Nscale и Vultr поддерживают развертывания NVIDIA Confidential Computing. Глобальные системные партнеры, такие как Cisco, Dell Technologies, HPE, Lenovo, Supermicro и Bull, поддержат эти возможности с помощью систем, сертифицированных NVIDIA. NVIDIA DSX OS будет поддерживать все режимы NVIDIA Confidential Computing, предоставляя облачным провайдерам программную основу для создания и эксплуатации фабрик ИИ, поддерживающих конфиденциальные рабочие нагрузки. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.