Как сообщает издание TechCrunch, в понедельник Amazon Web Services представила инструмент под названием TorchNeuron, который позволяет стартапам в области искусственного интеллекта легко переносить свои приложения на чипы Amazon, Trainium. Таким образом, Amazon также делает прямую попытку оспорить программное преимущество, которое помогло Nvidia стать стандартным выбором аппаратного обеспечения для приложений ИИ и способствовало её росту как предпочтительного поставщика оборудования для ИИ. TorchNeuron совместим с PyTorch, бесплатным набором инструментов с открытым исходным кодом, который разработчики используют для создания, обучения и запуска моделей ИИ. Он позволяет приложениям ИИ, написанным на PyTorch, работать на Trainium, изменив всего одну строку конфигурации, согласно утверждению Amazon — переписывать код не требуется. Amazon утверждает, что около 85% приложений ИИ написаны с использованием PyTorch. Изначально его разработал Facebook, но с 2022 года он стал частью Linux Foundation, которая поддерживает проекты с открытым исходным кодом. Nvidia потратила годы на то, чтобы обеспечить бесшовную поддержку своих приложений, написанных на PyTorch, через свою программную инфраструктуру CUDA, которая позволяет приложениям работать на графических процессорах Nvidia и другом оборудовании. В результате оборудование Nvidia теперь глубоко интегрировано в этот набор инструментов, фактически по умолчанию. TorchNeuron адаптирован из PyTorch, поэтому разработчики, знакомые с PyTorch, уже знают, как им пользоваться. Amazon не первая компания, которая пытается легко адаптировать свои чипы к этой платформе. Пользователи PyTorch также могут переносить свои приложения на графические процессоры AMD или даже на чипы Apple с помощью простого изменения конфигурации. Однако Amazon утверждает, что перенос на Trainium не только прост, но и предоставляет стартапам доступ ко всей облачной инфраструктуре Amazon. Неудивительно, что AWS утверждает, что это лучший выбор для стартапов по сравнению с неоклаудами, многие из которых связаны с Nvidia и её оборудованием, такими как Coreweave, Nebius и Firmus. «Вы строите на AWS. Вы не делаете ставку на единственного поставщика вычислений и не пытаетесь создать всё остальное вокруг этого», — сказал Колин Брейс, вице-президент по программному обеспечению в AWS Annapurna Labs (подразделение, которое производит собственные чипы Amazon), в письме TechCrunch. «На AWS», — продолжил он, — «инфраструктура для перехода от прототипа к производству уже существует, что позволяет основателю быстро развиваться и масштабироваться, когда это необходимо». AWS утверждает, что поскольку один и тот же чип отвечает как за обучение (обучение модели ИИ), так и за вывод (использование готовой модели, например, при ответе на вопрос пользователя) и тесно интегрирован с облачной инфраструктурой, необходимой стартапам, его облако сэкономит им деньги, даже если AWS не предлагает самую низкую цену за токен. «Ценность Trainium заключается в соотношении цены и производительности, а также в том, что это одна платформа как для обучения, так и для вывода, что улучшает экономику работы по всему рабочему процессу», — сказал Брейс. «Посмотрите на Deepgram — они перешли на Trainium, используя нативный PyTorch, и теперь обрабатывают на 70% больше аудио за доллар при производственной точности». Deepgram — это поставщик голосовых приложений ИИ, конкурент ElevenLabs. Однако Amazon не удовлетворяется лишь тем, чтобы предоставить разработчикам приложений PyTorch простой вариант перехода на своё облако. Amazon также заявляет, что она стремится сделать PyTorch менее автоматически ориентированным на Nvidia и будет вносить изменения в основной проект PyTorch для этого. В блоге, анонсирующем новый инструмент, компания написала: «Подход Amazon выходит за рамки её собственного оборудования. Компания вносит изменения в PyTorch, работая с сообществом PyTorch для удаления кода, который связывает фреймворк с конкретными чипами. Цель состоит в том, чтобы сделать PyTorch более независимым от аппаратного обеспечения для всего сообщества разработчиков, а не только для пользователей Trainium». Хотя такая тактика, безусловно, полезна для тех, кто продаёт оборудование и облачные услуги, конкурирующие с Nvidia, одной из задач PyTorch является скрытие всех неприятных трудностей, связанных с запуском ИИ-кода на аппаратном обеспечении. Нам останется только ждать и смотреть, приведёт ли вытеснение Nvidia к большему выбору и более доступным вариантам, как обещает Amazon, или просто создаст больше головной боли с конфигурацией. В любом случае, если Amazon добьётся успеха в глубоком разъединении PyTorch от Nvidia, это может иметь гораздо более серьёзные последствия для гиганта GPU, чем просто борьба с конкурентами по чипам. Как сказал Брейс: «Истинная история заключается в устранении зависимости, которая не позволяла разработчикам иметь реальный выбор». Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.