Google представила TorchTPU для конкуренции с Nvidia в сфере ИИ

Согласно материалу TechCrunch, во вторник Google объявила о запуске TorchTPU, долгожданной версии PyTorch, которая теперь доступна как проект с открытым исходным кодом. С этим шагом Google присоединяется к Amazon в попытках разорвать монополию Nvidia на рынке искусственного интеллекта, где большинство приложений по умолчанию разрабатываются для работы на чипах Nvidia, или GPU. PyTorch является популярным инструментом с открытым исходным кодом, который разработчики приложений ИИ и стартапы используют для создания, обучения и запуска моделей ИИ. По некоторым данным, он используется в 85% приложений ИИ. PyTorch был изначально разработан Meta (тогда Facebook) в 2016 году, задолго до того, как мир осознал, что языковые модели изменят реальность. В то время GPU от Nvidia уже были стандартным оборудованием для исследований в области ИИ, поэтому многие функции PyTorch были разработаны для работы именно с ними. В 2022 году Meta передала PyTorch Фонду Linux, некоммерческой организации, управляющей многими важными проектами с открытым исходным кодом. Версия Google, TorchTPU, позволяет приложениям ИИ работать на чипах Google, известных как Tensor Processing Units (TPU). Она также облегчает перенос существующих приложений PyTorch на TPU и, следовательно, в облако Google. Разработчики могут сделать это с помощью простой настройки и без переписывания своих приложений. Amazon сделала аналогичное заявление в понедельник, когда выпустила свою версию PyTorch под названием TorchNeuron. TorchNeuron позволяет переносить приложения ИИ на собственный чип Amazon, Trainium, и в AWS без переписывания. Amazon также сообщила, что идет еще дальше в своих усилиях по ослаблению контроля Nvidia над PyTorch, предлагая код в основной проект PyTorch, который отделяет различные функции от чипов Nvidia, делая его более открытым для любого оборудования по умолчанию. Тем не менее, Google может опередить Amazon в нескольких аспектах. Компания заявляет, что работала напрямую с Meta, Hugging Face, Inferact (создателем vLLM), RadixArk (создателем SGLang) и другими, чтобы убедиться, что функции и библиотеки кода TorchTPU хорошо совместимы с этими популярными инструментами разработки ИИ, так же как это делает оригинальный PyTorch. Кроме того, поисковый гигант запустил специальный инструмент, набор агентов TPU, чтобы помочь разработчикам перенести свои приложения на чипы и облако Google и исправить ошибки в процессе. Он даже обновил свой популярный инструмент LiteRT, который запускает ИИ на телефонах, ноутбуках и встроенных устройствах, чтобы он лучше работал с приложениями PyTorch. Все это не означает, что разработчики приложений ИИ автоматически откажутся от оборудования Nvidia просто потому, что теперь они могут легко перейти на альтернативные чипы и облака. Однако Amazon и Google явно работают над тем, чтобы положить конец преимуществу Nvidia. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.