Как сообщает TechCrunch, Nvidia поддержала индийский стартап Simplismart в рамках раунда финансирования на сумму 14 миллионов долларов, делая ставку на программное обеспечение, которое помогает компаниям более эффективно запускать модели искусственного интеллекта, а в некоторых случаях и с меньшим количеством графических процессоров (GPU). Nvidia приняла участие в раунде серии B наряду с Accel, Shastra VC и Micromax, а ведущим инвестором выступила Dallas Venture Capital. Сделка оценивает четырехлетний стартап примерно в 100 миллионов долларов, включая новое финансирование. В настоящее время компании значительно тратят деньги на GPU для поддержки приложений ИИ, однако надежный и экономичный запуск этих моделей в масштабе остается вызовом. Разные рабочие нагрузки требуют различных компромиссов между скоростью, стоимостью и производительностью. Развертывание и эксплуатация моделей ИИ для удовлетворения бизнес-требований часто требуют сложных настроек. Simplismart утверждает, что его программное обеспечение автоматизирует большую часть этой работы, адаптируя работу моделей к существующей вычислительной инфраструктуре, вместо того чтобы требовать от клиентов управления этими конфигурациями самостоятельно. «Никто на самом деле не нуждается в самой быстрой или самой дешевой инференции», — сказал в интервью Амританшу Джайн, соучредитель и генеральный директор Simplismart. Он добавил, что компаниям необходимо запускать модели ИИ на скоростях и с затратами, которые имеют смысл для их конкретных приложений. Программное обеспечение Simplismart находится между моделями ИИ и вычислительной инфраструктурой, на которой они работают, и регулирует, как модели развертываются и управляются в соответствии с требованиями клиентов. Оно может оптимизировать такие факторы, как скорость отклика модели, количество обрабатываемых запросов и потребляемая вычислительная мощность, помогая компаниям извлекать больше из их существующего набора GPU. Стартап из Бангалора предлагает компаниям способ развертывания и запуска моделей ИИ через свою собственную платформу или в рамках их существующей облачной и локальной инфраструктуры. Он также предоставляет инструменты для тонкой настройки моделей, автоматического масштабирования вычислительных ресурсов по мере изменения спроса и мониторинга производительности. Кроме того, Simplismart позволяет облачным провайдерам создавать и управлять собственными сервисами инференции ИИ на GPU-инфраструктуре, используя свое программное обеспечение. Simplismart утверждает, что помогла платформе генерации видео ИИ InVideo сократить затраты на обслуживание GPU на 56% с помощью своего программного обеспечения. Стартап также работает с компаниями по созданию видео ИИ HeyGen и Higgsfield, а также с корпоративным стартапом ИИ Ema и другими. Более того, индийский облачный провайдер Yotta использует технологии Simplismart для поддержки серверной услуги инференции ИИ в рамках своей платформы Shakti Studio. Годовой доход Simplismart за последние шесть месяцев увеличился в 14 раз и достиг восьмизначной суммы, сообщил Джайн TechCrunch. Эта цифра основана на недавнем использовании клиентами, а не на контрактных повторяющихся доходах, и исключает доход, переданный провайдерам инфраструктуры, добавила компания. Он не раскрыл точную сумму. Более половины дохода Simplismart поступает из США, несмотря на то, что у стартапа больше клиентов в Индии, сказал Джайн. Помимо инвестиций, Nvidia работает с Simplismart над техническими интеграциями, включая программное обеспечение для инференции Dynamo, сообщил Джайн TechCrunch. Сотрудничество включает инженеров Simplismart и архитекторов решений Nvidia, а также Nvidia помогла представить стартап потенциальным клиентам и партнерам, отметил Джайн. Интересно, что инвестиции представляют собой очевидный парадокс, поскольку Nvidia, доминирующий поставщик чипов ИИ, поддерживает программное обеспечение, которое может помочь компаниям запускать некоторые рабочие нагрузки с меньшим количеством GPU. Тем не менее, Джайн утверждает, что повышение эффективности инференции ИИ может в конечном итоге принести пользу Nvidia, сделав ее оборудование более привлекательным для клиентов и способствуя более широкому внедрению приложений ИИ. Simplismart обслуживает клиентов на все более насыщенном рынке программного обеспечения для инференции ИИ, конкурируя с предложениями от самой Nvidia, а также крупных облачных провайдеров и гиперскейлеров, включая Amazon Web Services, Google Cloud и Microsoft Azure. Растущее количество стартапов также разрабатывает инструменты для ускорения и удешевления запуска моделей ИИ, так как существует растущий спрос в этом сегменте, вызванный увеличением потребности в приложениях ИИ и необходимостью более рационального использования дорогих ресурсов GPU. «Где мы, как правило, выигрываем, так это там, где людям нужно быть более строгими в отношении их соглашений об уровне обслуживания (SLA) и общей стоимости владения (TCO)», — сказал Джайн, имея в виду требовательные требования к производительности и жесткие ограничения по затратам. В отличие от конкурентов, которые предлагают предустановленные варианты для более быстрой или дешевой инференции, Simplismart стремится найти баланс, адаптированный к потребностям каждого клиента, добавил он. Основанный в 2022 году бывшим инженером Oracle Джайном и бывшим инженером Google Деваншем Гхатаком, Simplismart вырос из опыта пары в построении и развертывании систем машинного обучения. Они встретились во время учебы в BITS Pilani, а сейчас стартап нанимает 58 человек, сказал Джайн. Simplismart планирует использовать новое финансирование для расширения своего присутствия в США, увеличения команды и дальнейших инвестиций в разработку своего программного обеспечения для инференции. Джайн сообщил TechCrunch, что США остаются ключевым рынком для стартапа, поскольку он стремится нарастить свою существующую клиентскую базу там. Объявление о финансировании последовало за отчетом индийской английской газеты The Economic Times о том, что Simplismart ведет переговоры о привлечении 40-50 миллионов долларов при оценке от 300 до 400 миллионов долларов. На вопрос о репортаже Джайн отказался комментировать, заявив, что стартап не ведет активный сбор средств. Он добавил, что серия B была закрыта и не будет продлена. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.