Towards AI сообщает, что аренда RTX 5090 обходится меньше чем в 1 доллар в час, а стоимость H100 с декабря выросла почти на 50%. Автор разбирает, какая видеокарта подходит для каких открытых моделей, сравнивает площадки RunPod, Vast.ai и Lambda и объясняет, когда API всё ещё дешевле собственного сервера. Сайты аренды GPU предлагают десятки карт: от старых игровых до новейших серверных от NVIDIA. Разброс цен огромный, и самые дорогие варианты стоят в разы больше в час, чем самые дешёвые. Создаётся впечатление, что здесь действует правило «получаешь то, за что платишь». Автор советует начинать с выбора железа по размеру модели и объёму нужной памяти, при этом обычно речь идёт о запуске открытых моделей в 4-битном квантовании. Далее рассматриваются практические рекомендации по категориям карт. Игровые GPU, такие как 3090 и 5090, выгодны для небольших моделей и агентов для программирования. Профессиональные рабочие карты дают большой объём памяти, но соотношение цены и пользы у них неоднозначное, при этом Pro 6000 выделяется производительностью одной карты. Серверные карты, включая A100, H200, H100, B200, B300 и MI300X, нужны для крупных моделей, масштабирования на несколько GPU и задач, где важны быстрые соединения между картами. Автор сравнивает, где можно арендовать оборудование: на маркетплейсах, в GPU-облаках, у крупных облачных провайдеров и в сервисах с оплатой за секунду. Каждый вариант отличается по стоимости, сложности настройки и надёжности. Отдельно описаны риски простоев и причины, по которым дешёвая аренда не всегда безопасна: машину могут неожиданно отключить или заменить, а данные и прогресс обучения при этом под угрозой. Автор формулирует правила выбора между арендой и API. Аренда выгоднее для пакетных задач и дообучения моделей. API дешевле при интерактивной работе одного пользователя, например при написании кода, когда GPU большую часть времени простаивает в ожидании запросов. В завершение рекомендуется начинать с небольшой конфигурации, тестировать реальные нагрузки и замерять время запуска, загрузки моделей и очередей. Решение о длительной аренде или покупке стоит принимать, исходя из ожидаемого объёма использования. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.