По данным VentureBeat, на рынке вычислений наблюдается тенденция к появлению более дешевых и открытых альтернатив. Это напоминает предыдущие столкновения, такие как Linux и Windows или Android и iOS, где обе стороны в конечном итоге нашли свои ниши. Подобная ситуация складывается и с моделями искусственного интеллекта. Хотя проприетарные модели от OpenAI и Anthropic доминируют в корпоративном использовании, расходы на токены вывода постепенно смещаются в сторону открытых моделей. Риск для бизнеса заключается не в выборе неправильной стороны, а в том, что компания может слишком сильно привязаться к одному поставщику моделей, что сделает переход к другому поставщику слишком дорогим или непрактичным. Компании стремятся к контролю — над тем, куда уходят данные, как ведет себя модель и какова степень их уязвимости, если поставщик исчезнет или изменит условия. Запуск модели на собственных серверах или в облаке компании делает ИИ жизнеспособным в регулируемых отраслях, таких как здравоохранение, юридические услуги и финансовый сектор, где отправка данных на внешний API часто невозможна. Обучение открытой модели на собственных данных компании позволяет сохранить кастомизацию внутри, формируя поведение модели без передачи этого процесса поставщику. Владение весами модели означает, что компания не останется без поддержки, если поставщик исчезнет, будет куплен или изменит свои условия. Модель не может быть отнята. Однако контроль имеет свою цену; он возлагает большую ответственность на конечного пользователя. Открытые модели не являются открытым исходным кодом. Обычно вы получаете веса, но не обучающие данные, код или настоящую лицензию. Это важно, поскольку определяет, кто несет ответственность, если что-то пойдет не так. С закрытой моделью поставщик выполняет важную работу по обеспечению безопасности. С открытой моделью эта работа ложится на вашу команду, и это легче отменить, чем многие осознают. Исследования показывают, что обучение безопасности модели можно отменить с помощью небольшого количества примеров дообучения, и защитные механизмы моделей, таких как Llama и Gemma, можно удалить за считанные минуты. Это не причина избегать открытых моделей, но компании должны быть осведомлены о рисках. Наиболее очевидное применение открытых моделей — это узкие, четко определенные задачи, такие как встраивание, классификация и обнаружение персонально идентифицируемой информации. Модель, специально настроенная для одной из этих задач, может часто превзойти фронтальную модель за значительно меньшую стоимость, по крайней мере, с точки зрения вычислений. Это связано с тем, что большая фронтальная модель может обрабатывать более широкий спектр задач, но вы платите за эту гибкость, независимо от того, используете вы ее или нет. Вопрос о том, кто должен запускать открытые модели, имеет параллели с открытым программным обеспечением, где код поверхностно «бесплатен», но его запуск и обслуживание не таковы. Большинство организаций платят за управляемый сервис или упакованное распределение, поскольку редко стоит поддерживать его самостоятельно, если функция не является ключевой для бизнеса. Открытые модели следуют той же логике. Скачивание модели с Hugging Face и запуск через сервис, такой как Ollama, легко. Однако соответствие эффективности хостинг-модели с необходимой надежностью вашего приложения сложнее. Это требует экспертов, которые могут управлять GPU, настраивать инфраструктуру и поддерживать производительность модели под нагрузкой. Для большинства предприятий более реалистичным путем является работа с поставщиками вывода, такими как Fireworks, Together AI или Base10, которые специализируются на запуске и масштабировании открытых моделей. Это обеспечивает преимущества в стоимости и контроле без дополнительных операционных затрат. Исключение составляет саморазмещение, когда ИИ является ключевым для бизнеса, и у вас есть масштаб и экспертиза, чтобы это оправдать. На определенном уровне операционные инвестиции оправдывают себя. С фронтальными моделями вы платите за почти гарантированный уровень производительности, не создавая его самостоятельно. Открытые модели могут предоставить вам аналогичные возможности рассуждения за меньшую стоимость, но цена проявляется в других аспектах, таких как задержка или в работе по получению модели, работающей на масштабе. Индекс ИИ Стэнфорда показал, что разрыв между лучшими открытыми и закрытыми моделями в этом году немного увеличился, что стоит помнить в следующий раз, когда кто-то утверждает, что открытые модели почти сравнялись. Ценность смещается на другой уровень. В какой-то момент операционные системы стали товаром; больше никто не зарабатывает реальные деньги на продаже операционной системы. Эта товаризация уровня ОС частично сделала облачные технологии возможными, что, в свою очередь, привело к множеству инноваций с тех пор. Ценность не исчезла; она сместилась на другой уровень. Мы можем увидеть нечто подобное с моделями. По мере того как открытые модели приближаются к важным рабочим нагрузкам, вопрос «какая модель победит» перестает быть интересным. Реальная конкуренция перемещается на уровень того, что создается сверху — приложения, данные и контекст, которые делают модель полезной. Это тот уровень, на котором важно решение об открытых моделях, а не абстрактные дебаты о том, какая модель «лучше». Открытые модели являются ценным элементом диверсифицированной стратегии моделей, но вам нужно проделать работу, чтобы понять, где они действительно работают для вас. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.