По данным NVIDIA Generative AI, компания сегодня представила модель Nemotron 3.5 Super VL, открытую 120-миллиардную модель, обеспечивающую быструю реализацию задач и высокую точность для специализированных агентов, работающих круглосуточно. К ней присоединились две новые модели для периферийных устройств: Nemotron 3.5 Bolt 74B-A9B 24GB, оптимизированная для баланса интеллекта и скорости на гигабайт для локальных рабочих нагрузок, и Nemotron 3.5 Bolt E4B 4GB, оптимизированная для интеллекта на гигабайт для быстрых разговорных агентов. Модели Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B поступит в продажу 23 октября. Эти три открытые модели охватывают полный спектр развертывания агентов, от крупных серверов предприятий до периферийных устройств и локального оборудования. Организации, желающие запускать агентов на инфраструктуре NVIDIA, теперь имеют открытую, оптимизированную модель для своего уровня, не выбирая между возможностями и развертыванием. Super VL и Bolt присоединяются к семейству Nemotron наряду с моделями Lightning и Ultra. Lightning, выпущенная в августе, обрабатывает рабочие нагрузки с высоким пропуском, Ultra справляется с самыми сложными задачами рассуждения, а Bolt приносит интеллект на периферию. Nemotron 3.5 Super VL, созданная в сотрудничестве с Коалицией Nemotron, обеспечивает высокую точность в многомодальных задачах агентов — выполнение инструкций, использование инструментов, многоступенчатые бизнес-процессы и визуальное понимание — сопоставимую с самой крупной моделью рассуждения NVIDIA при примерно одной пятой количестве параметров. Nemotron 3.5 Super VL обеспечивает уровень интеллекта на переднем крае своего класса для высокообъемных рабочих процессов агентов. Как самая быстрая открытая модель агентов в своем классе — она в 5 раз быстрее следующей по производительности — помогает корпоративным агентам быстрее завершать задачи в рабочих процессах, которые могут длиться дни или недели. Nemotron 3.5 Super VL достигает до 5 раз большей производительности по сравнению с другими моделями в своем классе на индексе Artificial Analysis Intelligence Index. В отличие от закрытых моделей, организации могут дообучать Super VL на своих собственных данных, развертывать ее на своей инфраструктуре и контролировать то, что они создают. Nemotron 3.5 Bolt: Интеллект агентов на периферии. Модель Bolt 74B-A9B 24GB предназначена для выполнения повседневных задач агентов локально на NVIDIA RTX/DGX Spark, используя родную 2-битную квантизацию для размещения в 24 ГБ памяти и работы вместе с другими приложениями. По сравнению с другими моделями с аналогичным объемом памяти, она обеспечивает хороший баланс интеллекта и скорости: достаточно умная, чтобы выполнять большинство задач, но значительно быстрее, чем самые умные модели. С помощью Bolt 74B-A9B 24GB пользователи могут делегировать свои проекты популярным локальным инструментам агентов — от поиска в интернете до написания и отладки кода — все без отправки этих рабочих нагрузок в облако. Это первая открытая модель в своем классе на PinchBench и вторая открытая модель для BrowseComp. Модель Bolt E4B 4GB создана для физических и разговорных агентов на GeForce RTX, Jetson и RTX/DGX Spark. Она сочетает в себе естественное общение с многошаговыми возможностями агентов, чтобы обеспечить быстрые локальные голосовые помощники, интерактивных персонажей и встроенные интерфейсы. Множество организаций из разных отраслей дообучают Super VL на своих собственных данных, инструментах, политиках и рабочих процессах, чтобы повысить точность на специализированных задачах, которые определяют развертывание их агентов. Super VL дообучается и настраивается различными организациями. Например, Scale AI дообучила модель для агента финансирования кредитов поставщиков Skydance и для агента комплексной проверки M&A компании EY. AfterQuery настроила модель для Hebbia для анализа кредитных соглашений. AI21 и Alice дообучили модель для устойчивости к кибератакам. Mercor дообучила модель на бенчмарке APEX-SWE для агентов программирования, которые планируют, пишут и отлаживают код. ModelScope позволяет разработчикам тонко настраивать модель через свою платформу ms-swift для специализированных многомодальных приложений. Другие организации, настраивающие Nemotron 3.5 Super VL, включают Ramp для интеллектуального анализа финансовых документов; Dream, исследование кибербезопасности с использованием ИИ и анализ уязвимостей; Lila Sciences для научных открытий и поиска, а также R1 для анализа медицинских претензий и управления циклом доходов. TrainLoop дообучила модель с данными дерматологии от Nolla, которая стала первой компанией, получившей разрешение на использование ИИ для написания первоначальных рецептов для пациентов. Компании-разработчики программного обеспечения, интегрирующие Nemotron 3.5 Super VL, включают Atlassian для выполнения задач, таких как поиск агентов по приложениям, таким как Jira и Confluence. CrowdStrike настраивает модель для агентов по синему команде в корпоративной безопасности. Dassault Systèmes поддерживает проектирование и моделирование в инженерии. Perplexity использует модель для поиска и задач агентов в Perplexity Search and Computer. Salesforce настраивает Nemotron для поддержки ИИ-агентов, которые цифровизируют и автоматизируют сложные государственные рабочие процессы в защищенных средах клиентов через Missionforce Operations. Программное обеспечение Synopsys для проверки проектирования полупроводников взаимодействует с моделью. Что на самом деле видит Nemotron 3.5 Super VL. Сильные стороны языкового восприятия Nemotron 3.5 Super VL нацелены на то, с чем агенты сталкиваются на практике: оптическое распознавание символов, таблицы, диаграммы и структурированная информация в визуальных документах. Она обрабатывает веб-страницы, извлекает текст, читает графики и диаграммы и возвращает инсайты на основе того, что находит. То же самое касается PDF и других документов, с которыми агенты обычно работают. Nemotron 3.5 Super VL понимает изображения, веб-страницы и PDF и действует на основе этого понимания. Сочетание текстового и визуального восприятия в одной модели означает, что агенты не нуждаются в маршрутизации задач между отдельными системами — контекст сохраняется по мере перехода работы от документа к данным и к решению. Открытость для максимального контроля, безопасности и конфиденциальности. Открытость и настраиваемость взаимно усиливают друг друга. Модель поставляется с открытыми весами, открытыми наборами данных и рецептами обучения. Контроль осуществляется в двух направлениях. Организации могут запускать модель везде, где этого требуют их требования безопасности и резидентности данных. Они также могут выбрать модель, которую могут адаптировать, а не ту, которая подвержена ограничениям поставщика. Например, в страховании настроенный агент может повторно сканировать претензии на наличие маркеров мошенничества. В финансовых услугах агент может проверять кредитные рейтинги и отмечать активность, соответствующую собственным критериям кредитования организации. Модель остается на месте. Данные остаются конфиденциальными. Настройка поддерживается через NVIDIA NeMo, Python-пайплайны и открытые наборы данных. Nemotron 3.5 Super VL была обучена на около 26 триллионах токенов в ходе предварительного обучения и продолженного обучения, затем дообучена на примерно 3,8 миллионах образцов и с использованием обучения с подкреплением в десятках сред. NVIDIA также выпускает открытые наборы данных на Hugging Face, охватывающие использование инструментов агентов, финансы, выполнение инструкций, длинный контекст, справедливость и понимание визуального языка, а также среды обучения с подкреплением в NeMo Gym. NVIDIA NIM упаковывает модель как готовый к производству микросервис с оптимизированными по производительности, проверенными конфигурациями и поддержкой на уровне предприятий, обновляемой каждые две недели с исправлениями безопасности и улучшениями производительности. И с моделью, работающей на NVIDIA Dynamo, организации могут обслуживать до 8 раз больше пользователей с 85% меньшей задержкой. Nemotron 3.5 Super VL уже доступна на Hugging Face, Open Router, ModelScope community и как NVIDIA NIM. Модель работает на DGX Spark, DGX Station и RTX. Nemotron 3.5 Super VL работает на всей аппаратной платформе NVIDIA: на DGX Spark, DGX Station, RTX PRO и системах RTX для локального интеллекта на рабочем столе, на NVIDIA Jetson на периферии и в облачных средах дата-центров. Nemotron 3.5 Bolt 74B-A9B 24GB уже доступна на Hugging Face с поддержкой llama.cpp, Ollama, LM Studio, Unsloth и vLLM. Модель создана для ноутбуков NVIDIA RTX Spark, которые поступят в продажу 16 октября, она также работает на GeForce RTX ПК, DGX Spark, DGX Station и рабочих станциях RTX PRO. Скачайте открытые веса, изучите ресурсы настройки с помощью NVIDIA NeMo или прочитайте технический блог для полного разбора архитектуры. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.