По данным IBM Research, с развитием систем искусственного интеллекта исследователи задаются практическим вопросом: может ли ИИ не только помогать в написании кода для вычислительных систем, но и активно участвовать в проектировании сложных вычислительных систем, быстро переводя алгоритмы в кремний? Новые разработки в области ИИ-дизайна чипов показывают, что ответ положительный. Однако обещающий алгоритм — это только начало проектирования аппаратного обеспечения. Превращение его в эффективный чип требует изучения способов организации вычислений, перемещения данных и использования ограниченных ресурсов оборудования. Каждое решение открывает новые альтернативы, а каждая альтернатива требует инженерных усилий для реализации и оценки. Агенты ИИ могут расширить это исследование. Работая совместно, они могут предлагать архитектурные изменения, писать реализации, проверять корректность и использовать результаты синтеза для определения дальнейших шагов. Однако главной преградой является стоимость: токеномика больших языковых моделей для проектирования аппаратного обеспечения и эффективность затрат на исследование проектного пространства. Одна поисковая кампания может потреблять сотни миллионов токенов, и применение этого подхода ко многим компонентам и revisions может потребовать сотни таких кампаний. Новое демонстрационное исследование от IBM Research показывает, как открытые модели и эффективный распределенный вывод могут изменить ситуацию. Используя фабрику агентов для оптимизации аппаратного обеспечения для коррекции квантовых ошибок, исследователи достигли 52-кратного ускорения по сравнению с базовым дизайном в оценках высокоуровневого синтеза при стоимости вывода около 26 долларов. При том же бюджете поиска конфигурация с проприетарной моделью стоила в 11,5 раз больше, чем конфигурация с открытыми моделями — 299 долларов против 26 долларов соответственно. Проприетарная конфигурация достигла более высокого ускорения (204x), но конфигурация с открытыми моделями продемонстрировала другой результат: значительная оптимизация аппаратного обеспечения может быть достигнута с гораздо меньшим бюджетом на вывод, а также с минимальным дизайном. Это преимущество в стоимости создает возможность более широкого применения автоматизированного исследования и реинвестирования сэкономленных средств в поиск лучших дизайнов. Результаты также показывают, что практическая ценность проектирования чипов с помощью ИИ зависит не только от лучшего дизайна, который может создать агент, но и от того, сколько проверенного исследования может позволить себе организация. Возможности модели, распределение ролей агентов и инфраструктура, обслуживающая эти модели, все влияют на улучшения аппаратного обеспечения, которые могут быть достигнуты в рамках реального инженерного бюджета. Объединив открытые модели с низкозатратным распределенным выводом, IBM продемонстрировала, что фабрики агентов ИИ могут выйти за рамки помощи в кодировании и стать активными участниками проектирования аппаратного обеспечения, и они могут сделать это доступно. Проектирование аппаратного обеспечения остается одной из самых трудоемких областей в вычислениях. Высокий уровень синтеза (HLS) повышает уровень абстракции с уровня передачи регистров (RTL), используемого в языках проектирования аппаратного обеспечения, до C или C++, но инженеры все равно должны принимать бесчисленные решения о структуре циклов, параллелизме, организации памяти, потоках данных и директивах синтеза. Эти выборы взаимодействуют сложным образом. Например, выполнение большего количества вычислений одновременно помогает только в том случае, если система памяти может предоставить их входные данные. Дизайн, который работает быстрее, может также требовать больше аппаратных ресурсов. Найти полезный баланс требует повторных экспериментов, и пространство проектирования быстро становится слишком большим для исчерпывающего изучения людьми. «Фабрика агентов» организует эту работу. «Фабрика агентов превращает оптимизацию аппаратного обеспечения в координированный цикл исследования: координатор-агент направляет параллельные рабочие агенты для разработки и синтеза альтернативных дизайнов в рамках определенного бюджета поиска», — сказал Ручир Пури, научный сотрудник IBM и главный ученый IBM Research. Когда эти агенты начинают свою работу, они независимо исследуют стратегии оптимизации. «Проверяющий агент проверяет, что предложенные улучшения действительны, а дизайны ранжируются по задержке и использованию аппаратных ресурсов. Эти результаты направляют следующий раунд исследования, позволяя фабрике уточнять свой поиск по мере обнаружения лучших дизайнов», — добавил Пури. Вместо поиска одного решения фабрика исследует множество возможностей параллельно, используя обратную связь от синтеза для направления будущего исследования. В новом исследовании координатор планировал поиск и назначал гипотезы оптимизации четырем параллельным рабочим агентам. Работники изменили реализацию декодера, а проверки корректности и результаты HLS предоставили обратную связь для последующих раундов. Каждая конфигурация получила бюджет из 100 гипотез. Агенты исследовали изменения с архитектурными последствиями. Одна трансформация реорганизовала хранение сообщений так, чтобы инструмент синтеза мог идентифицировать независимые доступы к памяти и выполнять больше работы параллельно. Другая заменила последовательные редукции на древовидные структуры, которые открывали параллельные вычисления. Ценность заключалась в соединении изменений кода с их аппаратными эффектами через повторные оценки. Ключевой вопрос, рассматриваемый в новой статье, заключался в том, можно ли масштабировать этот подход экономически эффективно, используя открытые модели и инфраструктуру распределенного вывода. Для оценки этой идеи Пури и его команда продемонстрировали подход, используя алгоритм декодирования коррекции квантовых ошибок Relay-BP для бивариантного велосипедного кода [[144,12,12]]. Коррекция квантовых ошибок зависит от классических вычислений. Измерения предоставляют подсказки об ошибках, влияющих на квантовую информацию, и декодер должен интерпретировать эти подсказки и выявлять коррекции. Быстрое выполнение этого процесса в рамках практических ограничений аппаратных ресурсов является важной частью создания устойчивых квантовых систем. Relay-BP является полезным тестом, поскольку его повторяющаяся передача сообщений по своей природе параллельна, но разреженное графическое представление и схемы доступа к памяти базовой реализации затрудняют использование этого параллелизма инструментами HLS. Это также делает декодер требовательным тестом для аппаратного исследования, управляемого ИИ, поскольку агенты должны сохранить вычисления, меняя способ их выполнения. Исследователи сравнили три конфигурации при одном и том же бюджете из 100 гипотез: проприетарная модель как координатор и рабочие, открытая модель в обеих ролях и гибрид с проприетарным координатором и рабочими открытой модели. Открытая модель работала на месте через llm-d. Каждая конфигурация исследовала 100 гипотез. Затраты покрывают вывод модели, а не полный рабочий процесс разработки аппаратного обеспечения. Все три конфигурации нашли проверенные улучшения аппаратного обеспечения, но они продемонстрировали различные компромиссы. Открытые и гибридные поиски нашли полезные компактные дизайны, в то время как проприетарная конфигурация более эффективно преобразовала дополнительные ресурсы в параллелизм и меньшую задержку. Каждая конфигурация была оценена в одном запуске поиска, поэтому эти результаты характеризуют наблюдаемые поиски, а не устанавливают универсальную модель ранжирования. Открытый поиск также использовал больше токенов: примерно 241 миллион, по сравнению с 216 миллионами для полностью проприетарного поиска. Его более низкая стоимость была связана с экономикой обслуживания этих токенов. Это различие имеет значение для фабрик агентов, где каждая гипотеза может включать множество раундов размышлений, кодирования, отладки и интерпретации результатов инструментов. Фабрика агентов многократно возвращается к большей части одной и той же информации: исходный код, проектные ограничения, предыдущие изменения и отчеты о синтезе. Эффективное обслуживание может повторно использовать вычисления, связанные с этим общим контекстом. В исследовании использовалась llm-d, открытая распределенная инфраструктура вывода, для поддержки этой нагрузки. Ее кэш-осведомленный маршрутизация направляет запросы к серверам, хранящим повторно используемый контекст. Она также разделяет обработку подсказок и генерацию токенов, позволяя системе выделять ресурсы для каждого независимо. Эти возможности помогают сократить повторную работу и эффективно использовать мощность ускорителей. Поскольку предприятия стремятся сократить растущие затраты на вывод и сохранить контроль над своими конфиденциальными данными, эта последняя демонстрация показала, что открытые модели с весами, развернутые на месте через распределенный стек вывода llm-d, могут значительно снизить затраты на обслуживание, при этом открывая ценные аппаратные оптимизации. Для нагрузки проектирования чипов статья сообщает о коэффициенте попадания префиксного кэша примерно 98% и смешанной стоимости обслуживания около 0,11 доллара за миллион токенов. Развертывание обслуживало фабрику наряду с другими нагрузками агентов на общей инфраструктуре. Открытые веса также позволили команде запускать модель на месте и сохранять контроль над проектными артефактами, обрабатываемыми этими агентами. Таким образом, преимущество в стоимости отражает сочетание открытой модели и эффективной системы обслуживания. Оба способствуют тому, чтобы сделать устойчивое исследование доступным. Следующий шаг: превращение более низкой стоимости в лучшие дизайны. Более низкие затраты на вывод создают пространство для дополнительного поиска, но увеличение затрат не автоматически приводит к пропорциональным улучшениям. Увеличение кампании с открытыми моделями с 100 до 200 гипотез увеличило ускорение с 52x до 60x. Увеличения продолжались, но они уменьшались. Следующий шаг — улучшить то, как фабрика агентов использует этот дополнительный бюджет. Будущая работа будет исследовать адаптивное распределение ресурсов, более широкий диапазон архитектурных гипотез и выборочное использование более сильных моделей для сложных трансформаций или координации поиска. Цель состоит в том, чтобы целенаправленно управлять компромиссом между стоимостью и качеством: решая, где дополнительное размышление, другая модель или новое архитектурное направление с наибольшей вероятностью улучшат дизайн. Оценка также должна учитывать затраты на синтез и верификацию наряду с выводом. Снижение одной части рабочего процесса наиболее ценно, когда весь процесс может поддерживать дополнительное исследование, которое оно позволяет. ИИ для проектирования чипов связывает две формы прогресса в взаимозависимые отношения: лучшее аппаратное обеспечение позволяет более мощному ИИ, а более мощный ИИ может помочь инженерам разрабатывать лучшее аппаратное обеспечение. Экономически эффективные фабрики агентов делают это отношение более практичным. Делая каждый поиск более доступным, открытые модели и распределенный вывод создают пространство для тестирования большего количества идей и, с лучшими стратегиями поиска, превращают эту возможность в лучшие чипы. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.