По данным VentureBeat, в современных корпоративных залах заседаний давление на руководителей информационных технологий сводится к двум основным факторам: скорости и возврату инвестиций. Руководства ожидают зрелой стратегии использования ИИ-агентов и четкого графика внедрения автономных систем, которые обеспечат измеримый бизнес-эффект. В спешке к производству возникла критическая архитектурная слепота. Принятая рыночная нарратив основывается на простой формуле: агентов, инструменты и данные достаточно для достижения успеха. Хотя ни один поставщик не утверждает это прямо, практически каждая презентация продукта предполагает именно это. Идея заключается в том, чтобы загрузить корпоративные данные в облачное хранилище, подключить готовую языковую модель и предоставить ей инструменты для выполнения корпоративных действий, после чего предполагается, что последует гибкость. Однако это не так. На самом деле, это приводит к противоположному результату. Имея опыт создания платформ для разработчиков и облачной инфраструктуры для крупнейших рабочих нагрузок, я узнал, что когда корпоративное программное обеспечение касается сотрудников, клиентов и финансов, физика меняется. Неприемлемо допускать ошибки или отклонения, когда на кону стоят человеческие жизни и корпоративные бюджеты. Основная проблема беззакония агента заключается в том, что в его основе языковая модель является вероятностной, генерируя токены на основе математических вероятностей, а не жестко запрограммированных правил. Основным ответом технологической индустрии на внедрение правил является вызов инструментов, который предоставляет модели набор API для действий в реальном мире. Хотя вызов инструментов делает одно действие детерминированным — когда инструмент надежно выполняет определенную инструкцию каждый раз одинаково — общий уровень принятия решений остается вероятностным. Агент все равно должен решать, какой инструмент вызвать, когда и с какими аргументами. Поскольку универсальный инструмент выполняет любые инструкции, которые ему переданы, вызов инструментов не решает проблему управления. Он смещает проблему к границе инструмента, которая остается открытой и неуправляемой, что является риском, который корпоративные команды все чаще должны управлять с помощью формальных рамок управления рисками ИИ и открытой, безопасной инфраструктуры ИИ. Завернув эту вероятностную модель в агентскую структуру и назначив ей цель, вы создаете высокоэффективное, автономное, целеустремленное существо с одним недостатком: в его архитектуре нет понятия корпоративного управления. Рассмотрим менеджера, который просит стандартного агента провести оформление международного подрядчика. Работая в структурном вакууме, агент будет оптимизировать исключительно для выполнения задачи. Каждый отдельный вызов инструмента может быть успешным, но по пути агент может обойти региональные трудовые законы, налоговые удержания и проверки классификации работников. Он делает это не из злобы, а потому, что в его архитектуре нет понимания существования этих правил. Беззаконный агент выполняет задачи через любые системы, которые не следят за соблюдением правил. На первый взгляд это выглядит как победа в гибкости. На самом деле это ticking regulatory time bomb. Когда руководство ИТ замечает это беззаконие, их инстинкт инженера по умолчанию заключается в том, чтобы устранить уязвимость снаружи. Команды начинают создавать внешние шлюзы для языковых моделей, накладывают политики промежуточного программного обеспечения или заполняют огромные корпоративные политики в уже переполненное окно контекста. Ни одно из этих решений не срабатывает. Запрос — это просьба, а не гарантия. Перенесите это на 18 месяцев вперед, и ваши инженерные команды потратят миллионы на ручное восстановление организационных структур, логики маршрутизации и разрешений безопасности внутри самодельного, изолированного стека ИИ. Это ловушка «теневого ERP», где корпоративная гибкость умирает. Вы в конечном итоге поддерживаете хрупкую, багованную копию той же бизнес-логики, которую уже имели в своей системе учета. Это не обходной путь, когда он приводит к бесконечным затратам на обслуживание и фрагментированному управлению. Решение: ограничения на уровне вывода. Чтобы сделать агента законным по дизайну, безопасность предприятия должна стать основной инфраструктурой, встроенной непосредственно в движок вывода и время выполнения. Полный контроль над тем, что агент может видеть, делать и затрагивать, требует выполнения ИИ-вывода на платформе, которая уже обеспечивает корпоративное управление. Контекстный движок: собирает точно то, что агент имеет право видеть, включая активные записи, текущие политики и организационный контекст. Это фильтрует всю реальность агента, гарантируя, что его окно контекста и открытые строки базы данных предварительно управляются. Движок политики: проверяет каждое действие агента против точной бизнес-логики, которая управляет человеческим аналогом. Если финансовая транзакция требует четырех уровней одобрения руководства, платформа отклоняет все пути их обхода. Слой выполнения: гарантирует, что каждый внешний вызов API имеет явные полномочия и пределы конкретного человека, которому служит агент, а не постоянные учетные данные «режима бога». Агент не может превысить свои полномочия, потому что возможность никогда не была выдана. Действительно сложная часть корпоративного ИИ не в рассуждении; она заключается в соблюдении норм. Один запуск зарплаты опирается на изменяющиеся правила удержания и заработной платы в тысячах глобальных юрисдикций. Ни одна отдельная модель не может воспроизвести эту машину. Ваше предприятие уже знает это, именно поэтому вы инвестировали в систему учета, а не писали собственный движок для расчета зарплаты. Направление агентов через внешнее промежуточное программное обеспечение тихо отменяет это основополагающее решение. Если вы хотите законного агента, вы должны запустить его там, где уже действуют законы. Принцип близости. Каждое критическое ограничение полностью зависит от текущего состояния предприятия — организационной структуры, активных полномочий и бизнес-процессов как они настроены. Если вы попытаетесь восстановить эти элементы снаружи, физика программного обеспечения вас настигнет. То, что агент видит, деградирует в устаревший снимок, а то, что он затрагивает, зависит от рискованных статических ключей API. Расстояние снижает целостность ограничений. Расстояние также стоит скорости. Агентные циклы по своей природе требуют множества вызовов инструментов для выполнения одной задачи. Каждый раз, когда вызов пересекает внешнюю границу доверия, он должен повторно подтверждать, кто спрашивает. Внутри периметра родной платформы этот контекст безопасности является амбиентным. Архитектурный выбор, который делает агентов законными, также делает их быстрыми. Называйте это «принципом близости». Вывод ИИ должен находиться непосредственно на платформе, которая управляет им, потому что как ограничения, так и операционная скорость ухудшаются с каждым переходом между ними. Когда следующая презентация агента поступит на ваш стол, посмотрите мимо демонстрации и задайте один вопрос: где проходят ограничения? Если ответом будет внешний слой, который ваша команда должна создавать и поддерживать вдали от вашей системы учета, вы строите теневой ERP. Чтобы достичь истинной скорости, привяжите своих агентов непосредственно к системе, которая уже содержит законы вашего предприятия. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.