Создание агентной системы извлечения на базе Amazon Bedrock с CDK

AWS Machine Learning рассказывает, что в данной статье рассматривается создание агентной системы извлечения на управляемой базе знаний Amazon Bedrock с использованием набора инструментов AWS Cloud Development Kit (AWS CDK). Для понимания целесообразности этой разработки важно начать с разбора недостатков обычных систем извлечения, основанных на дополнении информации (RAG). Большинство систем RAG функционируют по одному и тому же принципу: они внедряют вопрос, извлекают ближайшие фрагменты из одного индекса, передают их модели и возвращают ответ. Один запрос, одно извлечение. Для многих вопросов это правильный подход, и нет необходимости создавать что-то более сложное. Однако он имеет свои недостатки. Если задать вопрос, ответ на который охватывает два корпуса, одно извлечение вернет лишь половину необходимой информации, что хуже, чем ничего, поскольку ответ будет звучать логично, но окажется неполным. Если вопрос зависит от источника, то один индекс не может выбрать правильный. Если требуется второй взгляд на корпус после получения первого результата, то такой возможности не существует. Агентная система извлечения решает все три проблемы, вводя в процесс рассуждающего агента. Агент принимает решение о том, нужно ли извлекать информацию, какую базу знаний консультировать и стоит ли возвращаться за дополнительной информацией перед формированием ответа. Это направление, в котором развиваются базы знаний Amazon Bedrock. С запуском управляемой базы знаний извлечение больше не является простым вызовом. Оно стало агентной возможностью: многопроцессное планирование, извлечение, управляемое инструментами, и обоснованные, цитируемые ответы. API AgenticRetrieveStream предлагает это как функцию первого класса, а не как нечто, что нужно собирать самостоятельно. Тем не менее, это также создает более сложную операционную задачу. Одноразовый конвейер — это функция, о которой можно рассуждать, просто прочитав ее. Агент, который рассуждает и извлекает информацию в цикле, принимает разные пути для каждого вопроса. По умолчанию вы не можете увидеть ни путь, который он выбрал, ни качество полученного ответа. Наблюдаемость перестает быть чем-то желательным и становится единственным способом понять, что система работает. В августе 2024 года была опубликована статья о создании решения RAG с использованием баз знаний для Amazon Bedrock и AWS CDK, которая внедрила одноразовый дизайн в качестве приложения CDK: корпус Amazon Simple Storage Service (Amazon S3), коллекция и индекс Amazon OpenSearch Serverless, база знаний и источник данных, которые были предоставлены в виде стеков CDK, порядок которых вы устанавливали вручную. С тех пор произошли три изменения. Amazon Bedrock теперь предлагает управляемую базу знаний (тип: УПРАВЛЯЕМАЯ), которая отвечает за прием, хранение, индексацию и извлечение. Коллекция и индекс OpenSearch Serverless, которые были предусмотрены в статье, больше не требуют создания, масштабирования или оплаты с помощью вычислительных единиц OpenSearch (OCU). Amazon Bedrock AgentCore предоставляет агентную часть, шлюз, который открывает каждую базу знаний как инструмент протокола контекста модели (MCP), среду выполнения, которая хостит рассуждающего агента, и AgenticRetrieveStream, который переоценивает внутренне и возвращает синтезированный, цитируемый ответ. Агентное извлечение доступно только на управляемой базе знаний. История наблюдаемости и оценки теперь является чем-то, что вы можете предоставить, а не чем-то, что нужно добавлять позже. Это решение включает две панели мониторинга Amazon CloudWatch, охватывающие семь уровней телеметрии, плюс две формы оценки, по запросу и непрерывную, из одного и того же развертывания. Эта статья строит такую систему: агент, который маршрутизирует по двум базам знаний, извлекает информацию через шлюз и возвращает обоснованный, цитируемый ответ, при этом каждый уровень его поведения инструментирован, как одно приложение AWS CDK на Python. Одна команда разворачивает все это, и CDK выводит порядок. Если вы читали статью 2024 года, путь от ведра Amazon S3 к базе знаний будет вам знаком, а все, что после него, новое: векторный магазин исчез, извлечение стало агентным, и примерно половина того, что приложение предоставляет, существует для того, чтобы показать, что делал агент. Если вы этого не делали, эта статья стоит сама по себе. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.