{{opener}} Amazon Bedrock теперь поддерживает структурированные выводы для всех моделей Anthropic Claude на конечных точках bedrock-runtime и bedrock-mantle, где модель доступна. Теперь, независимо от того, вызываете ли вы Claude через Boto3 и API bedrock-runtime или через API сообщений и конечную точку bedrock-mantle, вы можете получать ответы в формате JSON, соответствующие заданной структуре. Больше не требуется индивидуальный парсинг, повторные попытки или постобработка. С помощью структурированных выводов для Claude на Amazon Bedrock вы можете автоматизировать надежные задачи, соответствующие схеме, в различных отраслях. Примеры включают извлечение всех необходимых полей из финансовых отчетов и документов по соблюдению норм, парсинг клинических заметок в электронные медицинские записи и обогащение каталогов продуктов с помощью последовательных, проверенных результатов. Вы также можете анализировать контракты на наличие ключевых условий, сторон и обязательств или управлять маршрутизацией умных служебных запросов, где намерения, настроения и сущности всегда соответствуют модели данных вашего приложения. Структурированные выводы используют ограниченное декодирование для обеспечения соответствия вашей JSON-схеме во время генерации токенов, а не после. Модель не производит токены, которые могли бы нарушить вашу схему. Это изменяет форматирование вывода с вероятностного на детерминированное. Теперь доступны два дополнительных механизма на обеих конечных точках Amazon Bedrock: формат вывода JSON Schema для контроля структуры ответа модели и строгое использование инструментов для проверки параметров инструментов на соответствие схемам. Каждый ответ является допустимым JSON, поэтому вы больше не столкнетесь с ошибками JSON.parse() или исключениями парсинга. Ответы также безопасны по типам: типы полей соблюдаются, и обязательные поля всегда присутствуют. Поскольку выводы всегда соответствуют вашей схеме, вам не нужны повторные попытки для обработки нарушений схемы, что делает вашу интеграцию более надежной. Структурированные выводы также ограничивают ответы только полями, которые определяет ваша схема, что снижает количество токенов вывода и может снизить затраты на вывод для высоких объемов нагрузки. Структурированные выводы работают с пакетным выводом, поэтому вы можете обрабатывать большие объемы запросов асинхронно, получая при этом соответствующие схеме выводы. На конечной точке bedrock-runtime это также работает с кросс-регионным выводом, позволяя использовать его через регионы AWS без дополнительной настройки. Если вам нужны ответы в реальном времени, вы можете передавать структурированные ответы в виде типизированных событий. Когда вы делаете запрос с JSON-схемой, Amazon Bedrock валидирует вашу JSON-схему в соответствии с поддерживаемым подмножеством JSON Schema Draft 2020-12. Для новых схем Amazon Bedrock компилирует грамматический артефакт. Скомпилированные грамматики кэшируются на 24 часа, что делает последующие запросы быстрее. Первоначальный запрос с новой схемой может занять больше времени, поскольку Amazon Bedrock компилирует грамматический артефакт перед началом генерации. После этого начального компилирования последующие запросы с той же схемой выполняются с минимальными затратами, поскольку скомпилированная грамматика кэшируется. Структурированные выводы для моделей Claude на Amazon Bedrock обеспечивают надежность, необходимую для производственных AI-приложений. Они доступны на конечных точках bedrock-runtime и bedrock-mantle. Объединив формат вывода JSON Schema и строгое использование инструментов, вы можете создать конвейеры данных, которые не требуют дополнительной валидации. Вы также можете создавать надежные агентные рабочие процессы и производственные AI-приложения без индивидуального парсинга или логики повторных попыток. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
内容来自原始来源:
SMNTCN (Semanticon) — глобальные новости ИИ
在 SMNTCN (Semanticon) — глобальные новости ИИ 阅读全文本内容来自公开来源。若发布内容影响您的权利 → 申请删除信息
Amazon Bedrock 支持 Claude 模型的结构化引脚
Amazon Bedrock 现在支持 Claude 模型的结构化推理。
AI 摘要:要点
- Amazon Bedrock 现在支持 Claude 模型的结构化推理。
Amazon Bedrock 支持 Claude 模型的结构化引脚
相关文章
你要求人工智能为视频的介绍制作一个动画。我的脑海里已经有了一个关于它应该是什么样子的想法......
你要求人工智能为视频的介绍制作一个动画。你的脑海中已经有了它应该是什么样子的想法,但你不知道想要的效果叫什么。剩下的就是写一些“让它更酷、更令人印象深刻”之类的东西,结果取决于运气。运动提示完全创建...
RUШесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude
🥚 Шесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude Нейросетям дали одинаковое задание: спроектировать защитную капсулу для сырого яйца, которую затем изготовят на 3D-принтере. Условия были строгими: не более 250 г пластика, 8 часов печати и 20 ватных…
Sam Altman 透露了 OpenAI 的最终计划(太疯狂了)
ChatGpt 背后的公司 OpenAI 的首席执行官 Sam Alman 刚刚告诉自己的员工,整个人工智能竞赛只有三种方式可以结束。这些结局之一是一家公司变得如此强大,以至于它可以真正融化其他所有人的 GPU。这不是一个……
RUСтартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
