{{opener}} Amazon Bedrock теперь поддерживает структурированные выводы для всех моделей Anthropic Claude на конечных точках bedrock-runtime и bedrock-mantle, где модель доступна. Теперь, независимо от того, вызываете ли вы Claude через Boto3 и API bedrock-runtime или через API сообщений и конечную точку bedrock-mantle, вы можете получать ответы в формате JSON, соответствующие заданной структуре. Больше не требуется индивидуальный парсинг, повторные попытки или постобработка. С помощью структурированных выводов для Claude на Amazon Bedrock вы можете автоматизировать надежные задачи, соответствующие схеме, в различных отраслях. Примеры включают извлечение всех необходимых полей из финансовых отчетов и документов по соблюдению норм, парсинг клинических заметок в электронные медицинские записи и обогащение каталогов продуктов с помощью последовательных, проверенных результатов. Вы также можете анализировать контракты на наличие ключевых условий, сторон и обязательств или управлять маршрутизацией умных служебных запросов, где намерения, настроения и сущности всегда соответствуют модели данных вашего приложения. Структурированные выводы используют ограниченное декодирование для обеспечения соответствия вашей JSON-схеме во время генерации токенов, а не после. Модель не производит токены, которые могли бы нарушить вашу схему. Это изменяет форматирование вывода с вероятностного на детерминированное. Теперь доступны два дополнительных механизма на обеих конечных точках Amazon Bedrock: формат вывода JSON Schema для контроля структуры ответа модели и строгое использование инструментов для проверки параметров инструментов на соответствие схемам. Каждый ответ является допустимым JSON, поэтому вы больше не столкнетесь с ошибками JSON.parse() или исключениями парсинга. Ответы также безопасны по типам: типы полей соблюдаются, и обязательные поля всегда присутствуют. Поскольку выводы всегда соответствуют вашей схеме, вам не нужны повторные попытки для обработки нарушений схемы, что делает вашу интеграцию более надежной. Структурированные выводы также ограничивают ответы только полями, которые определяет ваша схема, что снижает количество токенов вывода и может снизить затраты на вывод для высоких объемов нагрузки. Структурированные выводы работают с пакетным выводом, поэтому вы можете обрабатывать большие объемы запросов асинхронно, получая при этом соответствующие схеме выводы. На конечной точке bedrock-runtime это также работает с кросс-регионным выводом, позволяя использовать его через регионы AWS без дополнительной настройки. Если вам нужны ответы в реальном времени, вы можете передавать структурированные ответы в виде типизированных событий. Когда вы делаете запрос с JSON-схемой, Amazon Bedrock валидирует вашу JSON-схему в соответствии с поддерживаемым подмножеством JSON Schema Draft 2020-12. Для новых схем Amazon Bedrock компилирует грамматический артефакт. Скомпилированные грамматики кэшируются на 24 часа, что делает последующие запросы быстрее. Первоначальный запрос с новой схемой может занять больше времени, поскольку Amazon Bedrock компилирует грамматический артефакт перед началом генерации. После этого начального компилирования последующие запросы с той же схемой выполняются с минимальными затратами, поскольку скомпилированная грамматика кэшируется. Структурированные выводы для моделей Claude на Amazon Bedrock обеспечивают надежность, необходимую для производственных AI-приложений. Они доступны на конечных точках bedrock-runtime и bedrock-mantle. Объединив формат вывода JSON Schema и строгое использование инструментов, вы можете создать конвейеры данных, которые не требуют дополнительной валидации. Вы также можете создавать надежные агентные рабочие процессы и производственные AI-приложения без индивидуального парсинга или логики повторных попыток. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
Материал агрегирован из первоисточника:
SMNTCN (Semanticon) — глобальные новости ИИ
Читать полностью в SMNTCN (Semanticon) — глобальные новости ИИМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
Amazon Bedrock поддерживает структурированные выводы для моделей Claude
Amazon Bedrock теперь поддерживает структурированные выводы для моделей Claude.
Кратко от AI: Главные тезисы
- Amazon Bedrock теперь поддерживает структурированные выводы для моделей Claude.
Amazon Bedrock поддерживает структурированные выводы для моделей Claude
Похожие материалы
Просишь ИИ сделать анимацию для вступления к видео. В голове уже есть представление о том, как она должна выглядеть, ...
Просишь ИИ сделать анимацию для вступления к видео. В голове уже есть представление о том, как она должна выглядеть, но не знаешь, как называется нужный эффект. Остаётся писать что-то вроде «сделай покруче и посолиднее», а результат зависит от удачи. motion-prompt создан именно…
Шесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude
🥚 Шесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude Нейросетям дали одинаковое задание: спроектировать защитную капсулу для сырого яйца, которую затем изготовят на 3D-принтере. Условия были строгими: не более 250 г пластика, 8 часов печати и 20 ватных…
Сэм Альтман раскрывает окончательный план OpenAI (это безумие)
Сэм Алман, генеральный директор OpenAI, компании, стоящей за ChatGpt, только что сказал своим сотрудникам, что вся эта гонка ИИ может закончиться только тремя способами. И одним из таких финалов является то, что одна компания становится настолько могущественной, что может буквально расплавить графические процессоры всех остальных. Это не…
Стартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
