{{opener}} Amazon Bedrock теперь поддерживает структурированные выводы для всех моделей Anthropic Claude на конечных точках bedrock-runtime и bedrock-mantle, где модель доступна. Теперь, независимо от того, вызываете ли вы Claude через Boto3 и API bedrock-runtime или через API сообщений и конечную точку bedrock-mantle, вы можете получать ответы в формате JSON, соответствующие заданной структуре. Больше не требуется индивидуальный парсинг, повторные попытки или постобработка. С помощью структурированных выводов для Claude на Amazon Bedrock вы можете автоматизировать надежные задачи, соответствующие схеме, в различных отраслях. Примеры включают извлечение всех необходимых полей из финансовых отчетов и документов по соблюдению норм, парсинг клинических заметок в электронные медицинские записи и обогащение каталогов продуктов с помощью последовательных, проверенных результатов. Вы также можете анализировать контракты на наличие ключевых условий, сторон и обязательств или управлять маршрутизацией умных служебных запросов, где намерения, настроения и сущности всегда соответствуют модели данных вашего приложения. Структурированные выводы используют ограниченное декодирование для обеспечения соответствия вашей JSON-схеме во время генерации токенов, а не после. Модель не производит токены, которые могли бы нарушить вашу схему. Это изменяет форматирование вывода с вероятностного на детерминированное. Теперь доступны два дополнительных механизма на обеих конечных точках Amazon Bedrock: формат вывода JSON Schema для контроля структуры ответа модели и строгое использование инструментов для проверки параметров инструментов на соответствие схемам. Каждый ответ является допустимым JSON, поэтому вы больше не столкнетесь с ошибками JSON.parse() или исключениями парсинга. Ответы также безопасны по типам: типы полей соблюдаются, и обязательные поля всегда присутствуют. Поскольку выводы всегда соответствуют вашей схеме, вам не нужны повторные попытки для обработки нарушений схемы, что делает вашу интеграцию более надежной. Структурированные выводы также ограничивают ответы только полями, которые определяет ваша схема, что снижает количество токенов вывода и может снизить затраты на вывод для высоких объемов нагрузки. Структурированные выводы работают с пакетным выводом, поэтому вы можете обрабатывать большие объемы запросов асинхронно, получая при этом соответствующие схеме выводы. На конечной точке bedrock-runtime это также работает с кросс-регионным выводом, позволяя использовать его через регионы AWS без дополнительной настройки. Если вам нужны ответы в реальном времени, вы можете передавать структурированные ответы в виде типизированных событий. Когда вы делаете запрос с JSON-схемой, Amazon Bedrock валидирует вашу JSON-схему в соответствии с поддерживаемым подмножеством JSON Schema Draft 2020-12. Для новых схем Amazon Bedrock компилирует грамматический артефакт. Скомпилированные грамматики кэшируются на 24 часа, что делает последующие запросы быстрее. Первоначальный запрос с новой схемой может занять больше времени, поскольку Amazon Bedrock компилирует грамматический артефакт перед началом генерации. После этого начального компилирования последующие запросы с той же схемой выполняются с минимальными затратами, поскольку скомпилированная грамматика кэшируется. Структурированные выводы для моделей Claude на Amazon Bedrock обеспечивают надежность, необходимую для производственных AI-приложений. Они доступны на конечных точках bedrock-runtime и bedrock-mantle. Объединив формат вывода JSON Schema и строгое использование инструментов, вы можете создать конвейеры данных, которые не требуют дополнительной валидации. Вы также можете создавать надежные агентные рабочие процессы и производственные AI-приложения без индивидуального парсинга или логики повторных попыток. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
From the original source:
SMNTCN (Semanticon) — глобальные новости ИИ
Read full article at SMNTCN (Semanticon) — глобальные новости ИИThis material was compiled from public sources. If its publication affects your rights → Request removal
Amazon Bedrock supports structured pins for Claude models
Amazon Bedrock now supports structured inferences for Claude models.
AI Summary & Key Takeaways
- Amazon Bedrock now supports structured inferences for Claude models.
Amazon Bedrock supports structured pins for Claude models
Related stories
You ask the AI to make an animation for the intro to the video. I already have an idea in my head of what it should look like...
You ask the AI to make an animation for the intro to the video. You already have an idea in your head of how it should look, but you don’t know what the desired effect is called. All that remains is to write something like “make it cooler and more impressive,” and the result depends on luck. motion-prompt was created exactly...
RUШесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude
🥚 Шесть топовых ИИ-моделей попытались спасти яйцо от падения — победила Claude Нейросетям дали одинаковое задание: спроектировать защитную капсулу для сырого яйца, которую затем изготовят на 3D-принтере. Условия были строгими: не более 250 г пластика, 8 часов печати и 20 ватных…
Sam Altman Reveals OpenAI's FINAL PLAN (It's Insane)
Sam Alman, the CEO of OpenAI, the company behind ChatGpt, just told his own employees that there are only three ways this whole AI race can end. And one of those endings is a single company getting so powerful that it can literally melt everyone else's GPUs. This is not a…
RUСтартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
