По данным AWS Machine Learning, канадские организации, создающие приложения генеративного ИИ на платформе Amazon Bedrock, теперь могут получить доступ к последним основным моделям, таким как OpenAI GPT-6.1, GPT-6 и GPT-5.6, из канадских регионов AWS. С помощью кросс-регионного вывода (CRIS) Amazon Bedrock эти модели стали доступны из Канады. Модели OpenAI GPT-5.6 (Sol, Terra и Luna), GPT-6 (Astra, Sol и Luna) и GPT-6.1 Sol можно использовать из регионов Канада (Центральный) и Канада Запад (Калгари). Обработка вывода осуществляется в Северной Америке, с контролем за местоположением данных, описанным далее в статье. Кросс-регионный вывод представляет собой механизм мощности. Ваше приложение вызывает конечную точку Amazon Bedrock Runtime в вашем исходном регионе, после чего Amazon Bedrock перенаправляет запрос в поддерживаемый регион назначения для обработки. Такой подход предоставляет доступ к более широкому пулу мощностей, что помогает вашему приложению поддерживать производительность во время пиковых нагрузок. Не требуется управлять маршрутизацией региона назначения в вашем приложении. В данной статье рассматриваются модели GPT-5.6, GPT-6 и GPT-6.1, доступные из Канады, а также профили кросс-регионного вывода, которые их обслуживают. Мы также покажем, как настроить разрешения и вызвать модели с помощью API OpenAI Responses, API Chat Completions и API Amazon Bedrock Converse. Для API Responses мы включаем примеры потоковой передачи и использования инструментов. Наконец, мы расскажем, как запросить увеличение квоты, просмотреть доступные сигналы наблюдаемости в вашем исходном регионе и очистить ресурсы после завершения. С помощью Amazon Bedrock можно получить доступ к трем семействам моделей OpenAI в Канаде через кросс-регионный вывод. В следующей таблице обобщены каждая модель и ее назначение. GPT-6.1 Sol — сильное рассуждение и кодирование для задач, где важны как производительность, так и стоимость. GPT-6 Astra — сложное полное рассуждение и агентные задачи. GPT-6 Sol — сильное рассуждение и кодирование для повторяющихся задач с экономикой, подходящей для регулярного использования. GPT-6 Luna — быстрый, недорогой вывод для высокообъемных повторяющихся задач с регулируемыми усилиями рассуждения для каждого запроса. GPT-5.6 Sol — высокое рассуждение, кодирование и агентные нагрузки. GPT-5.6 Terra — сбалансированная производительность и стоимость для повседневного использования. GPT-5.6 Luna — быстрый и доступный для высокообъемных приложений с чувствительностью к задержкам. Эти модели принимают текстовые и графические входные данные, возвращают текст и поддерживают контекстное окно в 1 миллион токенов, режим рассуждения и вызов инструментов. GPT-6.1 Sol поддерживает то же контекстное окно и вызов инструментов, с дополнительными входными и выходными модальностями, описанными в его карточке модели. Модели GPT-5.6, GPT-6 и GPT-6.1 также поддерживают кэширование подсказок на Amazon Bedrock. Профили вывода Amazon Bedrock являются логическими идентификаторами, которые вы передаете вместо сырого идентификатора модели. Каждый профиль определяет модель и набор регионов, к которым Amazon Bedrock может перенаправить запрос. Два типа профилей доступны из Канады: географический профиль США (с префиксом us.) перенаправляет запросы в ваш канадский исходный регион и регионы США. Выберите этот профиль, когда ваша рабочая нагрузка требует, чтобы обработка вывода оставалась в пределах Северной Америки (Канада и США). Глобальный профиль (с префиксом global.) перенаправляет запросы в поддерживаемые коммерческие регионы AWS, где развернута модель. Это позволяет использовать более широкий пул мощностей в момент запроса. Доступность конечных точек различается по моделям и исходным регионам. Для начала работы мы рассмотрим настройку и код, необходимые для вызова этих моделей из вашего канадского исходного региона. Прежде чем начать, убедитесь, что у вас есть учетная запись AWS с включенным регионом Канада (Центральный) ca-central-1 или Канада Запад (Калгари) ca-west-1 в качестве вашего исходного региона. Также необходима роль или пользователь IAM с разрешениями для вызова профилей вывода. Для быстрого изучения прикрепите управляемую политику AWS AmazonBedrockLimitedAccess. Для развернутых рабочих нагрузок с более строгими контролями доступа используйте политику наименьших привилегий. В данной статье мы показали, как получить доступ к моделям OpenAI GPT-5.6 (Sol, Terra и Luna), GPT-6 (Astra, Sol и Luna) и GPT-6.1 Sol из Канады. Эти модели доступны из регионов Канада (Центральный) и Канада Запад (Калгари) с использованием кросс-регионного вывода на платформе Amazon Bedrock. Мы рассмотрели доступные профили вывода, как настроить разрешения и пример SCP, а также как вызвать модели с помощью API Responses, Chat Completions и Converse. Мы также показали, как запросить увеличение квоты, просмотреть использование и очистить тестовые ресурсы. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.
From the original source:
SMNTCN (Semanticon) — глобальные новости ИИ
Read full article at SMNTCN (Semanticon) — глобальные новости ИИThis material was compiled from public sources. If its publication affects your rights → Request removal
Title in RussianКанадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
AI Summary & Key Takeaways
- Канадские организации теперь могут использовать модели OpenAI через Amazon Bedrock.
Канадские организации получают доступ к моделям OpenAI на Amazon Bedrock
Related stories
Sam Altman Reveals OpenAI's FINAL PLAN (It's Insane)
Sam Alman, the CEO of OpenAI, the company behind ChatGpt, just told his own employees that there are only three ways this whole AI race can end. And one of those endings is a single company getting so powerful that it can literally melt everyone else's GPUs. This is not a…
RUСтартап Electric Plant создает ИИ для общения с растениями
Стартап Electric Plant создает ИИ, который интерпретирует электрические сигналы растений.
RUОбеспечение идентичности ИИ-агентов с помощью X.509 PKI на AWS
AWS Machine Learning описывает важность X.509 PKI для ИИ-агентов.
RUИнженера OpenAI, обвиняемого в установке прослушки, отказались выпускать под залог в $1 млн
⚖️ Инженера OpenAI, обвиняемого в установке прослушки, отказались выпускать под залог в $1 млн Федеральный суд США оставил под стражей Абдулрахмана Альфозана, которого подозревают в установке записывающего устройства в переговорной комнате руководства OpenAI. По данным…
