OpenAI анонсировала Decisions API для автоматизации программного обеспечения

TechCrunch рассказывает, что на мероприятии Dev Day компании OpenAI, прошедшем во вторник, генеральный директор Сэм Альтман представил новый «Decisions API». Этот API, по всей видимости, предоставляет функции, аналогичные Jev — модели, выпущенной TypeSafe AI в начале месяца, которая специально предназначена для автоматизации программного обеспечения. Это своего рода супер-классификатор, построенный на языковой модели, который позволяет разработчикам задавать набор вариантов, а он выдает их в виде вероятностей быстро и экономично. Decisions API от OpenAI, похоже, представляет собой аналогичный продукт. На мероприятии Альтман описал API как способ предоставить модели Luna заранее определенный набор опций для выбора, таких как категории для классификации изображения или различные поведения агентов. «Сосредоточив модель на этом выборе, мы можем сделать ее чрезвычайно быстрой, сохраняя при этом такие возможности, как понимание изображений, широкий языковой охват и меры безопасности», — сказал Альтман. TypeSafe не ответила на вопросы TechCrunch о новом продукте, но генеральный директор Диого Алмейда, бывший инженер OpenAI и соавтор метода обучения с подкреплением, пошутил в X о начале «войны клонов». Он добавил, что интерес OpenAI может быть «знаком… того, что создание в совместимом с System One формате — это будущее». («System One» — это термин TypeSafe для быстрого, интуитивного мышления, в отличие от «System 2», который применяется к осознанному рассуждению.) Подтекст здесь заключается в том, что языковые модели, как мы их знаем, не являются правильным решением для многих программных задач, так как они сравнительно медленны и дороги. Разработчики использовали Jev для дополнения языковых моделей и, делая это, обнаружили, что они быстрее и дешевле. Неясно, насколько Decisions API будет похож на Jev, поскольку OpenAI выпустила его в виде ограниченного превью, и на данный момент TechCrunch не заметила разработчиков, которые бы тестировали его. Тем не менее, интерес к продукту очевиден, судя по обсуждениям в X. Decisions API — не единственный аналогичный API на рынке; другие стартапы также разрабатывают подобные модели, и OpenAI не будет последним технологическим гигантом, который создаст что-то подобное. Ключевой вопрос заключается в том, насколько хорошо откалиброваны результаты каждого из этих моделей принятия решений в реальной жизни. Алмейда утверждает, что конкурентным преимуществом его компании является синтетические данные, которые она создает для генерации статистически полезных результатов. «Быстро и дешево — это очень просто, знаете ли», — сказал Алмейда TechCrunch на прошлой неделе. «Если вы хотите, чтобы это было действительно быстро и дешево, используйте кости, верно? Интеллект — это сложная часть, и моя северная звезда всегда заключается в том, чтобы продвигать кривую интеллекта на доллар. После всего лишь нескольких недель стало очевидно, что у этих моделей есть будущее, и одно из вероятных применений — это мониторинг и защита AI-агентов. Одной из новых мер безопасности OpenAI после ряда инцидентов, когда ее агенты плохо себя вели в открытом интернете, является использование отдельной модели для отслеживания плохих действий с «значительными вычислительными затратами». Шапор Нагибзаде, опытный специалист по кибербезопасности, возглавляющий стартап QueryStory, считает, что модель, подобная Jev, могла бы сделать это гораздо дешевле. Он создал демонстрацию для хакатона, прошедшего на прошлых выходных, которая использует Jev для проверки каждого действия агента на соответствие задаче, которую ему поставили, блокируя действия, в которых он был уверен, что они плохие, помечая другие для проверки и разрешая остальные. В теории, такой мониторинг мог бы предотвратить инцидент с Hugging Face — и мониторинг такого рода стоит $2.94 с Jev против $372 с языковой модели фронтира. Ключевое наблюдение заключается в том, что Jev, вероятно, достаточно дешев, чтобы использовать его для каждого действия агента, что предлагает уровень проверки, который мог бы повысить надежность агентов в целом. Это то, чего TypeSafe надеялась достичь, и теперь OpenAI также увидела в этом ценность. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.