TechCrunch рассказывает, что ChatGPT разочаровал Диогу Алмейду, исследователя OpenAI, который помог создать чат-бота и изобрел обучение с подкреплением на основе человеческой обратной связи (RLHF). Несмотря на его возможности, Алмейда остался недоволен. "У нас есть молния в бутылке, но она не полезна", — заявил он. "Я боролся с этой проблемой с тех пор. Мне потребовалось время, чтобы прийти к выводу: проблема в том, что мы оптимизируем для человеческого языка... Мы отлично справлялись с человеческим языком четыре года, но это не полезно для автоматизации, потому что компьютеры говорят на другом языке." Два года назад Алмейда покинул OpenAI, чтобы основать TypeSafe AI, стартап, который пытается решить эту проблему. На этой неделе компания выпустила новую модель на основе трансформеров, Jev, которая не является большой языковой моделью (LLM). Она не выводит текст, а вместо этого производит вероятности, или то, что компания называет "калиброванными решениями". Отказ от языка делает модель невероятно дешевой и быстрой, а поскольку пользователи заранее определяют выходные данные, она не может "галлюцинировать". Выходные токены бесплатны, а входные токены измеряются миллиардами, а не миллионами. Скриншот показывает сравнение Jev и модели OpenAI, отвечающих на одни и те же запросы. Разработчики проявляют большой интерес к продукту; компания на некоторое время потеряла возможность обслуживать пользователей через свой API из-за высокого спроса. Jev, по-видимому, наиболее полезен для автоматизации программного обеспечения. На данный момент программисты видят в нем более дешевый и надежный способ внедрения интеллекта в свой код. Например, Пранид Шарма, инженер-программист в Vercel, компании, занимающейся агентной инфраструктурой, сообщил, что его компания использовала ChatGPT Luna 5.6 от OpenAI для работы с классификатором, проверяющим команды на безопасность. Когда Vercel заменила Luna на Jev, она получила результаты от 5 до 18 раз быстрее и с большей точностью. Другой разработчик, Нихил Мудхолкар, технический директор Bryo AI, протестировал Jev против Gemini для классификации бизнес-электронных писем. В его тесте Gemini была немного более точной, но в 10-20 раз дороже. Более интересными для Мудхолкара были оценки уверенности Jev — "это единственная модель, которая возвращает реальную вероятность, что делает ее идеальной для автоматизации рабочих процессов!" Кроме того, новая модель может не только заменять LLM в определенных случаях, но и дополнять их, выступая в качестве умной проверки на неправильное поведение. Использование агентов для мониторинга других агентов может быстро стать дорогим, но использование Jev для этой цели, по словам Алмейды, имеет смысл. Он видит, как пользователи используют Jev для отслеживания следов агентов LLM и предотвращения их взлома. "В конце концов, это немного делегирует проблему галлюцинации пользователю", — объяснил Армин Ронахер, технический директор Earendil, который разрабатывает открытую модель Pi. "Пользователь должен сказать: если это возвращает только 50% вероятности, возможно, это просто подбрасывание монеты, и я это игнорирую. Но если это 95%, тогда я могу что-то с этим сделать." Еще одной потенциальной областью применения Jev является маршрутизация моделей, добавил Ронахер. Прогнозирование того, требуется ли для данной нагрузки конкретная модель, было бы полезным, но использование LLM для этой задачи было бы дорогим. Низкая стоимость и скорость Jev делают такую сортировку в реальном времени возможной. И это надежда Алмейды. Модель названа в честь Уильяма Стэнли Джевонса, экономиста 19 века, чья парадоксальная концепция описывает, как снижение стоимости товара может привести к его все более широкому использованию. В данном случае снижение стоимости интеллекта должно привести к его широкому распространению. "Мы считаем, что умное программное обеспечение будет повсюду, в том виде, который будет возникать и распределяться... гораздо больше, чем ранний интернет, чем вы знаете, как мегаприложения, которые люди пытаются создать прямо сейчас", — сказал Алмейда. Алмейда сдержан в отношении архитектуры модели, которую внешние наблюдатели подозревают в том, что она построена на основе открытой LLM. Компания называет Jev "моделью системы один", сосредоточенной на интуиции, а не на рассуждении, и специально ориентированной на правильную задачу. Алмейда утверждает, что Jev обучена исключительно на синтетических данных с использованием техники, которую он называет "обучением с подкреплением на основе калиброванных решений". "Мы сделали раннюю ставку на то, что будем создавать все наши данные, и это была одна из лучших ставок в моей жизни — лучше, чем наш запуск, по моему мнению, лучше, чем RLHF", — сказал он TechCrunch. "Половина [нашей компании] — это лаборатория, которая фактически владеет всей этой подотраслью статистически хорошо понятных синтетических данных, и это теперь моя радость жизни." На данный момент Jev стоит одна как такая модель, но Ронахер ожидает, что конкуренты появятся, теперь, когда ее полезность очевидна. "Мы должны были увидеть это раньше во многих отношениях, но предположительно, потому что LLM так дешевы и субсидированы, вам часто не нужно быть креативным еще", — сказал он. TypeSafe сама будет разрабатывать больше версий модели в новых модальностях. На вопрос, является ли TypeSafe лабораторией на переднем крае, Алмейда ответил: "основной продукт Frontier Labs — это страх или хайп. Я хотел бы, чтобы нашим основным продуктом был интеллект... [но мы не] лаборатория в том смысле, что, знаете, делаем ставку на бесконечное богатство, или религию, или строим Бога в центре обработки данных, или что-то еще, что является темой сегодняшнего дня." Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником. Губернатор Виргинии создает рабочую группу по ИИ и ограничивает дата-центры PrismML представила Ternary Bonsai 2 27B с высокой производительностью Kyutai выпустила модель Voice of Reason для устного решения математических задач. Nokia открывает доступ к AnyJev, библиотеке для принятия решений без обучения. OpenAI представила GPT-6 Sol и Luna с новыми ценами на API, снижая стоимость на 50%.