⚡️ Для ИИ-агентов выпустили модель, которая принимает решения в десятки раз быстрее обычных LLM TypeSafe AI открыла доступ к Jev — модели, которая не пишет текст, а выбирает лучший вариант из заданных. Например, она может решить, какой инструмент запустить, куда направить запрос или к какой категории отнести данные. Такие небольшие решения постоянно нужны ИИ-агентам, но использовать для каждого полноценную LLM дорого и медленно. По данным TypeSafe, Jev отвечает за 70–500 мс и на подходящих задачах работает в 40–200 раз быстрее традиционных моделей. Вход стоит всего $0,042 за миллион токенов, а новым пользователям дают $5 — этого хватит примерно на 119 млн входных токенов. Сложное планирование и код при этом можно оставить большой LLM, а всю рутину переложить на Jev. [Источник]()
Материал агрегирован из первоисточника:
Telegram — GPT Time | Нейросети | ИИ
Читать полностью в Telegram — GPT Time | Нейросети | ИИМатериал собран из открытых источников. Если размещение затрагивает ваши права → Удалить информацию
Для ИИ-агентов выпустили модель, которая принимает решения в десятки раз быстрее обычных LLM
Для ИИ-агентов выпустили модель, которая принимает решения в десятки раз быстрее обычных LLM.
Кратко от AI: Главные тезисы
- Для ИИ-агентов выпустили модель, которая принимает решения в десятки раз быстрее обычных LLM.
Для ИИ-агентов выпустили модель, которая принимает решения в десятки раз быстрее обычных LLM
Похожие материалы
Судья отклонил иск сестры Сэма Альтмана о сексуальном насилии
Во вторник окружной судья США Закари Блюстоун отклонил иск, поданный Энн Альтман в прошлом году, утверждая, что ее брат, генеральный директор OpenAI Сэм Альтман, подвергал ее сексуальному насилию на протяжении всего ее детства. Как ранее сообщало The Guardian, судья написала, что за последний год Энн...
ENAnthropic pitches AI safety bill that may block a model if 50+ people could be killed
The proposed policy seems to offer protections against AI run amok but actually forbids federal agencies from blocking a model's release without the permission of a judge.
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
ENAnthropic’s cloud partnerships are getting messy
Anthropic is reportedly struggling to secure enough compute from cloud providers that increasingly view it as a competitor, even as its infrastructure spending balloons ahead of a planned November IPO.



