✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать, как работает инструмент. Встроенные инструменты, которые требуются меньше чем в 20% диалогов, убрали из постоянного контекста и подгружают по требованию, что на 60% уменьшило объём их описаний в статичной части запроса. На месте остались чтение, поиск, правка файлов и терминал, а также ask_question, вызов которого некоторые модели выдумывают при его отсутствии, и create_plan для режима планирования. Тем же способом раньше вынесли MCP-инструменты, и в сессиях с их вызовами общий расход токенов упал на 46,9%. Остальную экономию дали кэш и работа с контекстом. С выхода GPT-5.6 API OpenAI позволяет явно размечать границы кэша, и Cursor ставит их после стабильных слоёв запроса перед растущей перепиской, а меняющиеся данные (навыки, субагенты и инфа об окружении) вынес в служебное пользовательское сообщение за этими границами. Инструмент чтения файлов стал нумеровать каждую десятую строку вместо каждой - номер стоит три–пять токенов, а за сессию агент читает десятки тысяч строк, так что чтение из кэша сократилось на 1,6%. Ещё из промпта убрали настойчивые советы отдавать изучение кодовой базы субагентам, поскольку модели освоили этот приём, а другую модель для субагента агент теперь выбирает только по указанию пользователя или обвязки. Изменения уже действуют для пользователей Cursor, те же приёмы перенесут в Grok Bot. @ai_machinelearning_big_data
内容来自原始来源:
Telegram — AI Machine Learning Big Data
在 Telegram — AI Machine Learning Big Data 阅读全文本内容来自公开来源。若发布内容影响您的权利 → 申请删除信息
标题为俄语Cursor сократил расход токенов
✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
AI 摘要:要点
- ✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества
- Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
Cursor сократил расход токенов
相关文章
法官驳回萨姆·奥尔特曼妹妹的性虐待诉讼
周二,美国地区法官 Zachary Bluestone 驳回了 Ann Altman 去年提起的诉讼,指控她的兄弟、OpenAI 首席执行官 Sam Altman 在她的整个童年时期对她进行了性虐待。正如《卫报》早些时候报道的那样,法官写道,去年,安……
ENHugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
停止为人工智能付费,在本地运行一切(方法如下)
大型实验室不会谈论这一点,而是不断学习为您自己的工作流程的[音乐]用例改进模型的想法。大型实验室没有动力为用户提供这种[音乐],因为他们正在训练他们的模型以适应正常的……


