✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать, как работает инструмент. Встроенные инструменты, которые требуются меньше чем в 20% диалогов, убрали из постоянного контекста и подгружают по требованию, что на 60% уменьшило объём их описаний в статичной части запроса. На месте остались чтение, поиск, правка файлов и терминал, а также ask_question, вызов которого некоторые модели выдумывают при его отсутствии, и create_plan для режима планирования. Тем же способом раньше вынесли MCP-инструменты, и в сессиях с их вызовами общий расход токенов упал на 46,9%. Остальную экономию дали кэш и работа с контекстом. С выхода GPT-5.6 API OpenAI позволяет явно размечать границы кэша, и Cursor ставит их после стабильных слоёв запроса перед растущей перепиской, а меняющиеся данные (навыки, субагенты и инфа об окружении) вынес в служебное пользовательское сообщение за этими границами. Инструмент чтения файлов стал нумеровать каждую десятую строку вместо каждой - номер стоит три–пять токенов, а за сессию агент читает десятки тысяч строк, так что чтение из кэша сократилось на 1,6%. Ещё из промпта убрали настойчивые советы отдавать изучение кодовой базы субагентам, поскольку модели освоили этот приём, а другую модель для субагента агент теперь выбирает только по указанию пользователя или обвязки. Изменения уже действуют для пользователей Cursor, те же приёмы перенесут в Grok Bot. @ai_machinelearning_big_data
From the original source:
Telegram — AI Machine Learning Big Data
Read full article at Telegram — AI Machine Learning Big DataThis material was compiled from public sources. If its publication affects your rights → Request removal
Title in RussianCursor сократил расход токенов
✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества. Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
AI Summary & Key Takeaways
- ✔️ Cursor сократил расход токенов Anysphere переработала обвязку своего агента и снизила траты пользователей на токены на 7% без потери качества
- Системный промпт сократили примерно на 75%, так как современным моделям больше не нужны длинные списки запретов, достаточно описать,…
Cursor сократил расход токенов
Related stories
Judge dismisses Sam Altman’s sister’s sexual abuse lawsuit
On Tuesday, US District Judge Zachary Bluestone dismissed the lawsuit Ann Altman filed last year alleging that her brother, OpenAI CEO Sam Altman, had sexually abused her throughout her childhood. As reported earlier by The Guardian, the judge wrote that over the last year, Ann…
Hugging Face CEO warns that Netflix’s OpenAI hack documentary isn’t accurate
Before you share the Netflix documentary "AI Gone Rogue" take note. Clem Delangue, Hugging Face's co-founder who is featured in the film, says it went "full doomer mode" and isn't accurate.
SpaceX's AI business exceeds investor expectations
SpaceX Reports AI Profit Growth, Beating Expectations.
Stop paying for AI, run everything locally (here’s how)
Big labs are not going to talk about this but continual learning the idea of improving the models for your [music] own use cases for your own workflows. Big labs have no incentive of providing users with that [music] because they're training their models for the normal…


