Теперь в API OpenAI можно кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш...
Теперь в API OpenAI можно кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш хранится бессрочно. Это означает, что даже спустя несколько часов можно вернуться к старой задаче и продолжить работу с гарантированным попаданием в кэш. Меньше…
- 01.Теперь в API OpenAI можно кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш хранится бессрочно
- 02.Это означает, что даже спустя несколько часов можно вернуться к старой задаче и продолжить работу с гарантированным попаданием в кэш
Теперь в API OpenAI [можно]() кэшировать промпты на срок до 12 часов, а для авторизованных пользователей Codex и Work кэш хранится бессрочно. Это означает, что даже спустя несколько часов можно вернуться к старой задаче и продолжить работу с гарантированным попаданием в кэш. Меньше повторной обработки контекста и, потенциально, меньше впустую потраченных лимитов. Побольше бы таких обновлений. 🍿
Related Intelligence
All stories →Sullivan & Cromwell 如何利用 Codex 构建法律工具 |开放人工智能
在 Sullivan & Cromwell LLP，John Savva 使用 Codex 围绕公司的法律专业知识构建工具。协议分析器汇集了协议草案、选定的先例和反映公司和客户立场的行动手册。它识别潜在问题并返回...
Hebbia on Astra：更好的研究，更好的演示 |开放人工智能
“我们看到 Astra 实际上比我们在两个方面测试过的任何其他型号都显示出超过两位数的增益。” Hebbia 的 Kavita Anand 指出了这两个因素：选择正确的来源和生成 PowerPoint 演示文稿。对于在拥有数千个数据室的银行家或投资者来说……
Anthropic 为华尔街打开账目，显示创纪录的收入和不断增加的债务
Anthropic 是第一个向 SEC 提交 S-1 的大型人工智能实验室，计划在纳斯达克上市，股票代码为“ANT”。这些数字很强劲，季度收入达 116 亿美元，营业利润首次实现，现有客户的支出同比增长九倍……