阿斯塔纳时间
AI QAZAQSTANKZ · AI测试版

哈萨克斯坦人工智能与高科技领域的智能门户

内容来自原始来源:

arXiv — cs.AI

在 arXiv — cs.AI 阅读全文

本内容来自公开来源。若发布内容影响您的权利 → 申请删除信息

异构批处理的高效迭代检索

现代信息检索越来越多地采用嵌入模型和生成模型来处理复杂的查询。然而,当前的服务系统由于单独执行这些模型而面临吞吐量低和 GPU 利用率低的问题。粗粒度划分,...

arXiv — cs.AI作者: Dohyun Park, Hubertus Franke, Daniel G. Waddington, Swaminathan Sundararaman, Yongjoo Park2026年9月23日 (9月23日)
提供 4 种语言版本

AI 摘要:要点

  • 现代信息检索越来越多地采用嵌入模型和生成模型来处理复杂的查询。然而,当前的服务系统由于单独执行这些模型而面临吞吐量低和 GPU 利用率低的问题。粗粒度划分,...
Research
KZ·AI 4BC1
Инсайт дня

异构批处理的高效迭代检索

Поделиться:

相关文章

返回列表