arXiv cs.AI / cs.LG 最新· Qi Qi·· 2 天前AI 评分47
GearUp：基于 slack 引导预加载的 DAG 感知 Serverless 推理加速
GearUp: DAG-aware Acceleration for Serverless Inference Serving via Slack-guided Pre-loading
AI 导读
GearUp 是面向 Serverless DAG 推理的服务系统，将 ML 节点的加载阶段调度进 DAG 暴露的 slack 时间，把初始化移出端到端关键路径。
标题与摘要由 AI 辅助生成，事实与观点以原文为准。
来源：arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成；原文版权归来源所有。