arXiv cs.AI / cs.LG 最新· Dimitrios Liakopoulos·· 3 天前AI 评分47
FlowMaker:从任务到成本高效的生成式 AI 工作流部署
FlowMaker: From Tasks to Cost-Efficient Generative AI Workflow Deployments
AI 导读
FlowMaker 提供任务级接口,自动为用户挑选由工作流、模型与部署配置组成的工作流变体。其约束引导、负载感知的剪枝算法支持按需快速决策。相比包括 Murakkab 在内的 SOTA 基线,FlowMaker 将 goodput 最高提升 10.14×,成本最高降低 2.77×。
标题与摘要由 AI 辅助生成,事实与观点以原文为准。
来源:arXiv cs.AI / cs.LG 最新 · arxiv.org
本站标题、摘要与推荐理由由 AI 辅助生成;原文版权归来源所有。