MAPS: Memory-Aware Predictive Scheduling Framework for Large Language Model Serving
为解决云服务基础设施中的负载不平衡问题，提出MAPS框架，通过预测输出长度和分级调度策略优化大语言模型的服务性能。
0 citationsRead paper
Selected work
Representative Papers
Testing Interchangeability in LLM Agent Teams
研究通过在多智能体系统中交换角色匹配的代理来测试代理间的互换性，发现虽然任务得分影响小，但沟通成本显著增加。
0 citationsRead paper
Recent publications
Latest Papers
MAPS: Memory-Aware Predictive Scheduling Framework for Large Language Model Serving
为解决云服务基础设施中的负载不平衡问题，提出MAPS框架，通过预测输出长度和分级调度策略优化大语言模型的服务性能。
0 citationsRead paper
Testing Interchangeability in LLM Agent Teams
研究通过在多智能体系统中交换角色匹配的代理来测试代理间的互换性，发现虽然任务得分影响小，但沟通成本显著增加。
0 citationsRead paper