Distilling Foundation Models for Agentic What-If Reasoning:Cost, Latency, and Governance in a Hybrid LLM+SLM Architecture
研究通过在混合LLM+SLM架构中蒸馏表格基础模型,解决了高推理延迟问题,大幅压缩参数同时保持了高性能。
0 citationsRead paper
研究通过在混合LLM+SLM架构中蒸馏表格基础模型,解决了高推理延迟问题,大幅压缩参数同时保持了高性能。
研究解决了虚假信息叙事标签自动生成的问题,通过无监督方法如聚类和图社区检测,并提出三层评估框架以优化生成效果。
研究解决了自动模拟性评估中LLM模拟器可能绕过解释的问题,通过定性复制和扩展ConSim的实验,揭示了两个主要限制,并提出改进评估方法的建议。
论文探讨了多语言大模型在回答医学问题时应保持一致性还是适应文化差异的问题,通过调查不同国家和领域的专业人士,揭示了当前缺乏实证研究支持哪种方法更优。
论文提出一种跨学科框架,通过结合计算机科学与社会科学的方法,解决算法决策中正式公平性与感知公平性之间的差距问题。
研究通过在混合LLM+SLM架构中蒸馏表格基础模型,解决了高推理延迟问题,大幅压缩参数同时保持了高性能。
研究解决了虚假信息叙事标签自动生成的问题,通过无监督方法如聚类和图社区检测,并提出三层评估框架以优化生成效果。
研究解决了自动模拟性评估中LLM模拟器可能绕过解释的问题,通过定性复制和扩展ConSim的实验,揭示了两个主要限制,并提出改进评估方法的建议。
论文探讨了多语言大模型在回答医学问题时应保持一致性还是适应文化差异的问题,通过调查不同国家和领域的专业人士,揭示了当前缺乏实证研究支持哪种方法更优。
论文提出一种跨学科框架,通过结合计算机科学与社会科学的方法,解决算法决策中正式公平性与感知公平性之间的差距问题。