To Each Language Its Tokenizer: Modular Tokenizers for Efficient Multilingual LLMs
本文针对多语言大模型的词汇压缩不均和资源浪费问题,提出模块化分词器学习方法及预训练策略,提高效率与跨语言公平性。
0 citationsRead paper
本文针对多语言大模型的词汇压缩不均和资源浪费问题,提出模块化分词器学习方法及预训练策略,提高效率与跨语言公平性。
本文提出Suan算法,通过在梯度级别直接优化偏好,解决大型语言模型中安全对齐问题,同时保持响应的实用性。
本文通过引入一个多维度度量框架,解决多尺度高性能计算中的资源管理和可持续性问题,指导现代工作负载的部署策略。
本文研究了欧几里得空间中设施选址问题,旨在设计一种机制最小化设施与最远代理间的期望距离,并确保代理无动机谎报位置。
本文提出RCBNB-MB算法,通过识别时间序列中的潜在因果机制来解决非平稳时间序列的因果结构发现问题,利用马尔可夫毯提高鲁棒性。
本文针对多语言大模型的词汇压缩不均和资源浪费问题,提出模块化分词器学习方法及预训练策略,提高效率与跨语言公平性。
本文提出Suan算法,通过在梯度级别直接优化偏好,解决大型语言模型中安全对齐问题,同时保持响应的实用性。
本文通过引入一个多维度度量框架,解决多尺度高性能计算中的资源管理和可持续性问题,指导现代工作负载的部署策略。
本文研究了欧几里得空间中设施选址问题,旨在设计一种机制最小化设施与最远代理间的期望距离,并确保代理无动机谎报位置。
本文提出RCBNB-MB算法,通过识别时间序列中的潜在因果机制来解决非平稳时间序列的因果结构发现问题,利用马尔可夫毯提高鲁棒性。