Think in English, Answer in Korean: Efficient Adaptation of Multilingual Tool-Using Agents
作者: Utsav Garg, Sungjin Hong, Jason Jung, Justin Lee, Shaan Desai, Joon Hee Kim, Anirudh Shrinivason, Edmond Wen, Susie Park
分类: cs.AI, cs.LG
发布日期: 2026-06-30
💡 一句话要点
提出LuckyStar 111B以解决多语言工具使用代理的适应性问题
🎯 匹配领域: 支柱二:RL算法与架构 (RL & Architecture) 支柱九:具身大模型 (Embodied Foundation Models)
关键词: 多语言模型 工具使用代理 强化学习 自然语言处理 企业智能助手
📋 核心要点
- 现有多语言工具使用代理在适应性和性能上存在挑战,尤其是在内存和服务约束下。
- 论文提出LuckyStar 111B模型,通过前言条件化和多种技术手段高效适应多语言环境。
- 实验结果显示,模型在数学推理和NL2SQL任务上性能显著提升,同时保持指令遵循质量。
📝 摘要(中文)
本文介绍了LuckyStar 111B,这是一个由Cohere与LG CNS合作开发的111B参数混合推理模型,旨在满足韩英企业代理的实际内存和服务约束。该模型基于Cohere的完全后训练的Command A模型进行训练,采用前言条件化技术在简洁的非推理行为与更长的工具导向推理之间切换。我们研究了四种高效扩展工具使用代理的选择,包括多语言监督微调、具有可验证奖励的强化学习、针对韩语用户响应的语言一致性奖励,以及用于单GPU服务的4位量化。经过适应的模型在数学推理、函数调用和自然语言到SQL(NL2SQL)性能上有所提升,同时保持了韩语和英语指令遵循的质量。这些结果为在内存受限的部署下将后训练的多语言模型适应于可验证的代理工作流提供了实用的方案和故障模式分析。
🔬 方法详解
问题定义:本文旨在解决多语言工具使用代理在内存和服务约束下的适应性问题。现有方法在处理复杂任务时往往面临性能不足和资源消耗过大的挑战。
核心思路:论文的核心思路是通过LuckyStar 111B模型,利用前言条件化技术在不同推理模式之间切换,从而提高多语言代理的适应性和效率。该设计旨在优化模型在实际应用中的表现,尤其是在企业环境中。
技术框架:LuckyStar 111B模型的整体架构包括多语言监督微调、强化学习与可验证奖励机制、语言一致性奖励和4位量化等模块。这些模块共同作用,以实现高效的工具使用和推理能力。
关键创新:最重要的技术创新点在于采用了前言条件化技术,使得模型能够在简洁的非推理行为与复杂的工具导向推理之间灵活切换。这一设计与传统模型的单一推理模式形成了显著区别。
关键设计:在模型设计中,采用了4位量化技术以支持单GPU服务,同时在损失函数中引入了语言一致性奖励,以确保韩语用户响应的质量。
🖼️ 关键图片
📊 实验亮点
实验结果表明,LuckyStar 111B模型在数学推理和NL2SQL任务上表现优异,相较于基线模型,性能提升幅度达到显著水平,具体数据未提供,需进一步验证。
🎯 应用场景
该研究的潜在应用领域包括企业智能助手、客户服务机器人和多语言交互系统。通过提高多语言代理的适应性,LuckyStar 111B能够在实际商业环境中提供更高效的服务,提升用户体验,具有广泛的实际价值和未来影响。
📄 摘要(原文)
We present LuckyStar 111B, a 111B-parameter hybrid reasoning model developed through a collaboration between Cohere and LG CNS for Korean-English enterprise agents under practical memory and serving constraints. The model trains from Cohere's fully post-trained Command A model rather than a new pretraining run, and uses preamble conditioning to switch between concise non-reasoning behavior and longer tool-oriented reasoning. We study four choices for scaling tool-using agents efficiently: multilingual supervised fine-tuning, reinforcement learning with verifiable rewards for multi-step tool-use tasks, language-consistency rewards for Korean user-facing responses, and 4-bit quantization for single-GPU serving. The adapted model improves mathematical reasoning, function calling, and agentic natural-language-to-SQL (NL2SQL) performance while preserving general Korean and English instruction-following quality. These results provide a practical recipe and failure-mode analysis for adapting post-trained multilingual models to verifiable agentic workflows under memory-constrained deployment.