Post-Training Language Models for Gold-Medal Performance in Coding Competitions

📄 arXiv: 2609.02849v1 📥 PDF

作者: Aleksander Ficek, Sean Narenthiran, Mehrzad Samadi, Somshubra Majumdar, Boris Ginsburg

分类: cs.LG, cs.AI, cs.CL, cs.MA, cs.SE

发布日期: 2026-09-02

💡 一句话要点

提出后训练语言模型以在编程竞赛中实现金牌表现

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture) 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 编程竞赛 语言模型 后训练 强化学习 监督微调 问题策划 AI系统

📋 核心要点

  1. 核心问题：现有的编程竞赛中，语言模型的推理能力尚未达到人类顶尖选手的水平。
  2. 方法要点：提出了一种结合问题策划、合成推理和强化学习的后训练管道，以提升模型在编程竞赛中的表现。
  3. 实验或效果：Nano-CC在IOI 2025中得分从130提升至468，Ultra-CC在IOI 2026中得分535.4，超越人类顶尖选手。

📝 摘要（中文）

竞争编程已成为大型语言模型推理能力的重要测试，国际竞赛如IOI和ICPC是其最具挑战性的场景。本文提出了一种端到端的专业化管道，结合了大规模问题策划、合成推理轨迹、监督微调（SFT）和强化学习（RL）。通过使用22,000个策划问题，训练了Nemotron-3-Nano-CC（30B-A3B）和Nemotron-3-Ultra-CC（550B-A55B）。此外，本文引入了GenCorrect，一种反馈驱动的测试时间计算策略，能够迭代生成、评估和优化多样化解决方案。在IOI 2025中，Nano-CC的得分从130分提升至291分，使用GenCorrect后达到468分，超出金牌门槛438.3分，而Ultra-CC则达到502分。基于这些结果，本文开发了一个特定于竞赛的Ultra-CC系统，并在IOI 2026中进行前瞻性评估，得分535.4分，超出金牌门槛361.12分和最高人类得分498.27分。这是首个在IOI问题集中超越最高人类选手的AI系统。

🔬 方法详解

问题定义：本文旨在解决大型语言模型在编程竞赛中的推理能力不足，现有方法未能有效应对复杂的编程问题。

核心思路：通过结合大规模问题策划、合成推理轨迹、监督微调和强化学习，构建一个端到端的训练管道，以提升模型的编程能力。

技术框架：整体架构包括问题策划、合成推理生成、监督微调（SFT）和强化学习（RL）模块，形成一个闭环反馈系统。

关键创新：引入GenCorrect策略，通过反馈驱动的方式在测试阶段迭代生成和优化解决方案，这是与现有方法的本质区别。

关键设计：在训练过程中，使用22,000个策划问题进行微调，采用特定的损失函数和网络结构，确保模型能够有效学习编程问题的解法。

🖼️ 关键图片

img_0
img_1
img_2

📊 实验亮点

在IOI 2025中，Nano-CC的得分从130分提升至468分，超出金牌门槛438.3分；Ultra-CC在IOI 2026中得分535.4分，超越人类顶尖选手的498.27分，展现了显著的性能提升。

🎯 应用场景

该研究的潜在应用领域包括教育、自动化编程助手和软件开发工具。通过提升AI在编程竞赛中的表现，能够为编程教育提供新的思路，并推动AI在实际编程任务中的应用，具有重要的实际价值和未来影响。

📄 摘要（原文）

Competitive programming has become a key test of large language model reasoning, with international competitions such as IOI and ICPC representing its most challenging settings. We present an end-to-end specialization pipeline combining large-scale problem curation, synthetic reasoning traces, supervised fine-tuning (SFT), and reinforcement learning (RL). Using 22,000 curated problems, we train Nemotron-3-Nano-CC (30B-A3B) with SFT and RL and Nemotron-3-Ultra-CC (550B-A55B) with SFT alone. We further introduce GenCorrect, a feedback-driven test-time compute strategy that iteratively generates, evaluates, and refines diverse solutions. On IOI 2025, Nano-CC improves from 130 points to 291 after post-training and to 468 with GenCorrect, exceeding the gold threshold of 438.3 while Ultra-CC reaches 502. Guided by these results, we develop a competition-specific Ultra-CC system and evaluate it prospectively during IOI 2026. Under the same time, internet-access, and submission constraints as human contestants, it scores 535.4 out of 600, exceeding both the gold threshold of 361.12 and the top human score of 498.27. To our knowledge, this is the first AI system to outscore the highest-scoring human contestant on an IOI problem set.