How Small Can 6G Reason? Scaling Tiny Language Models for AI-Native Networks

📄 arXiv: 2603.02156v1 📥 PDF

作者: Mohamed Amine Ferrag, Abderrahmane Lakas, Merouane Debbah

分类: cs.NI, cs.AI

发布日期: 2026-03-02

🔗 代码/项目: GITHUB

💡 一句话要点

针对AI原生6G网络，研究小型语言模型在网络级语义推理中的性能与效率。

🎯 匹配领域: 支柱九：具身大模型 (Embodied Foundation Models)

关键词: 6G网络 AI原生网络 语言模型 边缘计算 语义推理 模型缩放 性能评估

📋 核心要点

  1. 现有大型语言模型计算开销大，难以在延迟敏感的6G边缘网络中部署，限制了AI原生网络的推理能力。
  2. 论文系统研究了不同规模语言模型在6G网络语义推理任务中的性能，旨在找到计算效率和推理能力的最佳平衡点。
  3. 实验表明，参数量在1.5-3B的中等规模模型在精度、延迟和内存占用方面表现出最佳的综合性能。

📝 摘要（中文）

新兴的6G愿景，体现在3GPP、IETF、ETSI、ITU-T和O-RAN联盟的标准化工作中，日益将网络描述为AI原生系统，其中高层语义推理层运行在标准化的控制和数据平面功能之上。尽管Qwen2.5-7B和Olmo-3-7B等前沿的大型语言模型(LLM)表现出强大的推理能力，但它们的计算量限制了在延迟敏感的边缘原生基础设施中的部署。本文对用于AI原生6G系统中网络级语义推理的紧凑型语言模型的缩放行为和部署效率进行了系统的实证研究。使用6G-Bench，一个与标准化对齐的基准，包含五个能力领域的30个决策任务，我们评估了从135M (SmolLM2-135M)到7B参数(Qwen2.5-7B)的模型，包括Llama-3.2-1B、Granite-1B和Qwen2.5-3B等中等规模的架构。确定性精度(pass@1)从135M时的0.224增加到7B时的0.707，但缩放增益非常不均匀。在1到1.5B范围内出现明显的稳定性转变，其中精度从0.373 (Llama-3.2-1B)上升到0.531 (Qwen2.5-1.5B)，不稳定性差距Delta_5从0.356缩小到0.138。超过3B参数后，改进减小(从3B到7B增加+0.064)。通过单查询推理分析和一个Edge Score指标（将精度按延迟和内存占用进行归一化），我们表明每个边缘资源的语义可靠性不会随参数数量单调缩放。相反，中等规模的模型（大约1.5到3B）在确定性稳定性和计算效率之间实现了最有利的平衡，为AI原生6G架构提供了与部署相关的指导。所有脚本和结果都可以在https://github.com/maferrag/6G-Bench上公开获得。

🔬 方法详解

问题定义：论文旨在解决在AI原生6G网络中，如何选择合适的语言模型以实现高效的网络级语义推理的问题。现有的大型语言模型（LLMs）虽然具有强大的推理能力，但其庞大的计算需求和内存占用使其难以在资源受限的边缘设备上部署，无法满足6G网络对低延迟和高效率的要求。因此，需要在模型大小、推理精度和计算效率之间找到一个最佳平衡点。

核心思路：论文的核心思路是通过对不同规模的语言模型进行系统的实证研究，评估它们在6G网络语义推理任务中的性能表现，并提出一个Edge Score指标来综合考虑模型的精度、延迟和内存占用。通过分析不同模型的缩放行为和部署效率，找到在边缘环境中部署的最佳模型规模。

技术框架：论文的技术框架主要包括以下几个部分：1) 6G-Bench基准测试：使用与标准化对齐的6G-Bench基准，包含五个能力领域的30个决策任务，用于评估不同模型的性能。2) 模型选择：选择了一系列不同规模的语言模型，包括SmolLM2-135M、Llama-3.2-1B、Granite-1B、Qwen2.5-1.5B、Qwen2.5-3B和Qwen2.5-7B等。3) 性能评估：使用确定性精度（pass@1）作为主要评估指标，同时考虑模型的延迟和内存占用。4) Edge Score指标：提出Edge Score指标，将精度按延迟和内存占用进行归一化，用于综合评估模型的部署效率。5) 单查询推理分析：通过单查询推理分析，评估模型的延迟和内存占用。

关键创新：论文的关键创新在于：1) 系统性的实证研究：对不同规模的语言模型在6G网络语义推理任务中的性能进行了系统性的实证研究，揭示了模型缩放行为的非均匀性。2) Edge Score指标：提出了Edge Score指标，将精度、延迟和内存占用进行综合考虑，为在边缘环境中选择合适的模型提供了指导。3) 揭示了中等规模模型的优势：实验结果表明，中等规模的模型（1.5-3B参数）在确定性稳定性和计算效率之间实现了最佳平衡。

关键设计：论文的关键设计包括：1) 6G-Bench基准的设计：6G-Bench基准包含五个能力领域的30个决策任务，涵盖了6G网络中的各种语义推理场景。2) Edge Score指标的定义：Edge Score指标将精度按延迟和内存占用进行归一化，具体公式未知（论文未明确给出）。3) 模型规模的选择：选择了从135M到7B参数的不同规模的语言模型，以便全面评估模型缩放行为。

🖼️ 关键图片

fig_0

📊 实验亮点

实验结果表明，确定性精度(pass@1)从135M参数时的0.224提升到7B参数时的0.707，但在1-1.5B参数范围内出现明显的性能提升。超过3B参数后，性能提升幅度减小。Edge Score指标显示，中等规模模型（1.5-3B参数）在精度、延迟和内存占用之间实现了最佳平衡，为6G边缘部署提供了有效指导。

🎯 应用场景

该研究成果可应用于AI原生6G网络的智能资源分配、网络优化、故障诊断和安全管理等领域。通过在边缘设备上部署高效的中等规模语言模型，可以实现低延迟、高可靠性的网络服务，提升用户体验，并为未来的智能网络应用奠定基础。该研究为6G网络架构设计和模型选择提供了有价值的参考。

📄 摘要（原文）

Emerging 6G visions, reflected in ongoing standardization efforts within 3GPP, IETF, ETSI, ITU-T, and the O-RAN Alliance, increasingly characterize networks as AI-native systems in which high-level semantic reasoning layers operate above standardized control and data-plane functions. Although frontier-scale large language models (LLMs) such as Qwen2.5-7B and Olmo-3-7B demonstrate strong reasoning capability, their computational footprint limits deployment in latency-sensitive, edge-native infrastructures. This paper presents a systematic empirical study of the scaling behavior and deployment efficiency of compact language models for network-level semantic reasoning in AI-native 6G systems. Using 6G-Bench, a standardization-aligned benchmark comprising 30 decision-making tasks across five capability domains, we evaluate models ranging from 135M (SmolLM2-135M) to 7B parameters (Qwen2.5-7B), including mid-scale architectures such as Llama-3.2-1B, Granite-1B, and Qwen2.5-3B. Deterministic accuracy (pass@1) increases from 0.224 at 135M to 0.707 at 7B, but scaling gains are highly non-uniform. A pronounced stability transition occurs in the 1 to 1.5B range, where accuracy rises from 0.373 (Llama-3.2-1B) to 0.531 (Qwen2.5-1.5B) and the instability gap Delta_5 contracts from 0.356 to 0.138. Beyond 3B parameters, improvements diminish (+0.064 from 3B to 7B). Through single-query inference profiling and an Edge Score metric that normalizes accuracy by latency and memory footprint, we show that semantic reliability per unit edge resource does not scale monotonically with parameter count. Instead, mid-scale models (approximately 1.5 to 3B) achieve the most favorable balance between deterministic stability and computational efficiency, providing deployment-relevant guidance for AI-native 6G architectures. All scripts and results are publicly available at https://github.com/maferrag/6G-Bench