Dual-Manifold Geometry Guided Representation Learning: Adaptive Coupling between Kernel and Data Spaces

📄 arXiv: 2608.12737v1 📥 PDF

作者: Wencong Zhang, Yue Zhang, Meiyan Huang, Wei Yang, Qianjin Feng

分类: cs.CV

发布日期: 2026-08-13

💡 一句话要点

提出双流形几何引导表示学习以提升特征演化效果

🎯 匹配领域: 支柱二：RL算法与架构 (RL & Architecture)

关键词: 深度表示学习 流形学习 卷积神经网络 特征变换 几何引导 模型优化 图像分类 算术推理

📋 核心要点

  1. 现有深度表示学习方法主要关注特征演变，忽视了网络参数中的几何结构，导致特征关系重塑不足。
  2. 本文提出双流形视角，设计了核引导特征变换（KGFT）模块，通过耦合核流形与数据流形来引导特征演化。
  3. 在多种网络架构上进行的实验显示，KGFT在图像分类和算术推理任务上均显著提升了性能，验证了其有效性。

📝 摘要（中文）

深度表示学习主要关注特征在网络层中的演变，而忽视了网络参数中嵌入的结构几何。本文引入双流形视角，每个卷积层包含两个耦合的几何空间：由卷积滤波器诱导的核流形和由中间特征表示特征化的数据流形。这些流形共享相同的通道空间，参数几何可以提供互补的结构信息以引导特征演化。基于此，我们提出了核引导特征变换（KGFT），该模块从核Gram矩阵中导出几何引导矩阵，并利用其变换特征表示的协方差结构。KGFT通过将几何信息从核流形转移到数据流形，显式地重塑特征关系。我们还引入了利用与探索模式，结合深度感知调度策略和可学习的引导强度，适应性地控制几何变换的贡献。理论分析验证了所提变换的有效性，并表征了其对特征协方差的影响。大量实验表明，该方法在图像分类和算术推理任务上均取得了一致的提升。

🔬 方法详解

问题定义：本文旨在解决现有深度学习方法在特征演化过程中对网络参数几何结构的忽视，导致特征关系重塑不足的问题。

核心思路：通过引入双流形视角，提出核引导特征变换（KGFT），利用卷积核的几何信息来引导特征表示的演化，从而提升特征的表达能力。

技术框架：整体框架包括两个主要模块：核流形和数据流形。KGFT模块从核Gram矩阵中提取几何引导矩阵，并通过深度感知调度策略和可学习的引导强度来控制特征变换的贡献。

关键创新：KGFT的设计与传统注意力机制不同，它不仅重加权特征响应，而是显式地重塑特征关系，促进了特征的几何对齐与多样性。

关键设计：在设计中，采用了深度感知调度策略来适应网络层次，确保在浅层促进几何对齐，而在深层鼓励特征多样性，避免对表示学习施加过多约束。

🖼️ 关键图片

fig_0
fig_1

📊 实验亮点

实验结果表明，KGFT在ResNet、ViT和LLaMA-7B等多种架构上均实现了显著提升，尤其在图像分类任务中，相较于基线模型，准确率提升幅度达到X%（具体数据待补充）。

🎯 应用场景

该研究的潜在应用领域包括计算机视觉、自然语言处理等多个深度学习任务，尤其是在需要特征表达能力和多样性的场景中。未来，该方法可能推动更高效的深度学习模型设计，提升模型在复杂任务中的表现。

📄 摘要（原文）

Deep representation learning has primarily focused on how features evolve across network layers, while largely overlooking the structured geometry embedded in network parameters. We introduce a dual-manifold perspective in which each convolutional layer contains two coupled geometric spaces: a Kernel Manifold induced by convolutional filters and a Data Manifold characterized by intermediate feature representations. Because these manifolds share the same channel space, parameter geometry can provide complementary structural information to guide feature evolution. Based on this insight, we propose Kernel-Guided Feature Transform (KGFT), a lightweight module that derives a geometric guidance matrix from the kernel Gram matrix and uses it to transform the covariance structure of feature representations. Unlike conventional attention mechanisms that reweight feature responses, KGFT explicitly reshapes feature relationships by transferring geometric information from the kernel manifold to the data manifold. To accommodate network hierarchy, we further introduce Exploit and Explore modes with a depth-aware scheduling strategy and a learnable guidance strength that adaptively controls the contribution of geometric transformation. This design promotes geometric alignment in shallow layers while encouraging feature diversity in deeper layers, without imposing excessive constraints on representation learning. Theoretical analysis establishes the validity of the proposed transformation and characterizes its effect on feature covariance. Extensive experiments across CNN- and Transformer-based architectures, including ResNet, ViT, and LLaMA-7B, demonstrate consistent improvements on image classification and arithmetic reasoning tasks, validating the generality and effectiveness of kernel-guided dual-manifold representation learning. Code will be publicly available.