Convergence of Recursive Least Squares Based Input/Output System Identification with Model Order Mismatch

📄 arXiv: 2404.10850v1 📥 PDF

作者: Brian Lai, Dennis S. Bernstein

分类: eess.SY, eess.SP

发布日期: 2024-04-16

💡 一句话要点

提出递归最小二乘法以解决模型阶数不匹配问题

🎯 匹配领域: 支柱八：物理动画 (Physics-based Animation)

关键词: 递归最小二乘法 模型识别 输入输出模型 动态系统 信号处理

📋 核心要点

  1. 现有研究主要集中在模型阶数匹配的情况下，缺乏对模型阶数不匹配的深入分析。
  2. 本文提出了不同阶数输入/输出模型的等价性概念，分析了高阶模型的在线识别过程。
  3. 研究表明，在持续激励数据下，高阶模型能够收敛到最小化正则化项的真实系统等价模型。

📝 摘要（中文）

离散时间输入/输出模型（也称为无限脉冲响应模型或自回归滑动平均模型）在在线识别中非常有用，因为它们可以通过递归最小二乘法（RLS）高效更新。然而，现有研究主要集中在模型阶数匹配的情况下，而对模型阶数不匹配的情况关注较少。本文首先引入了不同阶数输入/输出模型的等价性概念，并分析了在识别模型阶数高于真实系统的情况下的在线识别。研究表明，在持续激励数据的条件下，识别的高阶模型会收敛到与真实系统等价的模型，并最小化RLS的正则化项。

🔬 方法详解

问题定义：本文解决的是在递归最小二乘法（RLS）框架下，输入/输出模型识别中模型阶数不匹配的问题。现有方法假设识别模型的阶数与真实系统相同，而对阶数不匹配的情况关注不足，导致识别性能下降。

核心思路：论文提出了不同阶数输入/输出模型的等价性概念，分析了在识别模型阶数高于真实系统时的在线识别过程。通过使用持续激励数据，确保高阶模型能够有效收敛到真实系统的等价模型。

技术框架：整体方法包括模型阶数的定义、数据的持续激励条件，以及RLS算法的应用。首先定义输入/输出模型的阶数，然后在高阶模型的情况下进行在线识别，最后通过RLS算法进行参数更新。

关键创新：最重要的创新在于引入了不同阶数模型的等价性概念，明确了在模型阶数不匹配时，如何通过高阶模型收敛到真实系统的等价模型。这一思路与现有方法的本质区别在于对模型阶数不匹配的有效处理。

关键设计：在算法实现中，关键参数包括RLS的正则化项设置，以及持续激励数据的选择。这些设计确保了高阶模型在参数更新过程中能够有效收敛。具体的损失函数和更新规则也在文中进行了详细讨论。

📊 实验亮点

实验结果表明，在使用持续激励数据的情况下，识别的高阶模型能够有效收敛到真实系统的等价模型。与传统方法相比，本文提出的框架在模型识别精度上有显著提升，具体性能数据未提供，但收敛性和准确性均得到了验证。

🎯 应用场景

该研究的潜在应用领域包括控制系统、信号处理和动态系统建模等。通过提高模型识别的准确性和鲁棒性，该方法能够在实际工程中实现更高效的系统监测与控制，具有重要的实际价值和广泛的应用前景。

📄 摘要（原文）

Discrete-time input/output models, also called infinite impulse response (IIR) models or autoregressive moving average (ARMA) models, are useful for online identification as they can be efficiently updated using recursive least squares (RLS) as new data is collected. Several works have studied the convergence of the input/output model coefficients identified using RLS under the assumption that the order of the identified model is the same as that of the true system. However, the case of model order mismatch is not as well addressed. This work begins by introducing the notion of \textit{equivalence} of input/output models of different orders. Next, this work analyzes online identification of input/output models in the case where the order of the identified model is higher than that of the true system. It is shown that, given persistently exciting data, the higher-order identified model converges to the model equivalent to the true system that minimizes the regularization term of RLS.