系统辨识(5):迭代搜索原理与辨识方法

递推辨识与迭代辨识构成了两类重要的参数估计方法.递推辨识的递推变量与时间有关,因而可以用于在线估计系统参数;迭代辨识的迭代变量是自然数,与客观世界的时间无关,通常用于离线估计系统参数.基于辅助模型辨识思想、多新息辨识理论、递阶辨识原理、耦合辨识概念等辨识方法都可以用递推算法和迭代算法实现.迭代方法渊源很早,如求解矩阵方程Ax=b的雅可比迭代、高斯-赛德尔迭代等.迭代辨识方法主要使用梯度搜索、最小二乘搜索、牛顿搜索原理来实现.为此主要研究了CARMA系统和Box-Jenkins系统的最小二乘迭代辨识方法与梯度迭代辨识方法.这些方法也可推广到其他所有方程误差类系统和输出误差类系统,以及非线性系统.迭代辨识方法通常用于有限量测数据的系统辨识,其收敛性证明是辨识领域极具挑战性的研究课题.     

系统辨识(4)：辅助模型辨识思想与方法

辅助模型辨识思想、多新息辨识理论、递阶辨识原理、耦合辨识概念是该文作者提出的研究辨识问题的原创性新方法,已经被用在很多辨识问题的研究中,形成了不同的辨识方法族,可以用于解决许多线性或非线性模型的自适应信号处理、自适应参数估计、自适应滤波和预测、自适应控制等问题.由于客观事物具有双重属性:一些特征变量是可观测的;一些是不可测的.如果表征系统特征的观测变量都是可测的,就容易建立描述其运动规律的数学模型.客观事物的不可测属性给建立系统数学模型带来特别的困难.在这种情况下,如何利用系统的可测信息,实现对系统未知变量的估算,来建立系统的数学模型,是辨识领域极具挑战性的研究课题.辅助模型辨识思想就是在这样的背景下发展起来的.该文介绍辅助模型辨识思想和一些基于辅助模型的辨识方法.     

系统辨识(8):耦合辨识概念与方法

耦合辨识是系统辨识的一个重要分支,是新近发展和提炼形成的一种辨识概念,主要用于研究结构复杂的参数耦合线性和非线性多变量系统的辨识问题.辅助模型辨识思想、多新息辨识理论、递阶辨识原理、耦合辨识概念是本文作者提出的一些新的辨识研究思路、理念和方法,分别能够用于研究存在未知过程变量的不可测系统的辨识,能够提高辨识方法的收敛速度和参数估计精度,能够解决结构复杂、大规模多变量系统及参数耦合多变量系统的辨识问题、减小辨识算法的计算量.首先介绍多变量系统耦合辨识概念,在此基础上讨论多变量系统的几种(全)耦合最小二乘辨识方法、(全)耦合随机梯度辨识方法、部分耦合随机梯度辨识方法、部分耦合最小二乘辨识方法等,最后说明耦合辨识方法可推广用于有色噪声干扰多变量系统的辨识,并列出了一些多变量系统模型结构,阐述了耦合辨识概念可以结合辅助模型辨识思想、多新息辨识理论、递阶辨识原理、迭代搜索原理(梯度迭代、最小二乘迭代、牛顿迭代)等来研究线性或非线性多变量系统的辨识问题.     

辨识方法的计算效率(1):递推算法

算法的计算量可用其乘法运算次数和加法运算次数表示(除法作为乘法对待,减法作为加法对待).一次乘法运算或一次加法运算称为一个flop,即一次浮点运算.作为"辨识方法的计算效率"系列3篇连载论文的第1篇,主要了讨论递推辨识算法的计算量,包括向量和矩阵基本运算的flop数,以及线性回归系统、多元线性回归系统、多变量系统的随机梯度辨识算法、最小二乘辨识算法、递推最小二乘辨识算法的最经济计算量,即实现算法的最少flop数.     

辨识方法的计算效率(2):迭代算法

讨论了最小二乘迭代辨识算法及其计算效率问题.最小二乘迭代算法由于涉及矩阵求逆运算,为减小计算量,提出了基于块矩阵求逆的最小二乘迭代辨识算法.基于块矩阵求逆的最小二乘迭代辨识算法不是一种新算法,只是从辨识算法的实现方式上降低计算负担,它与最小二乘迭代算法产生相同的参数估计,但计算量小.文中研究了伪线性回归系统、多元伪线性回归系统、多变量伪线性回归系统的最小二乘迭代辨识算法及其基于块矩阵求逆的最小二乘迭代算法.     

辨识方法的计算效率(3):信息向量耦合算法

简单讨论了行列式、矩阵逆和块矩阵逆的计算量;研究了信息向量耦合型多变量系统的子系统递推最小二乘辨识方法,给出了计算量小的联合递推最小二乘辨识算法;研究了部分信息向量耦合型多变量系统的子系统最小二乘辨识算法,提出了计算量小的基于块矩阵求逆的最小二乘辨识算法;给出了部分信息向量耦合型多变量系统的子系统递推最小二乘辨识算法,提出和推导了基于辨识模型分解的递推最小二乘辨识算法,并分别讨论了提出算法的计算量.     

系统辨识(3)：辨识精度与辨识基本问题

系统辨识是研究建立系统数学模型的理论与方法.讨论系统辨识涉及的一些基本问题,包括辨识精度、辨识方法的提出,辨识输入信号的设计,参数可辨识性与系统可辨识性,开环可辨识性与闭环可辨识性,可辨识性与能控性和能观测性的关系,可辨识性与输入信号的关系,以及与辨识方法收敛性相关的激励信号与激励条件,辨识算法收敛分析的基本工具,典型辨识算法的收敛结论等.     

系统辨识(2):系统描述的基本模型

控制是一切科学问题的核心.数学模型是一切控制问题的基础.事物的运动规律用方程描述就是数学模型.不同学科的发展就是建立其数学模型的过程.本文首次把线性动态系统数学模型分为三类:时间序列模型,方程误差类模型,输出误差类模型;详细介绍了线性系统的一些基本数学模型,包括连续系统离散化和模型等价变换,单输入单输出随机系统模型,多变量系统模型,类多变量系统模型,多输入和多输出系统模型(传递函数阵主模型、子模型、子子模型,多输入单输出系统模型,单输入多输出系统模型等).     

辅助模型辨识方法(1):自回归输出误差系统

研究了自回归输出误差(AR-OE)系统的辅助模型随机梯度算法、辅助模型多新息随机梯度算法、辅助模型递推最小二乘算法,自回归输出误差自回归滑动平均(AR-OEARMA)系统(即AR-Box-Jenkins系统)的辅助模型广义增广随机梯度算法、辅助模型多新息广义增广随机梯度算法、辅助模型递推广义增广最小二乘算法,以及AR-Box-Jenkins系统的基于滤波的辅助模型广义增广随机梯度算法、基于滤波的辅助模型多新息广义增广随机梯度算法、基于滤波的辅助模型递推广义增广最小二乘算法等.     

辅助模型辨识方法(4):基本思想与梯度辨识

辅助模型辨识思想是针对系统存在一些不可测变量的辨识问题提出的,它是研究含有未知变量的线性系统、非线性系统辨识的重要手段.本文阐述了辅助模型辨识思想,针对白噪声干扰的输入非线性有限脉冲响应系统,研究辅助模型梯度辨识方法、辅助模型多新息梯度辨识方法、变递推间隔辅助模型多新息梯度辨识方法,以及派生的变递推间隔辅助模型梯度辨识方法、等递推间隔辅助模型梯度辨识方法和等递推间隔辅助模型多新息梯度辨识方法.     

辅助模型辨识方法(6):性能分析

辨识方法的性能分析是系统辨识领域的重要而困难的研究课题.新的辨识方法一诞生,就伴随着收敛性分析.辅助模型辨识是辨识的一个分支,辅助模型辨识方法已成为一大类辨识方法族,关于其收敛性也提出了许多课题.本文研究了输出误差系统辅助模型随机梯度算法、辅助模型递推最小二乘算法、辅助模型多新息随机梯度算法、变间隔辅助模型随机梯度算法和变间隔辅助模型递推最小二乘算法的一致收敛性,近似分析了Box-Jenkins系统辅助模型递推广义增广最小二乘算法的性能.     

类多变量方程误差类系统的递阶多新息辨识方法

根据递阶辨识原理,研究了类多变量方程误差系统和类多变量方程误差ARMA系统递阶随机梯度方法和递阶梯度迭代方法、递阶最小二乘方法和递阶最小二乘迭代方法.进一步利用多新息辨识理论,推导了递阶多新息梯度辨识方法和递阶多新息最小二乘辨识方法.为减小计算量,推导了基于滤波的类多变量方程误差ARMA系统递阶辨识方法和递阶多新息辨识方法.讨论了几个典型辨识算法的计算量,并给出了计算参数估计的步骤.     

辅助模型辨识方法(5):最小二乘辨识

借助于辅助模型辨识思想,针对白噪声干扰的输入非线性有限脉冲响应系统,研究了辅助模型最小二乘辨识方法、辅助模型多新息最小二乘辨识方法、变递推间隔辅助模型最小二乘辨识方法、变递推间隔辅助模型多新息最小二乘辨识方法、等递推间隔辅助模型多新息最小二乘辨识方法,以及有限数据窗最小二乘辨识方法,包括引入加权因子（加权矩阵）、遗忘因子得到的一些相应辨识方法.     

输出误差系统的多新息辨识方法

研究了输出误差(OE)系统和输出误差自回归滑动平均(OEARMA)系统(即Box-Jenkins系统)的辅助模型随机梯度算法、辅助模型多新息随机梯度算法、辅助模型递推最小二乘算法、辅助模型多新息最小二乘算法,输出误差系统的修正辅助模型随机梯度算法、遗忘因子辅助模型随机梯度算法、变递推间隔辅助模型随机梯度算法、变递推间隔辅助模型多新息随机梯度算法、变递推间隔辅助模型递推最小二乘算法等,以及输出误差自回归(OEAR)系统的基于滤波的辅助模型多新息广义随机梯度算法和基于滤波的辅助模型多新息广义最小二乘算法.     

方程误差系统的多新息辨识方法

多新息方法可以用于线性系统和非线性系统的自适应滤波、参数估计、自校正控制、自适应故障检测与诊断等.线性系统包括两种基本类型:方程误差类系统和输出误差类系统.本文将多新息辨识应用到方程误差滑动平均(EEMA)系统(即CARMA系统),研究多新息增广随机梯度算法和多新息增广最小二乘算法,应用到方程误差自回归滑动平均(EEARMA)系统(即CARARMA系统),提出基于分解的多新息广义增广随机梯度算法和基于分解的多新息广义增广最小二乘算法,以及基于滤波的多新息广义增广随机梯度算法和基于滤波的多新息广义增广最小二乘算法.     

多元系统耦合多新息随机梯度类辨识方法

针对多元线性回归系统,利用耦合辨识概念和多新息辨识理论,讨论了多元随机梯度算法、多元多新息随机梯度算法,以及变递推间隔多元多新息梯度算法,进一步分解多元系统为一些子系统,给出了耦合子系统随机梯度算法、耦合随机梯度算法、耦合子系统多新息随机梯度算法、耦合多新息随机梯度算法,并将这些方法推广到多元伪线性滑动平均系统和多元伪线性自回归滑动平均系统.文中给出了几个典型耦合随机梯度算法、耦合多新息随机梯度算法的计算步骤和示意图.     

类多变量输出误差系统的耦合多新息辨识方法

辅助模型辨识思想、多新息辨识理论、耦合辨识概念是研究复杂多变量系统辨识的新理念和原理.将它们结合起来研究类多变量输出误差系统的辨识问题,提出了多元辅助模型辨识方法、多元辅助模型多新息辨识方法、变递推间隔多元辅助模型多新息辨识方法.为减小算法的计算量和提高参数估计精度,将系统模型分解为一些子辨识模型,应用辅助模型辨识思想、多新息辨识理论、耦合辨识概念,研究和推导了部分耦合辅助模型辨识方法、部分耦合辅助模型多新息辨识方法.讨论了几个典型辨识算法的计算量,给出了参数估计的计算步骤和计算流程图.     

输出非线性方程误差类系统递推最小二乘辨识方法

随着控制技术的发展,控制对象的规模越来越大,使得辨识算法的计算量也越来越大.对于结构复杂的非线性系统,特别是包含未知参数乘积的非线性系统,使得过参数化辨识方法的参数数目大幅度增加,辨识算法的计算量也急剧增加,因此探索计算量小的参数估计方法势在必行.针对输出非线性方程误差类系统,讨论了基于过参数化模型的递推最小二乘类辨识方法;为减小过参数化辨识算法的计算量和提高辨识精度,分别利用分解技术和数据滤波技术,研究和提出了基于模型分解的递推最小二乘辨识方法和基于数据滤波的递推最小二乘辨识方法.最后给出了几个典型辨识算法的计算量、计算步骤、流程图.     

多元伪线性回归系统部分耦合 多新息随机梯度类辨识方法

针对多元伪线性滑动平均系统,讨论了多元增广随机梯度算法,为减小算法的计算量,将系统分解为一些子系统,给出了子系统增广随机梯度算法,利用耦合辨识概念和多新息辨识理论,推导了部分耦合（子系统）增广随机梯度算法、部分耦合（子系统）多新息增广随机梯度算法.进一步将提出的方法推广到多元伪线性自回归滑动平均系统,给出了部分耦合（子系统）广义增广随机梯度算法、部分耦合（子系统）多新息广义增广随机梯度算法.文中分析了多元增广随机梯度算法、部分耦合增广随机梯度算法、部分耦合多新息增广随机梯度算法的计算量.     

输入非线性方程误差系统的多新息辨识方法

针对输入非线性方程误差系统,即输入非线性受控自回归系统,研究了基于过参数化模型的多新息辨识方法和基于过参数化模型的递阶多新息辨识方法;研究了基于关键项分离原理的多新息辨识方法;使用辨识模型分解技术,研究了基于关键项分离原理的两阶段多新息辨识方法和三阶段多新息辨识方法.这些方法可以推广到其他输入非线性方程误差系统、输入非线性输出误差类系统、输出非线性方程误差类系统、输出非线性输出类系统、反馈非线性系统等.同时,给出了几个典型辨识算法的计算量、计算步骤和流程图.