Generalized Penalized Least Squares and Its Statistical Characteristics

IntroductionThe semiparametric models is composed of lin-ear parametric model and nonparameter (or non-parametric signal) ,so the model does not haveonly one solution on the least squares conditionVTPV=min,the normal equations is singular[1].In order to g…     

随机删失下半参数模型的补偿估计方法

考虑半参数测量模型L=Bx+S+Δ,x∈Rd为未知回归参数,S为未知Borel函数。本文首先利用自然样条函数法,找到符合条件的非参数自然插值样条函数。其次利用补偿法并综合最小二乘法,导出了这种平差方法的解算公式。在本文的最后,将这种方法与最小二乘平差方法进行了比较分析,结果说明,半参数测量模型能更接近于真实情况。     

补偿最小二乘估计在重力测量中的应用

在测量数据处理中,系统误差总是作为有害成分设法予以消除或补偿,但随着测绘科技的进一步发展,也有一些研究者将系统误差或非参数信号看作非随机变量,利用补偿最小二乘等方法,提取系统误差,从而对它有更多地了解,以满足高精度测量的需要。而本文在系统误差为随机变量的情况下,利用补偿最小二乘法研究半参数模型。得到了参数及非参数的估计;接着,讨论了估计量的若干统计特性;最后,用补偿最小二乘法研究重力测量中的重力异常问题,得到了重力异常的估计值,相同于用最小二乘配置法所得的结果,从而说明本文方法的有效性。     

自然样条半参数模型与系统误差估计

采用自然样条逼近的数据处理方法 ,探讨了自然样条半参数回归分析方法。在补偿最小二乘的原则下 ,利用三次样条函数构造补偿项 ,通过广义交叉核实函数自动选取光滑参数。自编程序进行计算 ,得到了回归参数向量和样条函数的补偿最小二乘估计。模拟计算表明 ,该方法适合于回归函数模型误差与测量系统误差的估计     

补偿最小二乘法在大地坐标转换中的应用

针对Bursa七参数模型在参心坐标系与地心坐标系转换后仍存在较大残差的问题,通过对坐标转换模型误差进行分析,提出将模型误差看作非参数信号的半参数估计的补偿最小二乘模型进行处理,并利用实测数据进行分析计算,试验结果表明:该方法能够有效地消除模型误差等残差,实现高精度的坐标转换。     

最小二乘配置模型的参数估计

利用罚最小二乘原理构造加权惩罚平方和,导出了最小二乘配置模型中正规化矩阵正定时参数平差的计算方法,用直接法得到了参数和信号的估计量,给出了相应的公式.通过选取合适的平滑因子,能使残差的分布更接近其真实分布,提出了回归系数的检验方法,用实例说明了其有效性.     

补偿最小二乘估计在确定高程异常中的应用

针对常规最小二乘拟合求解高程异常存在的模型误差,本文提出将模型误差看作非参数信号采用补偿最小二乘法来处理,讨论了正则化矩阵R和平滑参数α的选取对拟合结果的影响,在对各种求解光滑参数深入研究的基础上,提出了一种Xu(α)函数法,并对一个测区的GPS水准数据进行解算,结果表明,利用补偿最小二乘模型求解高程异常优于最小二乘法。     

半参数估计的自然样条函数法

用补偿最小二乘原理，得到了参数和非参数分量的惟一解，并通过模拟计算，对半参数回归模型和参数模型的计算结果进行了比较。结果表明，半参数回归方法能较好地将观测值中具有连续光滑特性的系统误差分离出来。     

半参数模型稳健估计及其应用

在半参数模型估计中,均假设观测误差服从正态分布.当观测量含有粗差时,粗差对参数和非参数估计的影响是不可忽略.基于此,首先在总结线性参数模型稳健估计基本理论的基础上,论述了M估计权因子的确定方法.然后提出了半参数模型稳健估计方法,并导出半参数模型(广义)补偿最小二乘稳健估计的基本公式.最后通过两个模拟算例验证了其估计方法的有效性.     

半参数模型稳健估计及其应用

在半参数模型估计中,均假设观测误差服从正态分布。当观测量含有粗差时,粗差对参数和非参数估计的影响是不可忽略。基于此,首先在总结线性参数模型稳健估计基本理论的基础上,论述了M估计权因子的确定方法。然后提出了半参数模型稳健估计方法,并导出半参数模型(广义)补偿最小二乘稳健估计的基本公式。最后通过两个模拟算例验证了其估计方法的有效性。     

基于广义补偿最小二乘法的航空重力向下延拓

航空重力向下延拓是病态问题,而广义补偿最小二乘法可以很好地克服病态性。研究了基于广义补偿最小二乘法的逆Poisson积分的航空重力向下延拓模型,并设计实验方案,将EGM2008地球位模型计算的重力异常作为仿真实验的数据,分别用最小二乘、Tikhonov正则化、广义补偿最小二乘3种方法求解,对其精度及仿真效果进行比较。结果表明,广义补偿最小二乘方法精度高,对仿真效果有显著提高。     

线性模型的泛最小二乘法

本文首先针对线性模型提出了泛最小二乘法,在设计矩阵不加限制的情形下,得到了参数的泛最小二乘估计量。该方法既发扬了最小二乘法的优点,又克服了它的一些不足,它包含了常见的岭估计和最小二乘估计法;其次讨论了泛最小二乘法的理论依据;接着研究了泛最小二乘估计量的一些统计性质,并与最小二乘估计进行比较,在一定意义上前者优于后者;然后讨论了平衡参数的选取问题;最后,给出一个应用,说明了泛最小二乘法的有效性和可行性。     

正规化矩阵正定时半参数估计量的统计性质

利用补偿最小二乘原理构造加权惩罚平方和,得到半参数模型中正规化矩阵正定时参数和半参数的估计量.从偶然误差的统计特征出发,详细讨论这种平差方法得到的参数估值的一些统计性质,并对半参数平差与最小二乘法的参数估计值进行比较.理论分析表明,通过选取合适的平滑参数,半参数平差方法优于最小二乘法.另外从数理统计的角度对平滑参数的选取进行分析,得到平滑参数的取值范围,也给出了平滑参数对模型精度的影响.     

半参数模型的累积估计

文献 [1]用累积法研究了线性回归模型 ,得到了与最小二乘法相当的效果。本文将运用此法研究半参数模型得到了参数 β及非参数s (ti)的估计量 ;而后模拟一个例子 ,说明了此法的有效性。运用累积法不仅能得到与补偿最小二乘法相当的效果 ,而且弥补了补偿最小二乘法的一些不足。若该法与补偿最小二乘法结合在一起使用 ,将会得到较理想的结果。     

实参数与复参数混合域最小二乘平差方法

针对平差问题同时含有实数域参数和复数域参数的情形,提出了实参与复参混合的测量平差建模思路,并导出了相应的混合域最小二乘平差方法。该方法统一概括了实最小二乘和复最小二乘方法,其估计过程包括两步:基于零空间算子的实参数平差估计和复数平差模型的复参数估计。通过等价变换将实数域投影变换模型、直接线性变换模型分别重构为相应的混合域平差模型,有效降低法方程求逆维数,从而提高建模和平差计算效率。应用结果及分析验证了本文所提方法的正确性和有效性。     

顾及粗差的混合最小二乘平差实验分析

通过详细介绍总体最小二乘法以及其与经典最小二乘法的关系,引出综合了经典最小二乘法与总体最小二乘法的混合最小二乘平差法。为了研究混合最小二乘法的优劣,本文设计一套比较混合最小二乘法与经典最小二乘法的实验方案。通过实验结果可知,混合最小二乘法并非总优于经典最小二乘法,只有当系数阵误差比观测值误差大或略小时,混合最小二乘法才始终优于经典最小二乘法。     

复数域总体最小二乘平差

在复数域最小二乘的基础上提出了复数域总体最小二乘平差方法,推导了复数域总体最小二乘和复数混合总体最小二乘的相关公式。通过算例比较分析了复数观测值的残差的模的平方和最小(平差准则1)下及残差的实部和虚部的平方和分别最小(平差准则2)下的复数最小二乘、复数观测值和系数矩阵的残差的模的平方和最小(平差准则3)下及残差的实部和虚部的平方和分别最小(平差准则4)下的复数总体最小二乘方法的优劣。试验结果表明:平差准则1下复数最小二乘较平差准则2下得到的结果更加合理,平差准则3下复数总体最小二乘较平差准则4下得到的结果更为准确;当顾及系数矩阵误差时,平差准则3下复数总体最小二乘要优于平差准则1下复数最小二乘。     

Partial EIV模型的非负最小二乘方差分量估计

Partial Errors-in-Variables(Partial EIV)模型是EIV模型的扩展形式,权阵构造简单,当系数矩阵中存在非随机元素和随机元素时,Partial EIV模型的适用性更强。针对Partial EIV模型中随机模型不准确的情况,将系数矩阵和观测向量分别作为一类数据,本文在该模型的基础上,使用最小二乘方差分量估计方法,推导相关计算公式及迭代算法,分别估计出相应的方差分量估值。并对出现的负方差使用非负最小二乘理论,增加约束条件,对随机模型进行修正,得到更加合理的参数估值。试实验结果表明,本文的方法与其他方差分量估计方法等价。     

隐式标度因子的总体最小二乘估计方法

分析指出了标度总体最小二乘方法(STLS)存在的问题,提出了一种隐式标度因子的标度总体最小二乘方法(Im STLS)。区别于现有STLS方法在平差准则中引入标度因子,Im STLS方法在EIV函数模型中顾及标度因子,从而解决了现有STLS平差准则形式与标度因子实际表征的平差结果不一致的问题。此外,利用所建函数模型的重构表达式推导的Im STLS估计量及其方差-协方差阵,与经典最小二乘平差理论具有形式同构性。最后,验证了所提方法统一表达LS,DLS和TLS的正确性,并讨论给出了标度因子对平差结果的影响及确定方法。     

利用整体最小二乘法建立线性回归模型

对于在实际应用中的直线回归问题,存在着因自变量和因变量选取不同拟合结果存在差异的情况,文中采用了一种线性拟合参数估计的新方法,即整体最小二乘法。文章在描述普通最小二乘和整体最小二乘原理的基础上,并对比其异同,并采用奇异值分解的方法来求解整体最小二乘问题。算例结果表明,采用整体最小二乘方法估计线性回归参数的精度明显高于常规最小二乘法,是一种值得借鉴的算法。