加权整体最小二乘求解线性模型参数及精度估计

针对线性模型中最小二乘和整体最小二乘方法存在的问题,引进了加权整体最小二乘的方法,并给出了精度估算公式。通过线性模型的实例计算验证,加权整体最小二乘可以得到更加合理的拟合模型,获得更高精度的参数解,具有更小的中误差。     

整体最小二乘线性回归模型与算法

从平差模型的角度,研究整体最小二乘线性回归模型条件平差与间接平差的解算方法,并在理论上证明两种解算方法的等价性。最后通过算例验证解算方法的正确性。     

利用整体最小二乘法建立线性回归模型

对于在实际应用中的直线回归问题,存在着因自变量和因变量选取不同拟合结果存在差异的情况,文中采用了一种线性拟合参数估计的新方法,即整体最小二乘法。文章在描述普通最小二乘和整体最小二乘原理的基础上,并对比其异同,并采用奇异值分解的方法来求解整体最小二乘问题。算例结果表明,采用整体最小二乘方法估计线性回归参数的精度明显高于常规最小二乘法,是一种值得借鉴的算法。     

总体最小二乘求取AR(1)模型参数

针对最小二乘方法求取AR模型参数,引进总体最小二乘方法,通过AR模型的实例计算,结果表明,总体最小二乘可以得到更高精度的模型参数,具有更小的中误差。     

再生权最小二乘法

稳健估计方法能在观测值中不可避免地存在粗差时有效地消除或减弱它们对参数估计的影响,稳健估计方法也是测量数据处理的常用方法。本文充分利用独立观测值改正数之间应满足的条件方程提供的有效信息构造观测值的权,提出了一种稳健估计方法—再生权最小二乘法（Self-born Weighted Least Squares（SBWLS））。不同观测值数量、不同粗差数量（1-3）和不同粗差数值（5和10倍的中误差）的三个水准网仿真实验结果说明,再生权最小二乘法比常用的13种稳健估计方法能更有效地消除或减弱粗差对参数估计的影响。     

病态加权总体最小二乘的广义岭估计解法

针对加权情形下的变量误差(EIV)模型,采用广义岭估计法处理总体最小二乘平差的病态性问题.结合最优化准则和协方差传播率推导了未知参数的改正数求解公式;根据参数估计值的均方误差最小化原理,通过求偏导数列出广义岭估计中岭参数的迭代解式,并讨论了广义岭参数的含义和作用,给出了确定岭参数的L-曲线法.通过算例比较分析了加权最小...     

再生权最小二乘法研究

稳健估计方法能在观测值中不可避免地存在粗差时有效地消除或减弱它们对参数估计的影响,稳健估计方法也是测量数据处理的常用方法。本文充分利用独立观测值改正数之间应满足的条件方程提供的有效信息构造观测值的权,提出一种稳健估计方法——再生权最小二乘法(SBWLS)。不同观测值数量、不同粗差数量(1~3)和不同粗差数值(5和10倍的中误差)的3个水准网仿真试验结果说明,再生权最小二乘法比常用的13种稳健估计方法能更有效地消除或减弱粗差对参数估计的影响。     

基于整体最小二乘法的线性回归建模和解法

对基于自变量和因变量误差的回归问题进行了进一步研究,证明了两种方法的实质并未解决同时考虑自变量和因变量的误差问题,其解算结果和不考虑自变量误差的解算结果完全相同。给出了能同时顾及自变量和因变量误差的新的回归模型,并推导了具体的解算方法。算例结果和基于矩阵分解的整体最小二乘法解算方法的结果相同,说明了本文方法的正确性。     

Generalized penalized least squares and its statistical characteristics

The solution properties of semiparametric model are analyzed, especially that penalized least squares for semiparametric model will be invalid when the matrixBTPB is ill-posed or singular. According to the principle of ridge estimate for linear parametric model, generalized penalized least squares for semiparametric model are put forward, and some formulae and statistical properties of estimates are derived. Finally according to simulation examples some helpful conclusions are drawn.     

Generalized penalized least squares and its statistical characteristics

IntroductionThe semiparametric models is composed of lin-ear parametric model and nonparameter (or non-parametric signal) ,so the model does not haveonly one solution on the least squares conditionVTPV=min,the normal equations is singular[1].In order to g…     

最小二乘配置模型的参数估计

利用罚最小二乘原理构造加权惩罚平方和,导出了最小二乘配置模型中正规化矩阵正定时参数平差的计算方法,用直接法得到了参数和信号的估计量,给出了相应的公式.通过选取合适的平滑因子,能使残差的分布更接近其真实分布,提出了回归系数的检验方法,用实例说明了其有效性.     

补偿最小二乘估计在重力测量中的应用

在测量数据处理中,系统误差总是作为有害成分设法予以消除或补偿,但随着测绘科技的进一步发展,也有一些研究者将系统误差或非参数信号看作非随机变量,利用补偿最小二乘等方法,提取系统误差,从而对它有更多地了解,以满足高精度测量的需要。而本文在系统误差为随机变量的情况下,利用补偿最小二乘法研究半参数模型。得到了参数及非参数的估计;接着,讨论了估计量的若干统计特性;最后,用补偿最小二乘法研究重力测量中的重力异常问题,得到了重力异常的估计值,相同于用最小二乘配置法所得的结果,从而说明本文方法的有效性。     

补偿最小二乘法改进灰色预测模型的应用分析

文章讨论了灰色预测模型和半参数模型,针对经典最小二乘在解算GM(1,1)模型待识别向量时存在的模型误差,采用将模型误差当作非参数信号的补偿最小二乘法进行数据处理.根据矿区变形观测特点,简要说明了正规矩阵R和平滑因子α的选取,并结合淮南市朱集矿地表移动观测站的实测数据对改正模型进行检验分析,结果表明:该方法可有效地削弱模型系统误差影响,提高预测模型精度.     

线性回归参数的总体最小二乘估计新算法

将一元线性回归总体最小二乘平差模型展开后,以因变量和自变量改正数的平方和最小为约束条件,推导其总体最小二乘的迭代算法,并将模型扩展到多元线性回归,进一步得到线性回归模型的总体最小二乘算法。通过实例分析,证明算法的可行性和合理性。     

基于同伦算法的非线性最小二乘相位解缠

线性加权最小二乘方法进行相位解缠时,采用迭代法求解,收敛速度慢,不容易得到精确解.本文提出非线性相位解缠模型,并采用同伦算法实现非线性最小二乘相位解缠.通过真实数据与线性最小二乘相位解缠算法进行对比实验,验证了该方法是有效的,特别是在有噪声干扰的区域,该方法可以提高相位解缠的精度.     

多维直线概括模型的总体最小二乘估计

针对总体最小二乘估计准则在直线拟合应用中存在的问题,该文在分析当前多种直线拟合模型及相应总体最小二乘估计方法的基础上,提出了附约束的N维直线概括模型及其总体最小二乘分步解法。首先利用间接平差方法通过迭代计算求出总体残差,然后通过条件平差分配残差到各观测量。仿真计算结果验证了该模型及方法的正确性和有效性。     

基于最小二乘支持向量机回归的GPS高程转换模型

探讨了将最小二乘估计引入到支持向量机中,给出最小二乘支持向量机回归(LS-SVR)算法,该算法用等式约束代替传统支持向量机回归中的不等式约束,使得求解过程更为简单。将构建的LS-SVR模型应用到GPS高程转换中,提出该回归模型的实现步骤。实例表明,在有限样本情况下,LS-SVR完全可以达到与传统GPS高程拟合方法相同的精度,但实现起来更简单,而且在泛化性能方面具有理论上的保证。     

坐标转换Partial-EIV总体最小二乘方法

在测量数据处理过程中,针对系数矩阵中同时存在随机元素和固定元素的情况,Xu等通过将随机元素分离使EIV模型推广到Partial-EIV模型,并给出基于Partial-EIV模型的总体最小二乘(TLS)算法。文中介绍该算法,并将其应用在平面及空间的坐标转换中,通过与最小二乘(LS)、总体最小二乘(TLS)及加权总体最小二乘(WTLS)方法的比较和分析,验证该算法有效性。