Robust estimations for the nonlinear Gauss Helmert model by the expectation maximization algorithm

For deriving the robust estimation by the EM (expectation maximization) algorithm for a model, which is more general than the linear model, the nonlinear Gauss Helmert (GH) model is chosen. It contains the errors-in-variables model as a special case. The nonlinear GH model is difficult to handle because of the linearization and the Gauss Newton iterations. Approximate values for the observations have to be introduced for the linearization. Robust estimates by the EM algorithm based on the variance-inflation model and the mean-shift model have been derived for the linear model in case of homoscedasticity. To derive these two EM algorithms for the GH model, different variances are introduced for the observations and the expectations of the measurements defined by the linear model are replaced by the ones of the GH model. The two robust methods are applied to fit by the GH model a polynomial surface of second degree to the measured three-dimensional coordinates of a laser scanner. This results in detecting more outliers than by the linear model.     

p—范分布的近似表示

p-范分布是一个包含拉普拉斯分布、正态分析、均匀分布等常见分布的分布族。用p-范分布描述观测误差的统计特性，只需假定误差的分布为单峰、对称，因此、p-范分布似然平差可以避免事先假定误差的具体分布模式，而在平差过程中确定未知参数及误差的分布具有自适应的特点。但是p-范分布的密度函数比较复杂，不利于理论分析和实际应用。 的研究表明，p-范分布可以近似地表示为拉普拉斯分布与正态分析或正态分布均均匀分布的线性组全。p-范分布与本文给出的近似分布具有相的前四阶矩。由于拉普拉斯分布。正态分布。均匀分布的密度函数都比较简单，用近似分布代替p-范分布会使相关的问题得到简化。     

遥感图像最大似然分类方法的EM改进算法

基于参数化密度分布模型的最大似然方法（MLC）是遥感影像分类最常用手段之一，与其他非参数方法（如神经网络）相比较，它具有清晰的参数解释能力、易于与先验知识融合和算法简单而易于实施等优点。但是由于遥感信息的统计分布具有高度的复杂性和随机性，当特征空间中类别的分布比较离散而导致不能服从预先假设的分布，或者样本的选取不具有代表性，往往得到的分类结果会偏离实际情况。首先介绍了用基于有限混合密度理论的期望最大（EM）算法来作为最大似然函数（MLC）参数估计的方法－EM－MLC。该模型首先假设总体混合密度分布可被分解为有限个参数化的高斯密度分布，然后把具有先验知识的样本与随机选取的未知样本混合在一起，通过EM迭代计算来估计出各密度分布的最大似然函数的参数集，从而一定程度上避免了参数估计可能出现的偏离。最后，本文提出了基于EM－MLC遥感影像分类的具体实施流程和应用示范，并与一般最大似然方法（MLC）得到的分类结果进行了定性和定量的综合比较，认为EM－MLC在精度上得到了提高。     

EM算法在p范混合模型参数估计中的应用

针对多种分布形式混合的观测数据,建立了p范混合模型,考虑到模型中混合数属于不完全数据,引入期望最大化(expectation-maximum, EM)算法,对该混合模型的参数进行估计,详细推导了p范混合模型参数估计的迭代公式,并给出了相应的迭代步骤。采用混合高斯分布数据、拉普拉斯分布与高斯分布混合数据及实测GPS观测值残差数据,验证了公式的正确性和适应性。算例结果表明,与单一概率分布相比,p范混合模型能够准确反映数据分布的实际情况,同时利用EM算法估计的模型参数具有较高的精度。     

带有未知物理信息的边坡监测滤波算法

为合理利用边坡的几何信息和物理信息,控制几何观测异常对形变参数估计的影响,建立了一种带有未知系统误差的滤波模型,并给出了一种基于移动窗口的系统误差自适应拟合法,同时给出了相应的状态预测向量的协方差矩阵估计方法。GPS监测网的计算结果表明,该算法可以通过拟合地球物理信息来减弱观测异常所带来的影响,提高形变参数解算精度。     

半参数模型稳健估计及其应用

在半参数模型估计中,均假设观测误差服从正态分布。当观测量含有粗差时,粗差对参数和非参数估计的影响是不可忽略。基于此,首先在总结线性参数模型稳健估计基本理论的基础上,论述了M估计权因子的确定方法。然后提出了半参数模型稳健估计方法,并导出半参数模型(广义)补偿最小二乘稳健估计的基本公式。最后通过两个模拟算例验证了其估计方法的有效性。     

半参数模型稳健估计及其应用

在半参数模型估计中,均假设观测误差服从正态分布.当观测量含有粗差时,粗差对参数和非参数估计的影响是不可忽略.基于此,首先在总结线性参数模型稳健估计基本理论的基础上,论述了M估计权因子的确定方法.然后提出了半参数模型稳健估计方法,并导出半参数模型(广义)补偿最小二乘稳健估计的基本公式.最后通过两个模拟算例验证了其估计方法的有效性.     

Lq估计的渐近方差-协方差矩阵及其特点

针对由独立同分布误差膨胀而成的独立不等精度误差,根据未知参数的M估计的Bahadur型线性表达式,本文导出了由观测量、残差向量、参数估计量和观测量平差向量组成的基本向量的Bahadur型表达式.进一步地,根据方差传播定律导出了M估计的基本向量的渐近方差-协方差矩阵,该矩阵由3个多余参数决定,第三多余参数由本文定义.对Lq范估计,分别计算了误差分别为正态分布和q范分布时的3个多余参数,以及相应的基本向量的方差协方差矩阵.对最小二乘估计,残差向量与参数估计量和观测量的平差向量统计独立,相应的协方差矩阵为零,这一性质与误差分布无关.对正态分布的Lq估计,残差向量与参数估计量和观测量平差向量的协方差不为零;而对q范分布的Lq估计,即是相应的极大似然估计,残差向量与参数估计量和观测量平差向量的协方差为零.文中所得公式和结论可用于统计分析.     

Simultaneous estimation of cross-validation errors in least squares collocation applied for statistical testing and evaluation of the noise variance components

The cross-validation technique is a popular method to assess and improve the quality of prediction by least squares collocation (LSC). We present a formula for direct estimation of the vector of cross-validation errors (CVEs) in LSC which is much faster than element-wise CVE computation. We show that a quadratic form of CVEs follows Chi-squared distribution. Furthermore, a posteriori noise variance factor is derived by the quadratic form of CVEs. In order to detect blunders in the observations, estimated standardized CVE is proposed as the test statistic which can be applied when noise variances are known or unknown. We use LSC together with the methods proposed in this research for interpolation of crustal subsidence in the northern coast of the Gulf of Mexico. The results show that after detection and removing outliers, the root mean square (RMS) of CVEs and estimated noise standard deviation are reduced about 51 and 59%, respectively. In addition, RMS of LSC prediction error at data points and RMS of estimated noise of observations are decreased by 39 and 67%, respectively. However, RMS of LSC prediction error on a regular grid of interpolation points covering the area is only reduced about 4% which is a consequence of sparse distribution of data points for this case study. The influence of gross errors on LSC prediction results is also investigated by lower cutoff CVEs. It is indicated that after elimination of outliers, RMS of this type of errors is also reduced by 19.5% for a 5 km radius of vicinity. We propose a method using standardized CVEs for classification of dataset into three groups with presumed different noise variances. The noise variance components for each of the groups are estimated using restricted maximum-likelihood method via Fisher scoring technique. Finally, LSC assessment measures were computed for the estimated heterogeneous noise variance model and compared with those of the homogeneous model. The advantage of the proposed method is the reduction in estimated noise levels for those groups with the fewer number of noisy data points.     

An iteratively reweighted least-squares approach to adaptive robust adjustment of parameters in linear regression models with autoregressive and <Emphasis Type="Italic">t</Emphasis>-distributed deviations

In this paper, we investigate a linear regression time series model of possibly outlier-afflicted observations and autocorrelated random deviations. This colored noise is represented by a covariance-stationary autoregressive (AR) process, in which the independent error components follow a scaled (Student’s) t-distribution. This error model allows for the stochastic modeling of multiple outliers and for an adaptive robust maximum likelihood (ML) estimation of the unknown regression and AR coefficients, the scale parameter, and the degree of freedom of the t-distribution. This approach is meant to be an extension of known estimators, which tend to focus only on the regression model, or on the AR error model, or on normally distributed errors. For the purpose of ML estimation, we derive an expectation conditional maximization either algorithm, which leads to an easy-to-implement version of iteratively reweighted least squares. The estimation performance of the algorithm is evaluated via Monte Carlo simulations for a Fourier as well as a spline model in connection with AR colored noise models of different orders and with three different sampling distributions generating the white noise components. We apply the algorithm to a vibration dataset recorded by a high-accuracy, single-axis accelerometer, focusing on the evaluation of the estimated AR colored noise model.     

拟准观测的选取和真误差估值的“分群”现象

以往检验粗差有两类不同的方法,一类是假设检验,另一类是抗差估计。它们虽然有显著不同,但都是以最小二乘残差及其函数为研究对象的。文献［8,9］提出了以真误差为研究对象的拟准检定法。该方法通过附加拟准观测真误差的估值极小的条件,直接求解关于真误差的秩亏方程,然后依据真误差估值的分布特征判别和定位粗差。 　拟准检定法的关键是如何正确的选择拟准观测。本文总结了实践中选择拟准观测的原则和方法。选择拟准观测可采用初选与复选两步来实施。初选时将观测值分为4类：“0”类是按一定规则经过初步判断怀疑含粗差可能性很大的,不宜选为拟准检测;“1”类是依内部可靠性指标衡量,所处位置结构差的观测;“2”类与“0”相反,是依一定指标判断含粗差可能性较小的观测;“3”类是除上述三种特殊情况以外,余下的观测。这四类观测中,“2”类以及“3”类中指标值ui相对较小的部分观测可初选为拟准观测。复选是在初选后计算出真误差估值的基础上,选取真误差估值绝对值较小的为拟准观测。本文指出拟准观测的初选可以不唯一。 　利用许多统计学者曾多次讨论过的一个算例［6,11］,详细介绍了选择拟准观测的过程,并将有关结果与以往的结果进行比较,用拟准检定法一方面排除了4个异常观测的影响,另一方面充分利用了其余观测的信息,结果可能更合理一些。 　拟准观测选择适当时,真误差估值有明显的“分群”现象。结合算例,本文用图表的形式形象地分析了这种有趣的现象。在表中,异常的和正常的真误差估值的量值有显著的分界带,含粗差的或异常观测的真误差明显大于正常的;在图中,异常值“浮”在分布图的上部,而正常值则“沉”在下方。依此特性可直观地判定粗差的位置。     

奇异值检验中的混合模型及EM算法

本文提出了奇异值检验中的一种新模型——混合模型,推导了简单样本和一般线性模型下的参数估计公式,并引入了一种有效的迭代计算方法——EM算法。     

多波束测深数据处理的抗差最小二乘配置迭代解法

针对利用最小二乘配置处理多波束测深数据,存在二次曲面数学模型通常无法精确表征海底地形的整体变化趋势以及观测数据存在粗差或异常点时,常规方法给出的协方差函数不能精确表征其统计特性的问题,本文提出了一种抗差最小二乘配置迭代解法。该方法首先进行协方差函数和观测值方差阵初始化,以多面函数拟合趋势项,然后应用等价权抗差估计并通过迭代计算,最终给出稳健的协方差函数参数解及最小二乘配置解。利用本文提出的方法及传统的方法处理实测的多波束测深数据,试验结果表明,相比于传统的方法,本文提出的方法能够较好地表征海底地形的整体变化趋势,一定程度上克服了多波束测深数据中粗差或异常点的影响。相比于传统的抗差方法,本文方法更为有效地识别出测深数据中异常点,推估效果较好,具有稳健性。     

Kalman滤波异常误差检测

为检测动态导航观测异常和动态模型异常误差，本文利用状态方程预测残差二次型构造了整体误差检验法，即观测误差和动力学模型误差整体检验法；讨论了三种观测异常检测法，即以模型为基准的观测异常检验，以当前历元可靠观测为基准的异常检验，以状态Kalman滤波估值为基础的观测异常检验；分析了三种动力模型异常检测法，即状态不符值检验法，以状态参数Kalman滤波估值为基础的动力模型误差检验法，以可靠观测为基础的动力模型误差整体检验法。并对这几种异常检测法进行了简单分析。     

粗差数学期望平移模型的理论研究

现有文献对数学期望平移模型的理论分析仅考虑了观测值统计独立的特殊情况。基于观测值统计相关的一般情况，导出了数学期望平移参数估值（Ｓｉ）的简明表达式。在此基础上，采用统计预测理论对Ｓｉ进行了直观的理论解释，扩展了统计学文献中的有关结论。借助于实例，分析了Ｓｉ与最小二乘残差的本质区别。     

钟差预报AR模型异常值探测的Bayes方法

主要研究了时间序列AR模型的异常值探测问题。首先在一定的限制条件下,将AR模型的异常值探测问题转化为线性回归模型的异常值探测问题;并在正态-Gamma先验条件下,计算了基于均值漂移模型和方差膨胀模型异常值事件发生的后验概率。然后运用Bayes方法对异常值进行了估算。最后通过卫星钟差实测数据计算,比较了模型修正前后预报的情况,验证了新方法的有效性。     

稳健初值的选权迭代法剔除DEM数据粗差

本文将抗差估计的思想融入到数字高程模型粗差探测的算法中,设计出对模型误差、特别是粗差具有抵抗能力的粗差探测算法.稳健初值的选权迭代法即为抗差估计的一种,首先是通过线性规划的单纯形解法来计算观测值的残差,然后再根据残差和有关的参数,按所选择的权函数,计算每个观测值的权,经过迭代计算求得观测值的残差,然后按照统计检验的方法...     

我国近海平均海面及其变化的研究

建立了计算平均海面及其变化的动态抗差模型，并把它与计算平均海面的平均值法、抗差法和动态模型法作了实测数据的计算和比较，表明动态抗差模型不仅能顾及海面动态变化反应，而且能削弱海面异常变化的影响，其结果更稳定可靠，优于其他方法。最后应用动态抗差模型，计算了我国42个验潮站的平均海面及其变化，结果表明，从50年代到70提供，我国近海的海面平均以0．621mm/a的速率上升。     

半参数回归与模型精化

就一般情况给出了半参数平差的算法，并结合一种特定的情况，讨论了正规化矩阵半正定时的计算方法，给出了相应的公式，最后构造了一个模拟的平差问题，对半参数法和最小二乘法的计算结果进行了比较，计算表明，半参数法能够发现并识别模型误差或观测值中的系统误差。     

Approximate representation of thep-norm distribution

［1］Liu D J,Shi W Z,Tong X H,et al.Precision analysis and quality cont rol of GIS spatial data.Shanghai:Shanghai Publishing House of Scientific Documen ts,1999 ［2］Chen X R,Fang Z B,Li G Y,et al.Non_parameter statistics.S hanghai:Shanghai Publishing House of Science and Technology,1989 ［3］Li Q H,Tao B Z.Application of probability statistical theory in survey ing.Beijing:Beijing Publishing House of Surveying and Mapping,1982 ［4］Sun H Y.p_norm distribution theory and its application in surveyin g data processing:[Ph.D Thesis].Wuhan:Wuhan Technical University of Surveying and Mapping,1995