最小一乘方线性回归计算新方法

最小一乘方线性回归计算新方法李松仕（福建省水文水资源勘测局）１引言线性回归模型的最小一乘法,指的是使下列目标函数达最小的参数估计方法：ｍｉｎ｛Ｆ＝∑ｎｉ＝１｜εｉ｜｝其中,ε为点对回归面（或线）的离差。在统计数学中,称其为“稳健回归”。［１］对于一般...     

最小一乘方松弛计算法

以加权最小二乘法为基础的最小一乘方松弛算法,能有效削弱异常数据的影响,获得更稳健的回归方程.该算法适用于多元线性回归模型的参数估计,并以实例验证了该算法的稳健性.     

最小一乘法在岩土地基沉降中的应用

最小一乘法是一个既古典又新颖的方法,随着最小一乘解的实现问题近年来有大的突破,一些最小二乘法所不具有的优良特性,如直观性、稳健性、零误差性、可预测性、广义性等逐渐显现。最小一乘逼近是最小绝对值误差极小化的逼近,也称为“极小极小”逼近,由于极小极小逼近的最佳结果一定是零,所以零误差原理是最小一乘法的基本原理。最小一乘解是通过“代表式”的数据处理方式来实现的,由于排除了大误差数据的干扰,使最小一乘法具有较好的稳健性。而代表数据可按不同的应用而选择并确定,使应用具有了广泛性。对于预测而言,将端点数据设定为零误差数据,使数据的权重不再相等,而是往端点方向倾斜,端点数据具有最大的权重,且建立在无误差的基点上,这使得预测理论与模式变得合理,使预测的准确性得到保证。文中通过3个工程实例,介绍了最小一乘法在探索岩石或软土地基在沉降过程中的应用,其结果与最小二乘法的进行了比较,通过分析后给出如下主要结论：（1）最小一乘法的数据处理稳定性较好,波动幅度较小,预测结果较准;（2）一般不会出现最小二乘法数据处理中的矛盾及不合理的现象;（3）虽然时间t→∞的极限下沉量具有不可验证性,但最小一乘法的预测是建立在无误差的基点上,比最小二乘法的预测建立在有误差的基点上合理,加上有较好的稳健性,其结果更具参考性。     

线性回归法在地下水水质分析中的应用

运用逐步线性回归的理论方法,分析研究区的地下水水质指标间的相关性,研究区属砷元素富集地区,对研究区建立砷含量与其他指标之间的线性回归模型,确定砷含量与HPO4-2、Fe、I-,Br-的含量相关性较显著。此模型可以用于研究区的地下水环境的规划、评价、研究工作中。     

偏最小二乘回归法在库岸再造预测中的应用

简述了单因变量偏最小二乘回归法的基本原理和计算步骤.针对水库库岸再造预测的特点,将三峡库区巫山县段的岩质库岸划分为漫滩段、枯-洪水位变幅带、常见洪水位以上段3种类型.建立了坡角与岩体类型、力学性质、地形地貌之间的3个偏最小二乘回归方程.计算结果表明,组成岸坡的岩体类型、性质是决定库岸再造的最主要因素,地形地貌因素次之.应用偏最小二乘回归模型,可提高库岸再造预测的准确度,为土地利用提供决策支持.     

应用线性回归分析确定土的工程特征

在岩土工程勘察中，数学地质方法的应用比较广泛，特别是土工指标之间的经验公式应用比较多，运用这些公式可以在经济的前提下，获得比较可靠的结果。而线性回归分析则是应用较为广泛的数学工具，在资料积累的基础上，利用它可以建立一个场区、一个地区、乃至一个区域的经验公式，来预测土工参数或检验实测指标的误差大小。     

线性矩法的特点评析和应用问题

介绍了线性矩法的无偏估计与直接计算的关系，讨论了在概率权重矩计算过程中各系列之间的高度相关性及其对结果的影响，建立了直接计算线性矩法的Cv和Cs近似公式，叙述了适线问题和相应的经验频率公式。文中认为，水文频率计算时，由于资料的随机性和处理方法上的概化性，故用任何计算方法得到的结果，具有不同程度的不确定性，只能作为估计的初值，需通过时空上综合平衡，再经合理性分析和调整后，才能取用。     

线性矩法与常规矩法对太湖流域降雨频率分析的比较研究

介绍了线性矩法的基本理论,并与常规矩法进行了初步的比较与分析,说明了其理论上的优越性;以太湖流域的雨量资料为例,选取4个站点分别应用线性矩法和常规矩法估计其不同重现期下年极值降雨频率设计值;最后,利用Monte Carlo方法对太湖流域内96个站点数据进行模拟,比较线性矩法和常规矩法所估计的统计参数。结果表明:线性矩法估计的参数在精确性、不偏性及稳健性方面较常规矩法更优。     

水文相关中的最小二乘回归问题探讨

在研究了水文相关中利用最小二乘原理进行回归分析方法的基础上，指出了传统水文回归分析方法的使用条件、局限性和存在的问题。提出了不同性质的变量在回归分析时应区别对待的概念。结合水文观测的实际情况，研究了相关变量观测值均存在误差情况下，以变量的观测误差作权进行回归分析的概念，提出了建立基于最小二乘原理基础上的双加权回归模型，并研究了该模型的解算方法。同时推导了估计参数和预测值的误差估计公式，通过估计参数和模型误差的研究，有助于提高水文变量回归的精度和误差估计水平。     

回归模型的灵敏度分析

回归计算中，由于资料和计算上的误差，使结果也产生一定的误差，通常，采用最小二乘法或最小一乘法来估计回归模型中的参数，即是取目标函数为最小来实现的，如果使目标函数在允许的误差范围内变化，则参数会有相应的变幅，本文探讨了两变数回归时参数估计的灵敏度，在相关关系不甚密切时，误差对结果的影响是较大的。     

正交最小二乘法及其在分析化学中的应用

介绍了一种线性模型参数回归分析方法-正交最小二乘法,并以电子探针微区分析技术分析环境样品的数据为例,对正交最小二乘法和经典最小二乘法的结果进行了详细比较。数据处理结果表明,当变自量和因变量都同时存在测量误差时（或自变量的测量误差与因变量的测量误差相比不能忽略时）,正交最小二乘法获得的回归系数优于经典最小二乘法。对正交最小二乘法中的线性模型能解释的方差与经典最小二乘法中的相关系数的关系也进行了讨论。     

改进的最小二乘法在水文分析计算中的应用

在水分析计算中，经常涉及到变量之间的线性或非线性拟合，而在拟合各种特性曲线时，通常应用以实测资料与拟合曲线间的误差平方和最小作为目标函数的方法——最小二乘法，但这种方法忽视了所有实测点应与拟合曲线间的相对误差尽量不超过某一百分比的原则，为了达到上述要求，提出了非线性的加权最小二乘法及线性相关方程的最小距离平方和法，探讨改进了传统的最小二乘法达到优化的效果。最小距离平方和法与常用的图解法相比，本法所得成果较为客观；与传统的单方向(x或y方向)最小二乘回归法相比，所求线性方程不会因坐标系的选取而改变。最后应用算例进行了初步讨论。     

用蒙特卡洛模拟法计算正交最小二乘法拟合参数的标准偏差

介绍了一种计算正交最小二乘法拟合参数标准偏差的新方法－蒙特卡洛模拟法,并以电子探针微区分析技术分析环境样品的数据为例,对用于计算经典最小二乘法回归系数标准偏差的公式法和蒙特卡洛模拟法进行了比较。计算结果表明,两者完全相符,蒙特卡洛模拟法的计算结果正确、可靠。考察了模拟次数对计算结果的影响。模拟次数大于500时,计算结果趋于稳定,计算所需时间在1min以内。拟合方差与回归系数标准偏差存在明显的相关关系。线性模型能解释的方差越大,回归系数标准偏差越小。蒙特卡洛模拟法特别适合于非线性模型拟合参数标准偏差的计算。     

Comparison of structural and least-squares lines for estimating geologic relations

Two different goals in fitting straight lines to data are to estimate a true linear relation (physical law) and to predict values of the dependent variable with the smallest possible error. Regarding the first goal, a Monte Carlo study indicated that the structural-analysis (SA) method of fitting straight lines to data is superior to the ordinary least-squares (OLS) method for estimating true straight-line relations. Number of data points, slope and intercept of the true relation, and variances of the errors associated with the independent (X) and dependent (Y) variables influence the degree of agreement. For example, differences between the two line-fitting methods decrease as error in X becomes small relative to error in Y. Regarding the second goal—predicting the dependent variable—OLS is better than SA. Again, the difference diminishes as X takes on less error relative to Y. With respect to estimation of slope and intercept and prediction of Y, agreement between Monte Carlo results and large-sample theory was very good for sample sizes of 100, and fair to good for sample sizes of 20. The procedures and error measures are illustrated with two geologic examples.     

多波长数据线性回归光度法同时测定痕量钼和钛

多波长数据线性回归分光光度同时测定两个相互干扰的组分,具有简便、快速等特点,已用于Mn和Zn、Be和Al、Mo和W以及Fe和A1等体系。本文在文献的基础上,探讨了不同波长下,Mo和Ti与苯基荧光酮络合物的摩尔吸光系数的差异,在520～540nm范围内,选择了10个波长测量吸光度,以数据线性回归法的原理,不经分     

用Taylor展开最小二乘法反演水文地质参数

采用Taylor展开最小二乘法,对有解析解的水文地质问题进行参数反演,不仅计算速度快,而且计算准确,避免人工配线误差.