| 数值计算误差初步理解及简单分析 |
| |
| 引用本文： | 刘平,吕海兵,张峰,胡文礼. 数值计算误差初步理解及简单分析[J]. 地理空间信息, 2011, 9(3): 156-158,161 |
| |
| 作者姓名： | 刘平 吕海兵 张峰 胡文礼 |
| |
| 作者单位： | 1. 湖北省基础地理信息中心,湖北武汉,430071
2. 中南勘察设计院(湖北)有限责任公司,湖北武汉,430071 |
| |
| 摘 要： | 介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项.
|
| 关 键 词： | 数值计算 计算误差 初步理解 简单分析 |
Preliminary Understanding and Simple Analysis of Numerical Calculation Errors |
| |
| LIU Ping. Preliminary Understanding and Simple Analysis of Numerical Calculation Errors[J]. Geospatial Information, 2011, 9(3): 156-158,161 |
| |
| Authors: | LIU Ping |
| |
| Abstract: | This paper introduced the classification of numerical calculation errors,and used math expressions as examples to illustrate truncation error.According to IEEE754 criterion,this paper used math expressions to explain rounding error.Then this paper simply analyzed the truncation error and rounding error.At last,this paper pointed out attentions in the numerical calculation. |
| |
| Keywords: | numerical calculation calculation errors preliminary understanding simple analysis |
| 本文献已被 CNKI 维普 万方数据 等数据库收录！ |
|
