双精度浮点数的加法计算误差及其避免的初步方法
来源:互联网 发布:linux kvm性能对比 编辑:程序博客网 时间:2024/06/10 01:20
双精度浮点数的加法计算误差及其避免的初步方法
我一开始是在mysql的sum函数中发现计算误差,经过分析,认为可能与双精度浮点数有关
#include <stdio.h>
main()
{
char str[256];
double x=9999999999.00;
double s=0.0;
double x1=99999999.99;
double s1=0.0;
int i;
for( i = 0; i < 8192; i++ ) {
s += x;
}
printf( "%18.2lf", s );
for( i=0;i<8192;i++)
{
s1 += x1;
}
printf("%18.2lf",s1);
s1 = x1 * 8192.00;
printf("%18.2lf/n",s1);
}
分别在Windows 和 unix 下边编译运行,得到的结果是相同的
81919999991808.00 819199999918.02 819199999918.08
这说明双精度浮点数的加法在小数点后边计算存在较大误差,而乘法就好一些
我初步想到了2种解决方法,不成熟,我也没有试过其他语言,请各位指正
解决方法一:
避免用double就没问题
比如在vb里面这么写,用Currency类型
Private Sub Command1_Click()
Dim i As Integer
Dim s As Double
Dim x As Double
Dim sc As Currency
Dim xc As Currency
x = 99999999.99
s = 0
For i = 1 To 8192
s = s + x
Next i
xc = 99999999.99
sc = 0
For i = 1 To 8192
sc = sc + xc
Next i
MsgBox s & " " & sc
End Sub
结果:819199999918.017 819199999918.08
解决方法二:
加的时候不用小数点,加好以后再点
比如:
99999999.99连加的时候把小数点右移2位
用9999999999做连加,得出结果后再把小数点左移2位
- 双精度浮点数的加法计算误差及其避免的初步方法
- javascript避免数字计算精度误差的方法之一
- javascript避免数字计算精度误差的方法
- javascript避免数字计算精度误差的方法详解
- 避免数字计算精度误差的方法详解
- javascript避免数字计算精度误差的方法
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- Java浮点数float,bigdecimal和double精确计算的精度误差问题总结
- 浮点数精度误差带来的一个BUG
- 浮点数的误差
- 浮点数的误差
- 计算时使用浮点数产生误差的原因分析
- 浮点数的精确误差
- 另一篇摘抄的文章, 或许可以帮助理解一下osi的概念
- (转)一些jbx的配置
- mdb Utils (Access)
- ASP中使用事务处理
- 提高FastReplace速度 (fStrRep.pas)
- 双精度浮点数的加法计算误差及其避免的初步方法
- [转帖] 登录网站时需注意的一些礼节
- D3DXMatrixLookAtLH 函数
- The Jess language2.
- C#的四个基本技巧
- 开篇语-建立4C标准的电子商务网站
- D3DXMatrixLookAtRH 函数
- 中国农历算法(delphi)
- 我有6个Gmail邀请权,谁要?