fortran求平均值产生的误差问题

wangtao15188 · 发表于 2011-3-26 13:15:44

用fortran求大量数据的平均值，运算后的结果与EXCEL算出的平均值相差很多，产生这种误差的原因是什么呢？

GWinston · 发表于 2011-4-13 16:09:03

我想主要是数据存储的精度问题,即有效数字位数不一样,FORTRAN中用双精度可达到13位有效数字,单精度有7-8位.EXCEL的就不清楚了

铁道科学 · 发表于 2011-4-13 16:10:42

精度不会差距这么大吧，好好检查一下那里有失误的地方。

账号		自动登录	找回密码
密码			注册

账号		自动登录	找回密码
密码			立即注册

[3. Fortran] fortran求平均值产生的误差问题