找回密码
 注册
Simdroid-非首页
查看: 62|回复: 2

[3. Fortran] fortran求平均值产生的误差问题

[复制链接]
发表于 2011-3-26 13:15:44 | 显示全部楼层 |阅读模式 来自 江苏南京
用fortran求大量数据的平均值,运算后的结果与EXCEL算出的平均值相差很多,产生这种误差的原因是什么呢?
发表于 2011-4-13 16:09:03 | 显示全部楼层 来自 江苏南京
Simdroid开发平台
我想主要是数据存储的精度问题,即有效数字位数不一样,FORTRAN中用双精度可达到13位有效数字,单精度有7-8位.EXCEL的就不清楚了
回复 不支持

使用道具 举报

发表于 2011-4-13 16:10:42 | 显示全部楼层 来自 江苏南京
精度不会差距这么大吧,好好检查一下那里有失误的地方。
回复 不支持

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Simapps系列直播

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2024-11-1 06:57 , Processed in 0.032724 second(s), 13 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表