找回密码
 注册
Simdroid-非首页
查看: 141|回复: 3

[3. Fortran] 在Fortran中用双精度计算根号3的奇怪现象(已解决)

[复制链接]
发表于 2010-6-26 22:41:19 | 显示全部楼层 |阅读模式 来自 广东汕尾
本帖最后由 pearqiqi 于 2010-6-27 08:36 编辑

我在Microsoft Visual Studio中使用fortran编程,突然发现一个问题,不知道是我的问题,还是软件的问题,望大家指点。

      PROGRAM FORTRAN
      DOUBLE PRECISION X
      X=SQRT(3.)
      WRITE(*,*) X
      PAUSE
      END PROGRAM FORTRAN

这是个很简单的程序,就是用双精度输出根号3的值,但得到的值和我用其他计算软件计算的结果有差别,不知道是什么原因。
下载 (37.46 KB)
45 秒前


上图是分别用fortran,计算器,Mathematica软件算的根号3,后两者结果一样。
虽然差别很小,但经过大量计算后的积累误差却不小。
 楼主| 发表于 2010-6-27 08:36:32 | 显示全部楼层 来自 武汉大学
Simdroid开发平台
使用SQRT(3.D0)

评分

1

查看全部评分

回复 不支持

使用道具 举报

发表于 2010-10-6 23:41:05 | 显示全部楼层 来自 广西柳州
数值精度问题。学习了
回复 不支持

使用道具 举报

发表于 2018-12-22 08:55:31 | 显示全部楼层 来自 黑龙江哈尔滨
我也遇到了精度问题,学习了
回复 不支持

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2024-3-29 18:27 , Processed in 0.041475 second(s), 14 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表