0.005和0.005不等，咋回事？求教

ygsh16

我在程序中有一语句如下：
   Abs(Round(Verification, 3) - Round(VerifyReadingT, 3)) <= Round(Tolerance, 3)
大多数情况这句运行正常，担当 Abs(Round(Verification, 3) - Round(VerifyReadingT, 3))为0.005， Round(Tolerance, 3)为0.005，这个语句为false,不知为啥？
我改成如下所示，就可以正常运行。
Round(Abs(Round(Verification, 3) - Round(VerifyReadingT, 3)), 3) <= Round(Tolerance, 3)

fortran2003

0.005在二进制下是无理数，如果你的两个0.005精度不一样，比如一个是real*4,一个是real*8，就有可能不等。0.005跟自身当然是相等的，如果程序里不等，就是计算机表示这个环节的原因。

[ 本帖最后由 fortran2003 于 2007-3-31 15:00 编辑 ]

proman

计算机存储的有效位数的问题,
在存储实数的时候在二进制和十进制的转换过程中会有误差