Fortran中实数的有效数字为7位是什么意思？怎么理解？

hustshiyi

看到Fortran书上写到：一个实数的有效数字和数的范围都是有限的。
对于数的范围有限我能理解，但有效数字是啥意思呢？是不是意味着有些数虽然在范围之内，但是还是不能准确表达呢？
比如，一个实数占4个字节，1位用于符号位，7位存储指数部分，24位存储数字部分，如果输入一个实数
2,743,439,232，程序能表示吗？他得到的值会是多少？

bvoodnuq

其实跟我们的科学计数法是一样的。 -A*10^B 只不过是二进制而已，类似 -M*2^E

其中 M 是 23 位，E 是 8 位，符号位 1 位。这是 IEEE 浮点数标准

所以有效数字 V 满足：10^V = 2^23，即 V = log( 2^23 ) =  6.923 有效位数是 6.9 位。

2,743,439,232.0 这个实数，可以表达，但只能精确到第6位，第7位就不靠谱了。