急急急！3位小数存档成10位时，为什么存在误差？

feiyuedahaidewo · 发表于 2017-2-23 22:17:02

赋值m=0.002，
用formate命令输出为10位小数，为什么成了0.0020000001，存在误差，希望哪位能指导怎么解决这个问题！

penultimate · 发表于 2017-2-24 15:54:15

解决啥，十进制的0.002用二进制表示时，就是有误差的

cadence · 发表于 2019-1-12 08:01:23

这个没事的。不影响

账号		自动登录	找回密码
密码			注册

账号		自动登录	找回密码
密码			立即注册

[3. Fortran] 急急急！3位小数存档成10位时，为什么存在误差？