ROUND-OFF ERRORS引起的警告，怎么回事啊？

smilew · 发表于 2009-9-14 09:47:41

***WARNING: THE ANALYSIS MAY NEED A LARGE NUMBER OF INCREMENTS (MORE THAN 300000), AND IT MAY BE AFFECTED BY ROUND-OFF ERRORS. RUNNING THE DOUBLE PRECISION EXECUTABLE IS RECOMMENDED.
我的几个算例都有这样的警告，修改了job里的双精度，还是会出现相同的警告，我该怎么办啊？感谢指点，感谢感谢！

renjianxianyu · 发表于 2010-11-30 19:26:33

我也有这样的问题 LZ解决了没？

caoqd0910 · 发表于 2010-12-1 11:21:08

我每次计算也有这个问题出现的。应该没什么影响，可以继续算下去的。

xiaochong123456 · 发表于 2011-4-7 03:55:50

3# caoqd0910
你应该是用单精度算的，这个时候建议采用双精度

freemodel · 发表于 2011-4-7 09:37:30

楼上正解舍入误差比较大

账号		自动登录	找回密码
密码			注册

账号		自动登录	找回密码
密码			立即注册

[警告错误信息] ROUND-OFF ERRORS引起的警告，怎么回事啊？

相关帖子

评分