请教 大数 和 小数 的计算
本帖最后由 franco_chao 于 2010-3-10 20:20 编辑大家好,
在学习应用FLAC3D过程中碰到一个问题,想请教一下大家如何在flac3d中然实现大数/小数控制。
在flac3d中计算一个fish语言,由于变量过小或过大,已经超出flac3d实数规定位数了。
例如计算 (0.9)^10000 的计算结果很小很小,大概0.1^-43 左右,所以flac3d显示'' Math error underflow in pow'' 错误提示语句。
这个问题有哪位大侠碰到过吗?主要是研究粘性流变,监控粘性随加载逐渐减小的一个过程。
谢谢大家。 顶顶
自己顶
页:
[1]