franco_chao 发表于 2010-3-10 20:17:31

请教 大数 和 小数 的计算

本帖最后由 franco_chao 于 2010-3-10 20:20 编辑

大家好,

       在学习应用FLAC3D过程中碰到一个问题,想请教一下大家如何在flac3d中然实现大数/小数控制。

       在flac3d中计算一个fish语言,由于变量过小或过大,已经超出flac3d实数规定位数了。

       例如计算 (0.9)^10000 的计算结果很小很小,大概0.1^-43 左右,所以flac3d显示'' Math error underflow in pow'' 错误提示语句。

       这个问题有哪位大侠碰到过吗?主要是研究粘性流变,监控粘性随加载逐渐减小的一个过程。

      谢谢大家。

franco_chao 发表于 2010-3-10 23:14:47

顶顶

自己顶
页: [1]
查看完整版本: 请教 大数 和 小数 的计算