请教大数和小数的计算

franco_chao · 发表于 2010-3-10 20:17:31

本帖最后由 franco_chao 于 2010-3-10 20:20 编辑

大家好，

   在学习应用FLAC3D过程中碰到一个问题，想请教一下大家如何在flac3d中然实现大数/小数控制。

   在flac3d中计算一个fish语言，由于变量过小或过大，已经超出flac3d实数规定位数了。

   例如计算 (0.9)^10000 的计算结果很小很小，大概0.1^-43 左右，所以flac3d显示'' Math error underflow in pow'' 错误提示语句。

   这个问题有哪位大侠碰到过吗？主要是研究粘性流变，监控粘性随加载逐渐减小的一个过程。

   谢谢大家。

franco_chao · 发表于 2010-3-10 23:14:47

顶顶

自己顶

账号		自动登录	找回密码
密码			注册

账号		自动登录	找回密码
密码			立即注册

[命令/FISH] 请教大数和小数的计算

相关帖子

[命令/FISH] 请教 大数 和 小数 的计算

相关帖子

[命令/FISH] 请教大数和小数的计算