找回密码
 注册
Simdroid-非首页
查看: 176|回复: 3

用mathematic一定要把小数写成整数吗?

[复制链接]
发表于 2006-11-27 16:22:04 | 显示全部楼层 |阅读模式 来自 大连理工大学
听一个老兄说,mathematic一定要把小数写成整数。比如0.8要写成8/10,这样提高计算精度,是吗?
发表于 2006-11-27 18:01:07 | 显示全部楼层 来自 湖南长沙

这是符号计算的优点

Simdroid开发平台
符号计算中,将0.8理解成一个浮点数,将8/10理解为一个表达式,这个表达式为Rational[8,10],实际就是对8和10两个整数进行算数操作,最后化简得到的仍然是整数域内的表达式.
       这对于2/6尤其明显,它表达成整数域内的表达式,最终为1/3;它表达成浮点数(实数)则为0.3333...用小学数学语言说就是"0.3, 3循环",但在电脑中又不可能无限表示下去,由于截断,只能表示为0.33.....3。因此谁的精度高不言而谕。
       但是,前提是在计算中所有数都要写成整数域内的表达式,否则强制转化为浮点数。
发表于 2006-11-28 17:42:25 | 显示全部楼层 来自 黑龙江哈尔滨
没有那么夸张的,想成什么不重要,算出的精度能满足你的要求,最好是整数,那样没有截断误差而已.
发表于 2006-11-28 18:53:25 | 显示全部楼层 来自 湖南长沙

并不是“想”,是软件对数的内部表达。

-------------------------------------------------------------
您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2026-1-7 04:07 , Processed in 0.033278 second(s), 14 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表