找回密码
 注册
Simdroid-非首页
查看: 108|回复: 4

[基础概念] 如何控制解方程结果的小数位保留?

[复制链接]
发表于 2010-6-6 09:32:00 | 显示全部楼层 |阅读模式 来自 甘肃兰州
用一个方程组计算X,Y,Z,最后输出结果我需要保留X,Y,Z小数点后10位,请问如何能做到?
http://zhidao.baidu.com/question/157708585.html
发表于 2010-6-6 10:14:19 | 显示全部楼层 来自 上海宝山区
Simdroid开发平台
Precision and Accuracy
回复 不支持

使用道具 举报

发表于 2010-6-6 15:54:31 | 显示全部楼层 来自 陕西安康
本帖最后由 changqing 于 2010-6-6 15:56 编辑

在数字后面加一个撇点,然后写上精度,如:

  1. x=1.0`10;
  2. y=2.56`10;
  3. z=3.78`10;
  4. x*y*z
复制代码

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?注册

×
回复 不支持

使用道具 举报

 楼主| 发表于 2010-6-6 21:05:04 | 显示全部楼层 来自 甘肃兰州
这个x,y,z是解出来的,不是给值的
回复 不支持

使用道具 举报

发表于 2010-6-6 22:18:49 | 显示全部楼层 来自 黑龙江哈尔滨
本帖最后由 TBE_Legend 于 2010-6-7 08:12 编辑
这个x,y,z是解出来的,不是给值的
jimogsh 发表于 2010-6-6 21:05


一般小于16位有效数字的浮点数的精度(precision)都是machineprecision的,所以

x=1.2;
FindRoot[f[x]==0,{x,0}] 等解出来的,也是machineprecision,但是在 standard ouputform下显示的是6为有效数字,你用fullform就可以看到全部了,这时如果你想修改(如四舍五入啥的)可以用NumberForm命令。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?注册

×
回复 不支持

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2024-3-29 23:15 , Processed in 0.052777 second(s), 14 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表