切换到宽版

Simdroid-非首页

Simwe仿真论坛(forum.simwe.com)，CAE/CAD/CAM/，FEA/FEM/有限元分析论坛---(手机验证注册)»论坛 › ..:: 科学软件专区 › K01：MatLab › matlab的计算精度

返回列表发新帖

查看: 53|回复: 1

matlab的计算精度

发表于 2012-8-7 06:13:23 | 显示全部楼层 |阅读模式来自西班牙

matlab计算时，如何设置计算精度为三位小数？
因为位数太多会出问题，比如产生随机数不等于0.5，但是如果产生0.499999999999
效果都差不多

回复

使用道具举报

发表于 2012-8-7 10:57:03 | 显示全部楼层来自山东青岛

Simdroid开发平台

digits和vpa

回复赞不支持

使用道具举报

返回列表发新帖

Simapps系列直播

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2024-10-2 02:36 , Processed in 0.025928 second(s), 11 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表