找回密码
 注册
Simdroid-非首页
查看: 955|回复: 16

[后处理] 【讨论】怎么设置结果输出的小数点后位数

[复制链接]
发表于 2003-6-17 19:26:30 | 显示全部楼层 |阅读模式 来自 湖南长沙
例如我想输出点的坐标,其数值精确到小数点后9位,我觉得没必要那么精确,想控制输出的位数,如小数点后3位,怎么设置????
发表于 2003-6-17 22:53:34 | 显示全部楼层 来自 美国

回复: 【讨论】怎么设置结果输出的小数点后位数

Simdroid开发平台
/format
发表于 2007-5-11 15:30:33 | 显示全部楼层 来自 陕西西安
ANSYS中小数点位数的确定
在ANSYS 中关于小数点位数的命令有几个,常用的两个:/GFORMAT, Ftype, NWIDTH, DSIGNF和/FORMAT, NDIGIT, Ftype, NWIDTH, DSIGNF, LINE, CHAR命令。
/GFORMAT, Ftype, NWIDTH, DSIGNF这个命令是相对图形上的小数点而言;
而在POST1中的这些 PRNSOL, PRESOL, PRETAB, PRRSOL, and PRPATH 命令中的有效数字,在GUI上没有直接路径,可以用/FORMAT, NDIGIT, Ftype, NWIDTH, DSIGNF, LINE, CHAR命令完成自己想要的位数。
如:
/format,,f,18,1则表示选F格式下宽度为18的有效位数,小数点后保留1位
/format,,f,18,3则表示选F格式下宽度为18的有效位数,小数点后保留3位
/format,,g,18,10则表示选G格式下宽度为18的有效位数,共为10位数(包括整数及小数部分)
该命令只对POST1中的这些 PRNSOL, PRESOL, PRETAB, PRRSOL, and PRPATH 列表数据有效。
注意一下:
当/format,,f,18,1中要求保留的位数不大于整数位时,保留1个有效数字,换为其他位时是一样的;而当/format,,f,18,10中的10的位数远大于整数时,表示整个数(包括小数点前面的整数部分及小数部分)之和为10位,其他同理。

评分

1

查看全部评分

回复 不支持

使用道具 举报

发表于 2007-5-21 21:10:50 | 显示全部楼层 来自 北京
计算过程中的精度怎么控制???
回复 不支持

使用道具 举报

发表于 2007-5-21 21:22:31 | 显示全部楼层 来自 北京
不需要双精度那么高的精度
回复 不支持

使用道具 举报

发表于 2008-4-25 09:12:20 | 显示全部楼层 来自 湖北武汉
好啊,前几天正碰到这个问题,谢谢
回复 不支持

使用道具 举报

发表于 2009-5-16 14:48:00 | 显示全部楼层 来自 湖南长沙
好方法,多谢!
回复 不支持

使用道具 举报

发表于 2010-2-2 21:06:04 | 显示全部楼层 来自 北京海淀
真的很不错,我也正需要这个命令呢,终于让我找到了,simwe论坛总是不缺乏高人,3#就是高人一个!
回复 不支持

使用道具 举报

发表于 2010-3-11 20:05:51 | 显示全部楼层 来自 北京海淀
又学到了一点知识,慢慢增长~~~
回复 不支持

使用道具 举报

发表于 2010-4-8 14:53:25 | 显示全部楼层 来自 上海
好像/format命令不好使啊
回复 不支持

使用道具 举报

发表于 2010-4-11 21:21:13 | 显示全部楼层 来自 湖南湘潭
我也学到了知识啊,以后说不定会用到呢,谢谢啊!
回复 不支持

使用道具 举报

发表于 2010-4-11 22:04:13 | 显示全部楼层 来自 华南理工大学
学习了 ,,,,
回复 不支持

使用道具 举报

发表于 2010-4-12 23:24:43 | 显示全部楼层 来自 辽宁沈阳
学习,学习
回复 不支持

使用道具 举报

发表于 2011-3-30 11:10:29 | 显示全部楼层 来自 江苏镇江
谢谢 学习了
回复 不支持

使用道具 举报

发表于 2011-5-16 20:17:01 | 显示全部楼层 来自 黑龙江哈尔滨
谢谢3#的分享
回复 不支持

使用道具 举报

发表于 2011-8-26 21:26:15 | 显示全部楼层 来自 山东青岛
thank you a lot
回复 不支持

使用道具 举报

发表于 2013-4-24 20:31:02 | 显示全部楼层 来自 河北石家庄
/post26如何设置,我从txt导入excel时格式很错乱
回复 不支持

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Simapps系列直播

Archiver|小黑屋|联系我们|仿真互动网 ( 京ICP备15048925号-7 )

GMT+8, 2024-9-24 05:22 , Processed in 0.079472 second(s), 17 queries , Gzip On, MemCache On.

Powered by Discuz! X3.5 Licensed

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表