找回密码
 立即注册

QQ登录

只需一步,快速开始

查看: 3575|回复: 3

[已解决] MP_DENSITY精度设置,怎样才能更精确些呢?

  [复制链接]

1

主题

12

回帖

0

威望

实习生

积分
15
发表于 2012-12-25 13:57 | 显示全部楼层 |阅读模式
如图:
    我把MP_DENSITY设置为7.85e-6,回车后变成0.000008了,怎样才能更精确些呢?

1

主题

1954

回帖

14

威望

讲师

积分
2520
发表于 2012-12-25 22:40 | 显示全部楼层
设置为7.85e-10试试
回复

使用道具 举报

1

主题

12

回帖

0

威望

实习生

积分
15
 楼主| 发表于 2012-12-26 08:21 | 显示全部楼层

格式能解决…………

原帖由 hbabc 于 2012-12-25 22:40 发表
设置为7.85e-10试试

格式能解决了,但7.85e-10不等于7.85e-6,我要设定的值就是7.85e-6,还有管用的办法吗?
回复

使用道具 举报

1

主题

12

回帖

0

威望

实习生

积分
15
 楼主| 发表于 2012-12-26 08:33 | 显示全部楼层

找到问题原因

经测试:
1.输入7.851e-6后显示为0.000008,但重量计算结果是按7.851e-6得出的(需重生成)
2.直接输入0.000008,计算结果按0.000008得出(需重生成)
结论:自动进位是系统的问题,可以不去管;但填写密度的时候一定要按科学计数法。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

本站为非营利性站点,部分资源为网友搜集或发布,仅供学习和研究使用,如用于商业用途,请购买正版。站内所发布的资源,如有侵犯你的权益,请发邮件联系我们,本站将立即改正或删除。

手机版|小黑屋|野火论坛(©2007~2024) ( 苏ICP备11036728号-2 )苏公网安备 32039102000103号|站长QQ28016688

GMT+8, 2024-9-29 18:24 , Processed in 0.133280 second(s), 21 queries .

快速回复 返回顶部 返回列表