数值计算问题【BUGID：4177】

国福龙凤 · 发表于 2013-1-7 10:13:47

本帖最后由 spiral 于 2013-1-8 15:06 编辑

批量导入后，出现如下错误
未命名.jpg

以下是部分脚本
usedAmount = usedData.getItemValueAsDouble("amount");
}
var mu = planAmount - usedAmount - amount;
$PRINTER.println("#####usedAmount#########" + usedAmount);
$PRINTER.println("#####Amount#########" + amount);
$PRINTER.println("#####planAmount#########" + planAmount);
$PRINTER.println("#####mu#########" + mu);
if (mu < 0) {

returnStr +="pwp编号："+pwpno+" 活动申请金额已超出预算金额，预算金额："+planAmount + " 已申请金额："+ usedAmount + " 申请金额："+amount;
}
}
var retvar =returnStr;
retvar;

打印语句
JsUtil:#####usedAmount#########73564.29734
JsUtil:#####Amount#########221.24177
JsUtil:#####planAmount#########73785.53911
JsUtil:#####mu#########-6.73594513500575e-12

spiral · 发表于 2013-1-7 10:15:47

您好，正在为您本地测试，稍候回复您

spiral · 发表于 2013-1-7 10:24:23

本帖最后由 spiral 于 2013-1-7 14:11 编辑

您好，该问题确实存在，具体是小数点的减法计算有误，稍候会把问题反馈给研发，对您带来的不便表示歉意

国福龙凤 · 发表于 2013-1-7 14:44:41

回复 3# spiral

好的，希望明天补丁可以出来，特别急！！

purple · 发表于 2013-1-7 14:53:00

回复 4# 国福龙凤

您好，这部分会尽量帮您争取，但我们无法给您确切的答复，有进展之后，对应会在帖子上有所体现与跟进。敬请留意

spiral · 发表于 2013-1-8 11:32:30

您好，该问题属于JavaScript浮点运算的一个bug。
应对的解决方案：
把println("#####mu#########" + mu);改成println("#####mu#########" + mu.toFixed(5));
.toFixed(5)的意思是将数字四舍五入同时保留五个小数点。如果想变更保留的小数点位数把参数2改一下就可以

spiral · 发表于 2013-1-8 15:06:18

客户反馈修改后可以正常使用，感谢楼主反馈

		自动登录	找回密码
密码			注册成为天翎用户

[已解决] 数值计算问题【BUGID：4177】