程序博客网 > wow客户端优化怎样用

javascript中的float运算精度

来源：互联网发布：wow客户端优化怎样用编辑：程序博客网时间：2024/06/10 03:41

有人问到一个js问题：

var i = 0.07;var r = i*100;alert(r);

结果为什么是7.0000000000000001?

查了下资料，其实我们知道JavsScript中，变量在存储时并不区分number和float类型，而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number，按照IEEE 754的定义： http://en.wikipedia.org/wiki/IEEE_754-2008

decimal64对应的整形部分长度为10,小数部分长度为16，所以默认的计算结果为“7.0000000000000001”，如最后一个小数为0，则取1作为有效数字标志。

类似地，我们可以想像，1/3的结果应该是0.3333333333333333。

那么如何校正这个值呢？

可以用以下方法：
一、parseInt

var r4=parseInt(i*100);

二、Math.round

var r2=Math.round((i*100)*1000)/1000;

以上两种方法都可以得到7

附全部测试代码：

<html><head><title>测试脚本</title> <mce:script language="JAVASCRIPT"></mce:script></head><body onload="init();"></body></html>

邀月注：本文版权由邀月和CSDN共同所有，转载请注明出处。
助人等于自助! 3w@live.cn

wow客户端优化怎样用

wow客户端优化怎样用

原创粉丝点击

热门问题 老师的惩罚人脸识别我在镇武司摸鱼那些年重生之率土为王我在大康的咸鱼生活盘龙之生命进化天生仙种凡人之先天五行春回大明朝姑娘不必设防，我是瞎子睾丸上面长疙瘩很痒都抓烂了怎么办睾丸小引起精子数量少怎么办睾丸发育不完全精子存活率低怎么办踢到睾丸很痛怎么办兔子的睾丸烂了怎么办梗阻性无精穿刺取得精子不好怎么办甲状腺做完穿刺后是恶性怎么办硬了之后睾丸痛怎么办腋下胯间颜色深怎么办当兵前上班有社保怎么办别人背后害我我怎么办左侧胸明显大于右侧胸怎么办婴儿拉大便次数多怎么办公鸽子不会踩蛋怎么办生殖器套东西取不下来怎么办婴儿成蛋蛋的皮好长怎么办丈夫总要害自己该怎么办脚背踢肿了怎么办很疼踢沙袋脚背伤了怎么办脚y子烂了怎么办掐喉咙那会痒会咳嗽怎么办掐到婴儿脖子了怎么办孩子胳膊不小心烫破皮了怎么办孩子嘴角磕破了怎么办电话不小心拒接了怎么办手机微信不小心碰到语言英文怎么办手机微信不小心碰到英文说话怎么办不小心碰到宝宝卤门怎么办不小心碰到婴儿头顶囟门怎么办重要部位被踢了怎么办吃了带刺的葡萄怎么办小孩子老是去厕所大便怎么办家人偷了我的钱怎么办小孩打闹踢到要害怎么办腿上汗毛孔没开都是点点怎么办脸蛋澡巾擦破了怎么办婴儿后背用擦澡巾擦红了怎么办搓澡皮肤搓破了怎么办搓背搓的脖子红痒怎么办上班迟到1个小时怎么办想家想的都哭怎么办