javascript关于小数计算的结果会出现小数的位数变多的现象
来源:互联网 发布:单相四极电机绕组数据 编辑:程序博客网 时间:2024/06/10 20:16
javascript关于小数计算的Bug
今天对一个表格数据进行累加时出现了结果的小数位数变多了(要求所有的数值最多是3位小数),例如:
再例如:7*0.8=5.6000000000000005
原先我也不明白,查询资料后理解的大概
一是JS浮点数计算的bug, 另一个是和计算机最终转换成二进制计算有关系, 但是为什么不是所有小数都会有这种现象, 目前我也不清楚,
有时间再去深入研究一下。也望精英指导。
个人解决方法:1:把所有书乘以1000即:num*1000;然后累加得到sum,然后除以1000即:sum=sum/1000;
2,采用toFixed()方法:就是将表格的计算结果,sum1.toFixed(3)即可;
numberObject.toFixed(num);解释num是必须参数取值[0-20]包括0和20指的是四舍五入后保留的小数的位数,toFixed()方法不仅仅会截取小数的位数,还会从截取的地方进行四舍五入
例如:7.325.toFixed(2)==7.33;7.322.toFixed(2)==7.32;
numberObject.toFixed(num)方法的兼容问题我尚未遇到;如果有精英发现,请告知,我在ie浏览器下测试都可以;
3,还有关于计算速度问题,方法1效率高。
4,自定算法
//自定义加法运算function addNum (num1, num2) { var sq1,sq2,m; try { sq1 = num1.toString().split(".")[1].length; } catch (e) { sq1 = 0; } try { sq2 = num2.toString().split(".")[1].length; } catch (e) { sq2 = 0; } m = Math.pow(10,Math.max(sq1, sq2)); return (num1 * m + num2 * m) / m;}alert(addNum(22.77, 10));这种方法就可以很好地解决。其中Math.pow(x,y)方法返回x,y次方。x,y 必须使数字。
本人初次写blog 难免有不足之处,敬请谅解,也望精英给予批评指正,谢谢。
1 0
- javascript关于小数计算的结果会出现小数的位数变多的现象
- JavaScript 获取小数任一小数点后的位数的小数
- javascript里,小数位数设置的函数
- javascript js保留小数位数的方法
- 关于Java控制小数位数的问题
- javascript计算小数保留两位小数,多位小数的方法
- javascript计算小数保留两位小数,多位小数的方法
- 关于javascript小数的四舍五入
- 关于mysql查询结果单位换算后小数位数的保留方式
- 控制小数显示的位数
- 设置输出小数的位数
- 小数、分数的计算
- JavaScript中浮点数的保留小数位数的问题
- JS 关于小数的精确计算
- 关于数值的小数位数显示的问题。
- flex中关于保留小数位数的方法
- 【matlab】 关于保留小数位数&有效数字的问题
- JS小数运算出现多位小数的问题
- Tcp三次握手四次挥手详解
- Android中如何提取和生成mp4文件
- 使用jQuery实现弹出框效果
- powerdesigner16.5 sp05 64位下载地址
- 解决ajax请求filter重定向失败
- javascript关于小数计算的结果会出现小数的位数变多的现象
- 重新认识java(二) ---- 面向对象之封装!
- java基础_17.1_gui_Frame
- 网页设计常用色彩搭配表
- 【NOIP2016】洛谷1563 玩具谜题
- 《机器学习实战》第三章 3.1 决策树的构造
- poj 3617 Best Cow Line
- java堆内存分析
- Jquery模拟下拉框及兼容