javascript浮点数精度

JavaScript为什么浮点数会丢失精度

JS浮点计算问题

问题

用js进行浮点数计算,结果可能会“超出预期”,大部分计算结果还是对的,但是我们可不想在计算这么严谨的事情上还有意外的惊喜。比如:

0.3 + 0.6 = 0.8999999999999999

0.3 – 0.2 = 0.09999999999999998

0.3 * 1.5 = 0.44999999999999996

0.3 / 0.1 = 2.9999999999999996

看完这几个计算结果,如果你没用过js,你可能会有点崩溃。我只能说,这就是js的魅力所在。

分析

在这之前,你需要知道以下几点:

js中数字类型只有Number;

js的Number是IEEE 754标准的64-bits的双精度数值

网上有很多关于此问题的解释,由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而js中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失。其实高级语言(c#,java)也存在此问题,只不过它们自己内部做了处理,把这种精度差异给屏蔽掉了。有些小数转换为二进制位数是无穷的(有循环),但是64位中小数最多只有52位,因此对于位数超过的相当于被截取了,导致了精度的丢失。这个地址可以用来浮点数和IEEE 754标准的64-bits的互转(背后是二进制的转换),用这个我们来验证下0.3-0.2。

0.3转换后为0.299999999999999988897769753748

0.2转换后为0.200000000000000011102230246252

0.299999999999999988897769753748-0.200000000000000011102230246252=0.099999999999999977795539507496

这和js直接计算的结果0.09999999999999998想吻合。

分析下来,终于明白并不是js自身发育不良,只是没有及时补充营养,我们只能另想出路了。

以上是网上找的

我以前遇到过问题2中浏览器计算的结果 是两种,所以和浏览器也有问题

js 双精度浮点数

一、怎样将一个数据转成浮点数  

二、js 的 Number

在 JavaScript 中整数和浮点数都属于 Number 数据类型,所有数字都是以 64 位浮点数形式储存,即便整数也是如此。

三、造成哪些问题?

1、小数计算精度丢失,比如 0.1+0.2 不等于 0.3

2、整数最大范围

整数是按最大54位来算最大(253 – 1,Number.MAX_SAFE_INTEGER,9007199254740991) 和最小(-(253 – 1),Number.MIN_SAFE_INTEGER,-9007199254740991) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。

四、解决办法

开源的库、bigInt、

0.1+0.2-0.3     // 5.551115123125783e-17

5.551115123125783e-17.toFixed(20)      //   ‘0.00000000000000005551’

5.551115123125783e-17Number.EPSILON*Math.pow(2,2)    // true

重新整理

回顾一个基础问题,js 中的精度丢失问题。

一、在 js 中只有双精度浮点数来存储的Number,数据存储会有三个步骤:1、十进制转二进制 2、二进制转科学技术法 3、按 IEEE754 标准存储。 

二、双精度浮点一共有 64位,64位比特又可分为三个部分:

符号位S:第 1 位是正负数符号位(sign),0代表正数,1代表负数

指数位E:中间的 11 位存储指数(exponent),用来表示次方数

尾数位M:最后的 52 位是尾数(mantissa),超出的部分自动进一舍零

三、基于以上知识,在数据小数位在进行转换二进制时,会出现无线循环的情况,而数据转成 IEEE754标准时又仅支持 52 位,所以要发生一个数据截断,也就是精度丢失。

四、常见的丢失场景,

 0.1 + 0.2 === 0.30000000000000004

parseInt(0.58*100,10)=57

(1.335).toFixed(2)

四、解决办法

math.js

bignumber.js

等库以及 es6 针对整数精度丢失的新数据类型BigInt 

javascript浮点数精度

js浮点数精度误差问题,解决方法

JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。下面就分析下为什么会有这个精度误差,以及怎样修复这个误差。

首先,我们要站在计算机的角度思考 0.1 + 0.2 这个看似小儿科的问题。我们知道,能被计算机读懂的是二进制,而不是十进制,所以我们先把 0.1 和 0.2 转换成二进制看看:

0.1 = 0.0001 1001 1001 1001…(无限循环)

0.2 = 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

原来如此,那怎么解决这个问题呢?我想要的结果就是 0.1 + 0.2 === 0.3 啊!!!

有种最简单的解决方案,就是给出明确的精度要求,在返回值的过程中,计算机会自动四舍五入,比如:

var numA = 0.1;

var numB = 0.2;

alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );

乘法运算中有这种,比如0.58*100,结果是57.99999999999999。可以用Math.round()进行处理,

——||——-

尽量避免对小数进行操作,先处理成整数后在进行操作,其结果会比较精确。

本文来自投稿,不代表【】观点,发布者:【

本文地址: ,如若转载,请注明出处!

举报投诉邮箱:253000106@qq.com

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年3月27日 17:56:07
下一篇 2024年3月27日 18:02:31

相关推荐

  • javascript如何调试,js 调试

    网页显示javascript错误..怎么解决 网页显示javascript错误的解决办法:首先打开浏览器,选择Internet选项;然后切换到安全标签页中,单击自定义级别进入;接着选择“启用”项,并点击“是”;最后退出设置即可。请多刷新几次或者把浏览器关掉再打开。 检查JavaScript代码是否有语法或逻辑错误,并进行修复。更新您的浏览器版本或更换为兼容当…

    2024年5月23日
    4400
  • 包含javascript画圆的词条

    javascript画圆参数问题 1、第三个参数是圆的半径。第四个参数代表圆周起始位置。0 PI就是起始位置。沿顺时针路线,分别是0.5 PI(正下方),1 PI和5 PI(正上方),为画饼图提供了扇形范围的依据。 2、.box{width:200px;height:200px;border-radius:50%;overflow:hidden;} 试试这个…

    2024年5月23日
    4600
  • javascript常量,js中如何定义常量

    请问while(*p!=\0)这是什么意思啊 1、p明显是个指针,while(p)就是说指针如果有指向,就执行while下的语句,如果是0,也就是null,指针没有指向任何地址,也就是空指针。*p=head-next 这个可能是是树之类的数据结构。 2、\0就是0x00,代表字符串至此结束,退出循环。 3、while( *p ) 就是判断 (*p) 的值只要…

    2024年5月23日
    4300
  • 首字母大写javascript,首字母大写英语怎么说

    javascript怎么使用字符串函数进行首字母大写 js中转换字符串小写字母为大写字母的方法有:使用toUpperCase()方法、使用toLocaleUpperCase()方法。使用toUpperCase() 方法作用:把指定字符串中的小写字母全部转换为大写字母,最后返回一个新的字符串。 截取第一个位置变成大写,然后从第一个位置截取所有。 toLower…

    2024年5月23日
    4800
  • javascript吧,javaScript基础心得体会

    JavaScript真的容易学吗? 1、JavaScript是一种轻量级的编程语言,是一门非常容易入门的语言。JavaScript语法比较简单,应用面也会非常的广,有比较好的就业市场。 2、JavaScript面向对象、函数进阶、递归及其应用、正则表达式、ES6等等JS的高级课程内容。高级课程内容相对难度会有所提升,但是只要能理解了相应的编程思维,整体掌握难…

    2024年5月23日
    3900
  • 怎样学习javascript,怎样学好javascript

    javascript基础入门 1、JavaScript最初是由网景公司的Brendan Eich在1995年创建的,最初被称为LiveScript。后来,它被重命名为JavaScript,以更好地与Sun Microsystems的Java语言相匹配。 2、如果你想快速学会 JavaScript,你可能要掌握“跳章学习”的方法。左边可以看到本教程整个结构树。…

    2024年5月23日
    3600
  • javascript判断函数存在,js判断是否有值

    请教一个JavaScript函数判断问题 1、) typeof 运算符 typeof 是一元运算符,返回结果是一个说明运算数类型的字符串。如:number,string,boolean,object,function,undefined(可用于判断变量是否存在)。 2、给函数做一个返回值,然后判断返回值就行了。 3、说明:isNaN() 函数可用于判断其参数…

    2024年5月22日
    4000
  • ipad可以编写javascript,iPad可以编写程序吗?

    苹果APP开发需要掌握哪种语言? 1、首先,要开发苹果app,必须要掌握苹果app开发工具,那就是Objective-c和c语言。在开发苹果app软件的时候,需要走以下流程。 2、Objective-C语言 Objective-C是C语言衍生出来的,继承了C语言的特性,属于面向对象的语言。Objective-C这是适用于IOS智能操作系统的APP开发语言,是…

    2024年5月22日
    4900
  • javascript验证用户名,js验证用户名与数据库中不能重复

    web中JavaScript的用户验证怎么写? 1、首先不管你是在EXCEL里检测用户存在还是在数据库里检测 始终需要ASP和JAVASCRIPT吧 假设你已经知道如何利用ASP判断EXECL或数据库是否有这个用户 ajax.asp //这个页面用于获取URL来的用户名做判断,判断数据库或EXCEL是否有用户。 2、临时按照你的要求写了一个,有什么问题可以再…

    2024年5月22日
    3900
  • javascript图形编程,js图形编辑器

    基于SVG的web页面图形绘制API介绍及编程演示 在HTML5中我们可以通过使用svg标签内联SVG,使用HTML的标签、标签、标签、标签导入SVG图像,使用CSS background属性导入SVG图像。 SVG是一种基于XML的矢量图形格式。SVG用于在Web和其他环境中显示各种图形;它允许我们编写可缩放的二维图形,并可通过CSS或JavaScript…

    2024年5月21日
    4000

发表回复

登录后才能评论



关注微信