国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > JavaScript > 正文

Javascript中toFixed計算錯誤(依賴銀行家舍入法的缺陷)解決方法

2019-11-19 15:43:06
字體:
來源:轉載
供稿:網友

前言

在公司項目中涉及到一個有大量浮點數價格計算的模塊,從而引發了我一系列的思考:

計算機二進制環境下浮點數的計算精度缺失問題;

console.log(.1+.2);0.30000000000000004

為了解決上述問題,使用了toFixed方法卻出現了浮點數小數位以5結尾的四舍五入錯誤問題;

var num = 0.045;console.log(num.toFixed(2));0.04

以此為起點,引發了我關于toFixed的一系列探索,終于找到了一些有用的信息,toFixed使用的計算規則是:

銀行家舍入:所謂銀行家舍入法,其實質是一種四舍六入五取偶(又稱四舍六入五留雙)法。

簡單來說就是:四舍六入五考慮,五后非零就進一,五后為零看奇偶,五前為偶應舍去,五前為奇要進一。

正文

下面我們就來證實這個所謂的銀行家舍入法,證實分為三種情況,分別以4、5、6為舍入位對toFixed的證實(以chrome為例):

以4為舍入位:

var num = 0.004;console.log(num.toFixed(2));0.00var num = 0.014;console.log(num.toFixed(2));0.01var num = 0.094;console.log(num.toFixed(2));0.09

在4結尾這種情況下toFixed表現的還算不錯,并沒有錯誤的問題。

以6為舍入位:

var num = 0.006;console.log(num.toFixed(2));0.01var num = 0.016;console.log(num.toFixed(2));0.02var num = 0.096;console.log(num.toFixed(2));0.10

以6結尾這種情況下toFixed表現的也不錯,并沒有錯誤的問題。

以5為舍入位:

5后非零:

var num = 0.0051;console.log(num.toFixed(2));0.01var num = 0.0052;console.log(num.toFixed(2));0.01var num = 0.0059;console.log(num.toFixed(2));0.01

根據規則,五后非零就進一,我們證實并沒有任何的問題。

以5為舍入位:

5后為零: 由于這種情況比較特殊,是toFixed方法出現計算錯誤的情況,所以我進行了大量的證實,且分別在常見的主流瀏覽器下進行了測試:

以如下測試用例為例:

var num = 0.005;console.log(num.toFixed(2));var num = 0.015;console.log(num.toFixed(2));var num = 0.025;console.log(num.toFixed(2));var num = 0.035;console.log(num.toFixed(2));var num = 0.045;console.log(num.toFixed(2));var num = 0.055;console.log(num.toFixed(2));var num = 0.065;console.log(num.toFixed(2));var num = 0.075;console.log(num.toFixed(2));var num = 0.085;console.log(num.toFixed(2));var num = 0.095;console.log(num.toFixed(2));

chrome、firefox、safari、opera的結果如下:

0.01
0.01
0.03
0.04
0.04
0.06
0.07
0.07
0.09
0.10

ie11結果如下:

0.01
0.02
0.03
0.04
0.05
0.06
0.07
0.08
0.09
0.10

可以看出Ie11下正常,其余瀏覽器下均出現錯誤。雖然并不完全符合銀行家舍入法的規則,我認為是由于二進制下浮點數的坑導致了不完全符合該規則。

總而言之:不論引入toFixed解決浮點數計算精度缺失的問題也好,它有沒有使用銀行家舍入法也罷,都是為了解決精度的問題,但是又離不開二進制浮點數的環境,但至少他幫助我們找到了問題所在,從而讓我們有解決方法。

解決方法

下面我提供一種通過重寫toFixed的方法:

 Number.prototype.toFixed = function(length)    {      var carry = 0; //存放進位標志      var num,multiple; //num為原浮點數放大multiple倍后的數,multiple為10的length次方      var str = this + ''; //將調用該方法的數字轉為字符串      var dot = str.indexOf("."); //找到小數點的位置      if(str.substr(dot+length+1,1)>=5) carry=1; //找到要進行舍入的數的位置,手動判斷是否大于等于5,滿足條件進位標志置為1      multiple = Math.pow(10,length); //設置浮點數要擴大的倍數      num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有數,然后加上我們的手動進位數      var result = num/multiple + ''; //將進位后的整數再縮小為原浮點數      /*      * 處理進位后無小數      */      dot = result.indexOf(".");      if(dot < 0){        result += '.';        dot = result.indexOf(".");      }      /*      * 處理多次進位      */      var len = result.length - (dot+1);      if(len < length){        for(var i = 0; i < length - len; i++){          result += 0;        }      }      return result;    }

該方法的大致思路是首先找到舍入位,判斷該位置是否大于等于5,條件成立手動進一位,然后通過參數大小將原浮點數放大10的參數指數倍,然后再將包括舍入位后的位數利用floor全部去掉,根據我們之前的手動進位來確定是否進位。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持武林網。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 文登市| 石楼县| 临夏县| 惠州市| 道真| 萍乡市| 项城市| 白城市| 临漳县| 百色市| 新绛县| 乐东| 新乡市| 株洲市| 南郑县| 延寿县| 安吉县| 伊川县| 会理县| 千阳县| 镇安县| 合作市| 时尚| 新晃| 彭山县| 亳州市| 黔西| 会同县| 文成县| 平顺县| 西华县| 湖南省| 宜城市| 山丹县| 江北区| 耒阳市| 巴塘县| 张北县| 大足县| 井陉县| 密云县|