国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > JavaScript > 正文

javascript避免數字計算精度誤差的方法詳解

2019-11-20 20:59:59
字體:
來源:轉載
供稿:網友

如果我問你 0.1 + 0.2 等于幾?你可能會送我一個白眼,0.1 + 0.2 = 0.3 啊,那還用問嗎?連幼兒園的小朋友都會回答這么小兒科的問題了。但是你知道嗎,同樣的問題放在編程語言中,或許就不是想象中那么簡單的事兒了。
不信?我們先來看一段 JS。

var numA = 0.1;
var numB = 0.2;
alert( (numA + numB) === 0.3 );

執行結果是 false。沒錯,當我第一次看到這段代碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的打開方式不對嗎?非也非也。我們再執行以下代碼試試就知道結果為什么是 false 了。

var numA = 0.1;
var numB = 0.2;
alert( numA + numB );

原來,0.1 + 0.2 = 0.30000000000000004。是不是很奇葩?其實對于浮點數的四則運算,幾乎所有的編程語言都會有類似精度誤差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。下面就分析下為什么會有這個精度誤差,以及怎樣修復這個誤差。

首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001…(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)

雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。

原來如此,那怎么解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!

有種最簡單的解決方案,就是給出明確的精度要求,在返回值的過程中,計算機會自動四舍五入,比如:

var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );

但是明顯這不是一勞永逸的方法,如果有一個方法能幫我們解決這些浮點數的精度問題,那該多好。我們來試試下面這個方法:

Math.formatFloat = function(f, digit) {
    var m = Math.pow(10, digit);
    return parseInt(f * m, 10) / m;
}

var numA = 0.1;
var numB = 0.2;

alert(Math.formatFloat(numA + numB, 1) === 0.3);

這個方法是什么意思呢?為了避免產生精度差異,我們要把需要計算的數字乘以 10 的 n 次冪,換算成計算機能夠精確識別的整數,然后再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差異的,我們就借用過來處理一下 JS 中的浮點數精度誤差。

如果下次再有人問你 0.1 + 0.2 等于幾,你可要小心回答咯!!

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 云南省| 镇康县| 紫金县| 平安县| 深水埗区| 郑州市| 乐平市| 化州市| 多伦县| 武义县| 韶关市| 福贡县| 雷波县| 东安县| 莲花县| 青铜峡市| 墨脱县| 许昌县| 佛教| 博乐市| 炉霍县| 巴林右旗| 黑水县| 玉溪市| 乌什县| 青州市| 合江县| 防城港市| 河间市| 杨浦区| 莲花县| 大厂| 陆良县| 海林市| 开化县| 思南县| 周至县| 蓝山县| 德清县| 诸城市| 沧州市|