首頁 > web前端 > js教程 > javascript避免數位計算精度誤差的方法詳解_javascript技巧

javascript避免數位計算精度誤差的方法詳解_javascript技巧

WBOY
發布: 2016-05-16 16:57:06
原創
1206 人瀏覽過

如果我問你 0.1 0.2 等於幾?你可能會送我一個白眼,0.1 0.2 = 0.3 啊,那還用問嗎?連幼稚園的小朋友都會回答這麼小兒科的問題了。但你知道嗎,同樣的問題放在程式語言中,或許就不是想像中那麼簡單的事兒了。
不信?我們先來看一段 JS。

var numA = 0.1;
var numB = 0.2;
alert( (numA numB) === 0.3 );

執行結果是 false。沒錯,當我第一次看到這段程式碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的開啟方式不對嗎?非也非也。我們再執行以下程式碼試試看就知道結果為什麼是 false 了。

var numA = 0.1;
var numB = 0.2;
alert( numA numB );

原來,0.1 0.2 = 0.30000000000000004。是不是很奇葩?其實對於浮點數的四則運算,幾乎所有的程式語言都會有類似精確度誤差的問題,只不過在C /C#/Java 這些語言中已經封裝了方法來避免精確度的問題,而JavaScript 是一門弱型別的語言,從設計思想上就沒有對浮點數有嚴格的資料型,所以精確度誤差的問題就顯得格外突出。下面就分析下為什麼會有這個精度誤差,以及要怎麼修復這個誤差。

首先,我們要站在電腦的角度思考 0.1 0.2 這個看似小兒科的問題。我們知道,能被電腦讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001…(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)

雙精度浮點數的小數部分最多支援52 位,所以兩者相加之後得到這麼一串0.0100110011001100110011001100110011001100110011001100 制數就成了0.30000000000000004。

原來如此,那要怎麼解決這個問題呢?我想要的結果就是 0.1 0.2 === 0.3 啊! ! !

有種最簡單的解決方案,就是給出明確的精度要求,在回傳值的過程中,計算機會自動四捨五入,例如:

var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA numB).toFixed(2)) === 0.3 );

但明顯這不是一勞永逸的方法,如果有一個方法能幫我們解決這些浮點數的精度問題,那該有多好。讓我們來試試看下面這個方法:

Math.formatFloat = function(f, digit) {
    var m = Math.pow(10, digit);
    return parseInt(f * m, 10) / m;
>
var numA = 0.1;
var numB = 0.2;

alert(Math.formatFloat(numA numB, 1) === 0.3);

這個方法是什麼意思呢?為了避免產生精度差異,我們要把需要計算的數字乘以10 的n 次冪,換算成計算機能夠精確識別的整數,然後再除以10 的n 次冪,大部分程式語言都是這樣處理精度差異的,我們就藉用過來處理一下JS 中的浮點數精度誤差。

如果下次再有人問你 0.1 0.2 等於幾,你可要小心回答咯! !

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板