首頁 web前端 js教程 javascript避免數位計算精度誤差的方法詳解_javascript技巧

javascript避免數位計算精度誤差的方法詳解_javascript技巧

May 16, 2016 pm 04:57 PM
javascript 精確度

如果我問你 0.1 0.2 等於幾?你可能會送我一個白眼,0.1 0.2 = 0.3 啊,那還用問嗎?連幼稚園的小朋友都會回答這麼小兒科的問題了。但你知道嗎,同樣的問題放在程式語言中,或許就不是想像中那麼簡單的事兒了。
不信?我們先來看一段 JS。

var numA = 0.1;
var numB = 0.2;
alert( (numA numB) === 0.3 );

執行結果是 false。沒錯,當我第一次看到這段程式碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的開啟方式不對嗎?非也非也。我們再執行以下程式碼試試看就知道結果為什麼是 false 了。

var numA = 0.1;
var numB = 0.2;
alert( numA numB );

原來,0.1 0.2 = 0.30000000000000004。是不是很奇葩?其實對於浮點數的四則運算,幾乎所有的程式語言都會有類似精確度誤差的問題,只不過在C /C#/Java 這些語言中已經封裝了方法來避免精確度的問題,而JavaScript 是一門弱型別的語言,從設計思想上就沒有對浮點數有嚴格的資料型,所以精確度誤差的問題就顯得格外突出。下面就分析下為什麼會有這個精度誤差,以及要怎麼修復這個誤差。

首先,我們要站在電腦的角度思考 0.1 0.2 這個看似小兒科的問題。我們知道,能被電腦讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001…(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)

雙精度浮點數的小數部分最多支援52 位,所以兩者相加之後得到這麼一串0.0100110011001100110011001100110011001100110011001100 制數就成了0.30000000000000004。

原來如此,那要怎麼解決這個問題呢?我想要的結果就是 0.1 0.2 === 0.3 啊! ! !

有種最簡單的解決方案,就是給出明確的精度要求,在回傳值的過程中,計算機會自動四捨五入,例如:

var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA numB).toFixed(2)) === 0.3 );

但明顯這不是一勞永逸的方法,如果有一個方法能幫我們解決這些浮點數的精度問題,那該有多好。讓我們來試試看下面這個方法:

Math.formatFloat = function(f, digit) {
    var m = Math.pow(10, digit);
    return parseInt(f * m, 10) / m;
>
var numA = 0.1;
var numB = 0.2;

alert(Math.formatFloat(numA numB, 1) === 0.3);

這個方法是什麼意思呢?為了避免產生精度差異,我們要把需要計算的數字乘以10 的n 次冪,換算成計算機能夠精確識別的整數,然後再除以10 的n 次冪,大部分程式語言都是這樣處理精度差異的,我們就藉用過來處理一下JS 中的浮點數精度誤差。

如果下次再有人問你 0.1 0.2 等於幾,你可要小心回答咯! !

本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前 By 尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
4 週前 By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前 By 尊渡假赌尊渡假赌尊渡假赌

熱工具

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

SublimeText3 Mac版

SublimeText3 Mac版

神級程式碼編輯軟體(SublimeText3)

如何使用WebSocket和JavaScript實現線上語音辨識系統 如何使用WebSocket和JavaScript實現線上語音辨識系統 Dec 17, 2023 pm 02:54 PM

如何使用WebSocket和JavaScript實現線上語音辨識系統

WebSocket與JavaScript:實現即時監控系統的關鍵技術 WebSocket與JavaScript:實現即時監控系統的關鍵技術 Dec 17, 2023 pm 05:30 PM

WebSocket與JavaScript:實現即時監控系統的關鍵技術

如何使用WebSocket和JavaScript實現線上預約系統 如何使用WebSocket和JavaScript實現線上預約系統 Dec 17, 2023 am 09:39 AM

如何使用WebSocket和JavaScript實現線上預約系統

PHP浮點數計算誤差原因及避免策略 PHP浮點數計算誤差原因及避免策略 Feb 27, 2024 pm 06:33 PM

PHP浮點數計算誤差原因及避免策略

如何利用JavaScript和WebSocket實現即時線上點餐系統 如何利用JavaScript和WebSocket實現即時線上點餐系統 Dec 17, 2023 pm 12:09 PM

如何利用JavaScript和WebSocket實現即時線上點餐系統

簡易JavaScript教學:取得HTTP狀態碼的方法 簡易JavaScript教學:取得HTTP狀態碼的方法 Jan 05, 2024 pm 06:08 PM

簡易JavaScript教學:取得HTTP狀態碼的方法

JavaScript與WebSocket:打造高效率的即時天氣預報系統 JavaScript與WebSocket:打造高效率的即時天氣預報系統 Dec 17, 2023 pm 05:13 PM

JavaScript與WebSocket:打造高效率的即時天氣預報系統

如何在JavaScript中取得HTTP狀態碼的簡單方法 如何在JavaScript中取得HTTP狀態碼的簡單方法 Jan 05, 2024 pm 01:37 PM

如何在JavaScript中取得HTTP狀態碼的簡單方法

See all articles