首頁 > web前端 > js教程 > JavaScript浮點數及運算精確度調整詳解

JavaScript浮點數及運算精確度調整詳解

高洛峰
發布: 2016-12-09 13:41:24
原創
1085 人瀏覽過

JavaScript 只有一種數字類型 Number,而且在Javascript中所有的數字都是以IEEE-754標準格式表示的。浮點數的精確度問題不是JavaScript特有的,因為有些小數以二進位表示位數是無限的。

十進制       二進制 
0.1              0.0001 1001 1001 1001 … 
0.2              0.0011 0011 0011 0011 … 
0.3              0.0100 1100 1100 1100 … 
0.4              0.0110 0110 0110 0110 … 
0.5              0.1 
0.6              0.1001 1001 1001 1001 … 

所以比如1.1,其程式實際上無法真正的表示'1.1′,而只能做到一定程度上的準確,這是無法避免的精度丟失:1.09999999999999999

在JavaScript中問題還要復雜些,這裡只給一些在Chrome中測資料:

console.log(1.0-0.9 == 0.1)  //false
console.log(1.0-0.8 == 0.2)  //false
console.log(1.0-0.7 == 0.3)  //false
console.log(1.0-0.6 == 0.4)  //true
console.log(1.0-0.5 == 0.5)  //true
console.log(1.0-0.4 == 0.6)  //true
console.log(1.0-0.3 == 0.7)  //true
console.log(1.0-0.2 == 0.8)  //true
console.log(1.0-0.1 == 0.9)  //true
登入後複製

   

那如何來避免這類1.0-0.9 != 0.1 的非bug型問題發生呢?下面給出一個目前用的比較多的解, 在判斷浮點運算結果前對計算結果進行精確度縮小,因為在精準度縮小的過程總會自動四捨五入:

(1.0-0.9).toFixed(digits) // toFixed() 精度参数digits须在0与20之间
console.log(parseFloat((1.0-0.9).toFixed(10)) === 0.1)  //true
console.log(parseFloat((1.0-0.8).toFixed(10)) === 0.2)  //true
console.log(parseFloat((1.0-0.7).toFixed(10)) === 0.3)  //true
console.log(parseFloat((11.0-11.8).toFixed(10)) === -0.8)  //true
登入後複製

   

寫成一個方法:

//通过isEqual工具方法判断数值是否相等
function isEqual(number1, number2, digits){
 digits = digits == undefined? 10: digits; // 默认精度为10
 return number1.toFixed(digits) === number2.toFixed(digits);
}
console.log(isEqual(1.0-0.7, 0.3)); //true
//原型扩展方式,更喜欢面向对象的风格
Number.prototype.isEqual = function(number, digits){
 digits = digits == undefined? 10: digits; // 默认精度为10
 return this.toFixed(digits) === number.toFixed(digits);
}
console.log((1.0-0.7).isEqual(0.3)); //true
登入後複製

   

接下來,再來試試浮點數的運算,

console.log(1.79+0.12) //1.9100000000000001
console.log(2.01-0.12)  //1.8899999999999997
console.log(1.01*1.3)  //1.3130000000000002
console.log(0.69/10)   //0.06899999999999999
登入後複製

   

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板