Javascript 浮動小数点演算の問題分析と解決策_JavaScript スキル

10 進法 0.0100 1100 1100 1100 ...
0.4 0.0110 0110 0110 0110 ...
0.5 0.1
0.6 0.1001 1001 1001 1001...
たとえば、 .1、プログラム実際には「1.1」を表すことはできませんが、ある程度の精度しか達成できません。これは避けられない精度の損失:

1.09999999999999999
JavaScript では問題はさらに複雑です。ここでは Chrome でのテスト データをいくつか示します。

入力

1.0-0.9 == 0.1 False
1.0-0.8 == 0.2 False

1.0-0.7 == 0.3 False

1.0-0.6 == 0.4 True
1.0- 0.5 == 0.5 真
1.0-0.4 == 0.6 真
1.0-0.3 == 0.7 真
1.0-0.2 == 0.8 真
1.0-0.1 == 0.9 真
解
では、1.0-0.9 != 0.1 でこのようなバグ以外の問題を回避するにはどうすればよいでしょうか?以下は一般的に使用される解決策です。精度削減プロセスは常に自動的に丸められるため、浮動小数点演算の結果を判断する前に計算結果の精度が削減されます。 code


コードは次のとおりです:

(1.0-0.9).toFixed(数字) 。 parseFloat((1.0-0.9).toFixed() の間10)) === 0.1 // 結果は TrueparseFloat((1.0-0.8).toFixed(10)) === 0.2 // 結果は TrueparseFloat((1.0-0.7). toFixed(10)) === 0.3 // 結果は TrueparseFloat((11.0-11.8).toFixed(10)) === -0.8 // 結果 True

コードをコピーします


コードは次のとおりです:

// isEqual ツールメソッドを使用すると、値は等しくなります。メソッド

function isEqual(number1,number2,digits){digits =digits == unnamed? // デフォルトの精度は 10returnnumber1; .toFixed(数字) ===number2.toFixed(数字);} isEqual(1.0-0.7, 0.3) // true を返します

// ネイティブ拡張メソッド。オブジェクト指向スタイルを優先します。

Number.prototype.isEqual = function(number, Digits){
数字 = 数字 == 未定義? // デフォルトの精度は次のとおりです。 10
return this.toFixed(数字) === 数値.toFixed(数字);
}

(1.0-0.7).isEqual(0.3) // true を返します