수치 계산의 정밀도 오류를 방지하기 위한 JavaScript 방법에 대한 자세한 설명_javascript 기술

0.1 0.2가 뭐냐고 묻는다면? 멍한 표정을 지을 수도 있겠네요, 0.1 0.2 = 0.3 아, 아직도 물어볼 게 있나요? 유치원에 다니는 아이들도 이런 소아과 질문에 답할 수 있다. 하지만 프로그래밍 언어에서 동일한 문제가 생각만큼 간단하지 않을 수도 있습니다.
믿기지 않나요? 먼저 JS의 일부를 살펴보겠습니다.

var numA = 0.1;
var numB = 0.2;
alert( (numA numB) === 0.3 );

실행 결과가 거짓입니다. 네, 처음 이 코드를 봤을 때 사실인 줄 알았는데, 실행 결과를 보니 제 여는 방법이 잘못된 걸까요? 아니, 아니. 다음 코드를 다시 실행해 보면 결과가 거짓인 이유를 알 수 있습니다.

var numA = 0.1;

var numB = 0.2
alert( numA numB );
0.1 0.2 = 0.30000000000000004로 밝혀졌습니다. 이상하지 않나요? 실제로 부동 소수점 수의 4가지 산술 연산의 경우 거의 모든 프로그래밍 언어가 비슷한 정밀도 오류 문제를 안고 있지만 C/C#/Java와 같은 언어에서는 정밀도 문제를 피하기 위해 메소드가 캡슐화되어 있으며 JavaScript는 언어는 설계 개념에서 부동 소수점 숫자에 대한 엄격한 데이터 유형을 갖지 않으므로 정밀도 오류 문제가 특히 두드러집니다. 이러한 정확도 오류가 발생하는 이유와 해결 방법을 분석해 보겠습니다.

우선 0.1 0.2라는 소아과적인 문제를 컴퓨터의 관점에서 생각해 보아야 합니다. 컴퓨터가 읽을 수 있는 것은 십진수가 아닌 이진수라는 것을 알고 있으므로 먼저 0.1과 0.2를 이진수로 변환하여 살펴보겠습니다.

0.1 => 0.0001 1001 1001 1001… (무한 루프)

0.2 => 0.0011 0011 0011 0011… (무한 루프)

배정밀도 부동 소수점 숫자의 소수 부분은 최대 52자리를 지원하므로 두 자리를 더하면 0.01001100110011001100110011001100110011001100이라는 문자열이 생성됩니다. 부동 소수점 숫자의 소수 자릿수 제한으로 인해 잘린 이진수입니다. 이때 10진수로 환산하면 0.30000000000000004가 됩니다.

그렇다면 이 문제를 어떻게 해결해야 할까요? 내가 원하는 결과는 0.1 0.2 === 0.3 아! ! !

가장 간단한 해결책은 값을 반환하는 과정에서 다음과 같이 명확한 정밀도 요구 사항을 제공하는 것입니다.

var numA = 0.1;

var numB = 0.2;

alert(parseFloat((numA numB).toFixed(2))

그러나 이것이 단번에 해결되는 방법은 아닙니다. 이러한 부동 소수점 숫자의 정밀도 문제를 해결하는 데 도움이 될 수 있는 방법이 있다면 좋을 것입니다. 이 방법을 시도해 보겠습니다.

Math.formatFloat = function(f, digit) {

var m = Math.pow(10, digit)

return parsInt(f * m, 10) /
}

var numA = 0.1;
var numB = 0.2;
alert(Math.formatFloat(numA numB, 1) === 0.3)

이 방법은 무엇을 의미하나요? 정밀도 차이를 피하기 위해서는 계산하려는 숫자에 10의 n승을 곱하고, 컴퓨터가 정확하게 인식할 수 있는 정수로 변환한 후, 10의 n승으로 나누어야 하는 방법이 가장 많습니다. 프로그래밍 언어는 정밀도 차이를 처리하므로 이를 사용하여 JS에서 부동 소수점 숫자의 정밀도 오류를 처리합니다.

다음번에 누군가가 0.1 0.2가 무엇인지 묻는다면 대답할 때 주의하세요! !