JS 부동 소수점 수 연산 처리에 대한 자세한 설명(그래픽 튜토리얼)

이 글은 주로 JS-부동소수점 연산 처리에 대해 소개하고 참고용으로 올려드립니다. 관심 있는 친구들은 그것을 참고할 수 있습니다.

1. 문제 설명

최근 프로젝트를 진행 중입니다. 페이지에 JS 부동 소수점 연산에 몇 가지 버그가 있는 것을 발견했습니다. 예:

0.1+0.2 == 0.30000000000000004
 
0.1 + 0.7 == 0.7999999999999999
 
7*0.8 == 5.6000000000000005
 
5.6/7 == 0.7999999999999999

2. 해결 방법

JS 작업 후 약간의 오류가 발생합니다. .Net이나 Java만큼 정확하지는 않지만 JS의 초점이 작업에 맞춰져 있지 않은 경우가 있습니다. 생각해 보면 아마도 두 가지 해결책이 있을 것입니다.

옵션 1:

작업 결과는 일반적으로 소수점 이하 2~3자리를 유지합니다. 정확도 요구사항은 그리 높지 않습니다. 그러니 소수점 이하 2자리만 찍으세요.

B. 옵션 2:

소수점 이하 자릿수를 정수 연산으로 변환합니다. 예:

0.1+0.2 =》　(1+2)/10 == 0.3
 
0.1 + 0.7 =》 (1+7)/10 == 0.8
 
7*0.8 == (7*8)/10 == 5.6
 
5.6/7 == (56/7)/10 == 0.1

예를 들어, 다음 JSMath 라이브러리를 추출할 수 있습니다. , JSMath Heavy 덧셈, 뺄셈, 곱셈, 나눗셈을 작성합니다. 매개변수는 먼저 정수로 변환된 후 JSMath(매개변수 1)에서 연산됩니다(매개변수 2)

매개변수 1과 매개변수 2는 각각 첫 번째 숫자와 두 번째 숫자입니다. 작업 수 계산 후 Value 속성이 값을 가져옵니다.

 (function() {
 
  var JSMath = function() {
    return this;
  }
 
  JSMath.prototype.from = function(value) {
 
    // 支持JSMath参数传递主要是用于嵌套的调用
    if ((typeof(value) == 'object') && (value.value != undefined)) {
      this.value = value.value;
    } else {
      this.value = value;
    }
    return this;
  }
 
　 // 加法
  JSMath.prototype.add = function(value) {
    var thisValueString = this.value.toString();
    var valueString = value.toString();
    var timesCount1 = 0;
    var timesCount2 = 0;
    if (thisValueString.indexOf('.') > 0) {
      timesCount1 = thisValueString.split('.')[1].length;
    }
    if (valueString.indexOf('.') > 0) {
      timesCount2 = valueString.split('.')[1].length;
    }
    var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
    this.value = (Math.pow(10, maxtimeCount) * this.value + Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount);
    return this;
  }
　　　
　// 减法
  JSMath.prototype.sub = function(value) {
    var thisValueString = this.value.toString();
    var valueString = value.toString();
    var timesCount1 = 0;
    var timesCount2 = 0;
    if (thisValueString.indexOf('.') > 0) {
      timesCount1 = thisValueString.split('.')[1].length;
    }
    if (valueString.indexOf('.') > 0) {
      timesCount2 = valueString.split('.')[1].length;
    }
    var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
    this.value = (Math.pow(10, maxtimeCount) * this.value - Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount);
    return this;
  }
 
  // 除法　　
  JSMath.prototype.p = function(value) {
    var thisValueString = this.value.toString();
    var valueString = value.toString();
    var timesCount1 = 0;
    var timesCount2 = 0;
    if (thisValueString.indexOf('.') > 0) {
      timesCount1 = thisValueString.split('.')[1].length;
    }
    if (valueString.indexOf('.') > 0) {
      timesCount2 = valueString.split('.')[1].length;
    }
    var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
    this.value = ((Math.pow(10, maxtimeCount) * this.value) / (Math.pow(10, maxtimeCount) * value));
    return this;
  }
 
　 // 乘法
  JSMath.prototype.times = function(value) {
 
    var thisValueString = this.value.toString();
    var valueString = value.toString();
    var timesCount1 = 0;
    var timesCount2 = 0;
    if (thisValueString.indexOf('.') > 0) {
      timesCount1 = thisValueString.split('.')[1].length;
    }
    if (valueString.indexOf('.') > 0) {
      timesCount2 = valueString.split('.')[1].length;
    }
    var maxtimeCount = timesCount1 > timesCount2 ? timesCount1 : timesCount2;
    this.value = (Math.pow(10, maxtimeCount) * this.value * Math.pow(10, maxtimeCount) * value) / Math.pow(10, maxtimeCount * 2);
    return this;
  }
 
  if (window.JSMath == undefined) {
    window.JSMath = function(value) {
      var result = new JSMath();
      result.from(value);
      return result;
    }
  }
})()

B1.기본 작업

  0.1+0.2
=> JSMath(0.1).add(0.2).value == 0.3
 
7+0.8
=> JSMath(7).times(0.8).value == 5.6
 
5.6/7
=> JSMath(5.6).p(7).value = 0.8

B2. 다중 개체 작업

  0.05 + 0.05 + 0.2
=> JSMath(JSMath(0.05).add(0.05)).add(0.2).value == 0.3
 
(5+0.6)/7
=> JSMath(JSMath(5).add(0.6)).p(7).value == 0.8

위 내용은 제가 편집한 내용입니다. 도움이 되는 미래에는 당신.

관련 기사:

JS익명 자체 실행 기능 개념 및 사용 지침

p5.js 마우스 상호 작용 구현 및 사용 방법

JS 데이터 구문 분석 기술 요약

위 내용은 JS 부동 소수점 수 연산 처리에 대한 자세한 설명(그래픽 튜토리얼)의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!