부동 소수점 표현의 정확도 불일치 처리
부동 소수점 숫자로 작업할 때 내부 표현으로 인한 정밀도 제한으로 인해 다음이 발생할 수 있습니다. 예상치 못한 결과. 다음 문제를 고려하십시오.
프로그램에서 mw라는 변수는 이 값을 가진 문자열을 double로 변환하여 얻은 값 4.6으로 초기화됩니다. 그러나 열 수를 결정하기 위해 계산에 사용하면 결과는 예상되는 2.0 대신 1.9999999999999996으로 나타납니다.
이러한 불일치는 부동 소수점 숫자의 내부 표현이 근사치이기 때문에 발생합니다. 이 경우 4.6은 정확하게 float로 저장될 수 없으므로 4.5999999999999996이라는 약간 다른 값이 계산에 사용됩니다.
이 문제를 해결하려면 Floating과의 엄격한 동등 비교를 인식하는 것이 중요합니다. 포인트 숫자는 신뢰할 수 없습니다. 대신, 허용 가능한 값의 범위를 사용하여 결과가 예상 결과에 충분히 가까운지 확인하는 것이 좋습니다.
또한 일부 값은 부동 소수점 숫자로 정확하게 표현할 수 없다는 점에 유의하세요. 자세한 내용은 "모든 컴퓨터 과학자가 부동 소수점 산술에 대해 알아야 할 사항" 및 "부동 소수점 숫자 비교"와 같은 포괄적인 리소스를 참조하세요. 이러한 제한 사항을 이해하고 적절한 기술을 적용하면 부동 소수점 숫자로 작업할 때 정확성 문제를 완화할 수 있습니다.
위 내용은 부동 소수점 계산 결과가 2.0이 아닌 1.9999999999999996이 되는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!