> 백엔드 개발 > C++ > 본문

부동 소수점 계산 결과가 2.0이 아닌 1.9999999999999996이 되는 이유는 무엇입니까?

Susan Sarandon
풀어 주다: 2024-11-15 01:09:02
원래의
843명이 탐색했습니다.

Why Does a Floating-Point Calculation Result in 1.9999999999999996 Instead of 2.0?

부동 소수점 표현의 정확도 불일치 처리

부동 소수점 숫자로 작업할 때 내부 표현으로 인한 정밀도 제한으로 인해 다음이 발생할 수 있습니다. 예상치 못한 결과. 다음 문제를 고려하십시오.

프로그램에서 mw라는 변수는 이 값을 가진 문자열을 double로 변환하여 얻은 값 4.6으로 초기화됩니다. 그러나 열 수를 결정하기 위해 계산에 사용하면 결과는 예상되는 2.0 대신 1.9999999999999996으로 나타납니다.

이러한 불일치는 부동 소수점 숫자의 내부 표현이 근사치이기 때문에 발생합니다. 이 경우 4.6은 정확하게 float로 저장될 수 없으므로 4.5999999999999996이라는 약간 다른 값이 계산에 사용됩니다.

이 문제를 해결하려면 Floating과의 엄격한 동등 비교를 인식하는 것이 중요합니다. 포인트 숫자는 신뢰할 수 없습니다. 대신, 허용 가능한 값의 범위를 사용하여 결과가 예상 결과에 충분히 가까운지 확인하는 것이 좋습니다.

또한 일부 값은 부동 소수점 숫자로 정확하게 표현할 수 없다는 점에 유의하세요. 자세한 내용은 "모든 컴퓨터 과학자가 부동 소수점 산술에 대해 알아야 할 사항" 및 "부동 소수점 숫자 비교"와 같은 포괄적인 리소스를 참조하세요. 이러한 제한 사항을 이해하고 적절한 기술을 적용하면 부동 소수점 숫자로 작업할 때 정확성 문제를 완화할 수 있습니다.

위 내용은 부동 소수점 계산 결과가 2.0이 아닌 1.9999999999999996이 되는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
저자별 최신 기사
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿