반올림 오류 없이 Double에서 소수 자릿수를 정확하게 이동하는 방법은 무엇입니까?
Nov 28, 2024 am 12:15 AM반올림 오류 없이 Double에서 소수점 자리 이동하는 방법
Double에서 소수점 자리를 이동하려면 본능적으로 0.1을 곱할 수도 있습니다. 그러나 0.1은 이진수로 정확하게 표현되지 않기 때문에 반올림 오류가 발생할 수 있습니다.
더 정확한 방법
0.1을 사용하는 대신 정확하게 표현할 수 있는 100을 사용하는 것이 좋습니다. 바이너리로. 소수점 자리를 옮기려면 100으로 나누면 됩니다.
double x = 1234; x /= 100;
반올림이 불가피한 이유
이 접근 방식을 사용하더라도 부동 소수점의 한계로 인해 일부 반올림 오류가 여전히 존재합니다. 대표. Double.toString()은 일부 반올림을 수행하지만 반올림을 모두 피하려면 BigDecimal을 사용해야 하는 경우가 많습니다.
x/100과 x * 0.01의 비교
x/100과 x * 0.01은 그렇지 않습니다. 반올림 오류 측면에서 동일합니다. 첫 번째 표현식의 반올림 오류는 x 값에 따라 달라지지만 두 번째 표현식의 0.01은 고정된 반올림 오류를 갖습니다. 이는 특정 경우에 다른 결과를 초래할 수 있습니다.
결론
부동 소수점 표현의 한계를 이해하고 적절한 기술을 사용하면 복식에서 소수 자릿수를 정확하게 처리하고 반올림 오류를 최소화할 수 있습니다. 부정확한 곱셈 연산으로 인해 발생합니다.
위 내용은 반올림 오류 없이 Double에서 소수 자릿수를 정확하게 이동하는 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

인기 기사

인기 기사

뜨거운 기사 태그

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

SublimeText3 중국어 버전
중국어 버전, 사용하기 매우 쉽습니다.

스튜디오 13.0.1 보내기
강력한 PHP 통합 개발 환경

드림위버 CS6
시각적 웹 개발 도구

SublimeText3 Mac 버전
신 수준의 코드 편집 소프트웨어(SublimeText3)

뜨거운 주제











Java의 클래스로드 메커니즘은 다른 클래스 로더 및 대표 모델을 포함하여 어떻게 작동합니까?

2025 년 상위 4 개의 JavaScript 프레임 워크 : React, Angular, Vue, Svelte

고급 Java 프로젝트 관리, 구축 자동화 및 종속성 해상도에 Maven 또는 Gradle을 어떻게 사용합니까?

캐싱 및 게으른 하중과 같은 고급 기능을 사용하여 객체 관계 매핑에 JPA (Java Persistence API)를 어떻게 사용하려면 어떻게해야합니까?

Spring Boot Snakeyaml 2.0 CVE-2022-1471 문제 고정
