Go에서 Float-to-Int 변환 시 정밀도 오류 방지
Go에서 float64 값을 int로 변환할 때 프로그래머는 종종 정밀도 오류에 직면합니다. . 이러한 오류는 컴퓨터의 이진수 표현의 본질적인 한계로 인해 발생합니다.
이진수 표현 이해
float64는 IEEE-754 표준을 사용하여 53을 할당하는 숫자를 나타냅니다. 숫자는 비트, 지수는 11비트입니다. 그러나 100.55와 같은 특정 숫자는 이 유한 이진 구조 내에서 정확하게 표현될 수 없습니다.
코드:
다음 코드는 문제를 보여줍니다.
package main import "fmt" func main() { x := 100.55 fmt.Println(x - float64(int(x))) }
이 코드는 예상한 값 대신 0.5499999999999972를 출력합니다. 0.55. 그 이유는 이진수 표현으로 100.55를 정확하게 저장할 수 없고 x에 저장된 결과 숫자가 약간 다르기 때문입니다.
해결책:
표시를 위한 반올림: 잘못된 출력을 방지하려면 부동 소수점 숫자를 표시하기 전에 반올림하세요. 예:
fmt.Printf("%.2f\n", x) // Outputs: 0.55
결론:
이진수 표현의 한계를 이해하고 반올림 또는 정수 기반 계산을 사용하면 문제를 완화할 수 있습니다. Go에서 float64를 int로 변환할 때 정밀도 오류가 발생합니다.
위 내용은 Go에서 `float64`를 `int`로 변환할 때 정밀도 오류를 방지하려면 어떻게 해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!