Float64 숫자를 UInt64로 올바르게 변환하는 방법
다음 Go 코드를 고려하세요.
package main func main() { var n float64 = 6161047830682206209 println(uint64(n)) }
예상되는 내용 출력은 float64 숫자를 uint64로 변환하여 값을 유지하는 것입니다. 그러나 실제 출력은 6161047830682206208로 소수 부분이 폐기되었음을 나타냅니다.
문제 이해
부동 소수점 숫자의 정밀도 제한으로 인해 불일치가 발생합니다. IEEE 754 표준을 사용하여 표현됩니다. IEEE 754에서는 64비트 부동 소수점 숫자(Go의 float64)에 숫자를 저장하기 위해 53비트가 할당됩니다. 주어진 상수에 대해 표현할 수 있는 자릿수는 상수 자체의 자릿수보다 적습니다.
따라서 float64 변수에는 상수를 정확하게 저장할 수 없으며, 일부 자릿수는 반올림되어 반올림됩니다. 잃어버린. 이는 원본 n float64 숫자를 인쇄하여 확인할 수 있습니다:
fmt.Printf("%f\n", n) fmt.Printf("%d\n", uint64(n))
올바른 변환
float64 숫자를 uint64로 올바르게 변환하려면 다음을 사용하는 것이 좋습니다. float64 숫자의 소수 부분을 자르고 정수를 반환하는 Trunc 함수 부분:
package main import "math" func main() { var n float64 = 6161047830682206209 println(uint64(math.Trunc(n))) }
이 접근 방식을 사용하면 정밀도 손실 없이 정수 값이 변환됩니다.
위 내용은 Go에서 float64를 uint64로 정확하게 변환하는 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!