> 백엔드 개발 > Golang > Go에서 `float64`를 `int`로 변환할 때 정밀도 오류를 방지하려면 어떻게 해야 합니까?

Go에서 `float64`를 `int`로 변환할 때 정밀도 오류를 방지하려면 어떻게 해야 합니까?

Barbara Streisand
풀어 주다: 2024-12-17 02:24:25
원래의
360명이 탐색했습니다.

How Can I Avoid Precision Errors When Converting `float64` to `int` in Go?

Go에서 Float-to-Int 변환 시 정밀도 오류 방지

Go에서 float64 값을 int로 변환할 때 프로그래머는 종종 정밀도 오류에 직면합니다. . 이러한 오류는 컴퓨터의 이진수 표현의 본질적인 한계로 인해 발생합니다.

이진수 표현 이해

float64는 IEEE-754 표준을 사용하여 53을 할당하는 숫자를 나타냅니다. 숫자는 비트, 지수는 11비트입니다. 그러나 100.55와 같은 특정 숫자는 이 유한 이진 구조 내에서 정확하게 표현될 수 없습니다.

코드:

다음 코드는 문제를 보여줍니다.

package main

import "fmt"

func main() {
    x := 100.55
    fmt.Println(x - float64(int(x)))    
}
로그인 후 복사

이 코드는 예상한 값 대신 0.5499999999999972를 출력합니다. 0.55. 그 이유는 이진수 표현으로 100.55를 정확하게 저장할 수 없고 x에 저장된 결과 숫자가 약간 다르기 때문입니다.

해결책:

  1. 표시를 위한 반올림: 잘못된 출력을 방지하려면 부동 소수점 숫자를 표시하기 전에 반올림하세요. 예:

    fmt.Printf("%.2f\n", x) // Outputs: 0.55
    로그인 후 복사
  2. 계산에 정수 사용: 정밀도가 중요한 경우 계산에 정수 사용을 고려하세요. 예를 들어 달러 대신 센트로 통화를 처리하세요.

결론:

이진수 표현의 한계를 이해하고 반올림 또는 정수 기반 계산을 사용하면 문제를 완화할 수 있습니다. Go에서 float64를 int로 변환할 때 정밀도 오류가 발생합니다.

위 내용은 Go에서 `float64`를 `int`로 변환할 때 정밀도 오류를 방지하려면 어떻게 해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
저자별 최신 기사
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿