Go: So überprüfen Sie den Präzisionsverlust beim Konvertieren von float64 in float32

Der PHP-Editor Baicao stellt Ihnen heute eine Lösung für ein häufiges Problem vor: wie Sie den Präzisionsverlust überprüfen können, der bei der Konvertierung von float64 in float32 auftreten kann. Bei der Konvertierung von Gleitkommazahlen kann es aufgrund der unterschiedlichen Bitanzahl zwischen den beiden Datentypen zu Präzisionsverlusten kommen. In diesem Artikel wird detailliert beschrieben, wie durch Vergleichen der Werte vor und nach der Konvertierung festgestellt werden kann, ob ein Verlust vorliegt, und es wird eine praktikable Lösung bereitgestellt, mit der Entwickler dieses Problem besser bewältigen können.

Frageninhalt

Ich habe ein Szenario, in dem ich einen Float64-Wert erhalte, ihn aber als Float32-Wert über die Leitung an einen anderen Dienst senden muss. Wir wissen, dass der empfangene Wert immer in einen float32 passen sollte. Sicherheitshalber möchte ich jedoch protokollieren, dass wir durch die Konvertierung in float32 Daten verlieren.

Dieser Codeblock lässt sich nicht kompilieren , da Sie float32 nicht direkt mit float64 vergleichen können.

func convert(input float64) (output float32, err error) {
    const tolerance = 0.001
    output = float32(input)
    if output > input+tolerance || output < input-tolerance {
        return 0, errors.New("lost too much precision")
    }
    return output, nil
}

Gibt es eine einfache Möglichkeit zu überprüfen, ob bei mir dieses Problem auftritt? Diese Überprüfung erfolgt häufig, daher möchte ich die String-Konvertierung vermeiden.

Problemumgehung

Sie können float32 值转换回 float64 nur zur Überprüfung verwenden.

Um zu überprüfen, ob der konvertierte Wert denselben Wert darstellt, vergleichen Sie ihn einfach mit dem ursprünglichen Wert (Eingabe). Nur Zurückgeben ok bool 信息（而不是 error) ist auch ausreichend/idiomatisch:

func convert(input float64) (output float32, ok bool) {
    output = float32(input)
    ok = float64(output) == input
    return
}

(Hinweis: Randfälle wie nan werden nicht geprüft.)

Testen Sie es:

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

Ausgabe (versuchen Sie es auf Go Playground):

1 true
1.5 true
0.12345679 false
3.4028235e+38 true

Beachten Sie, dass dies normalerweise ok = false 结果，因为 float32 的精度小于 float64 ergibt, auch wenn der konvertierte Wert möglicherweise sehr nahe an der Eingabe liegt.

In der Praxis wäre es also sinnvoller, die Differenz der umgerechneten Werte zu überprüfen. Ihre vorgeschlagene Lösung prüft den absoluten Unterschied, was nicht sehr nützlich ist: z. B. 1000000.1 和 1000000 是非常接近的数字，即使差异是 0.1。 0.0001 和 0.00011 的差异要小得多：0.00001, aber der Unterschied ist im Vergleich zu den Zahlen viel größer.

Sie sollten also den relativen Unterschied überprüfen, zum Beispiel:

func convert(input float64) (output float32, ok bool) {
    const maxreldiff = 1e-8

    output = float32(input)
    diff := math.abs(float64(output) - input)
    ok = diff <= math.abs(input)*maxreldiff

    return
}

Testen Sie es:

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

Ausgabe (versuchen Sie es auf Go Playground):

1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true

Das obige ist der detaillierte Inhalt vonGo: So überprüfen Sie den Präzisionsverlust beim Konvertieren von float64 in float32. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!