Heim > Backend-Entwicklung > Golang > Wie wirkt sich der Präzisionsverlust auf die Konvertierung von go von float64 in uint64 aus?

Wie wirkt sich der Präzisionsverlust auf die Konvertierung von go von float64 in uint64 aus?

Mary-Kate Olsen
Freigeben: 2024-12-10 14:49:16
Original
417 Leute haben es durchsucht

How Does Precision Loss Affect Go's float64 to uint64 Conversion?

Grundlegendes zur Konvertierung von Float64 in Uint64

In Go erfordert die Konvertierung von float64 in uint64 die Umwandlung von float64 in einen uint64-Datentyp aufgrund von Unterschieden in der Darstellung zu unerwartetem Verhalten führen.

Bedenken Sie Folgendes Beispiel:

package main

func main() {
    n := float64(6161047830682206209)
    println(uint64(n))
}
Nach dem Login kopieren

Die Ausgabe ist:

6161047830682206208
Nach dem Login kopieren

Dies erscheint kontraintuitiv, da wir erwarten könnten, dass der uint64-Wert mit dem float64 identisch ist. Die Diskrepanz ergibt sich aus der internen Darstellung dieser Datentypen.

Konstanten und Gleitkommazahlen

Konstanten werden in Go mit willkürlicher Genauigkeit dargestellt, Gleitkommazahlen dagegen Folgen Sie dem IEEE 754-Standard.

In IEEE 754 ist eine Gleitkommazahl mit doppelter Genauigkeit (64 Bit) reserviert 53 Bit für Ziffern. Im gegebenen Beispiel:

6161047830682206209
Nach dem Login kopieren

Die Zahl überschreitet die maximal darstellbare Zahl als 53-Bit-Ganzzahl:

2^52        : 9007199254740992
Nach dem Login kopieren

Daher kann die Konstante nicht genau als float64 dargestellt werden, und Bei der Konvertierung in a gehen Ziffern verloren uint64.

Überprüfung

Dies kann durch Drucken des ursprünglichen float64-Werts überprüft werden:

fmt.Printf("%f\n", n)
fmt.Printf("%d\n", uint64(n))
Nach dem Login kopieren

Dies wird ausgegeben:

6161047830682206208.000000
6161047830682206208
Nach dem Login kopieren

Das Problem liegt nicht in der Konvertierung selbst, sondern im Verlust der Präzision bei der ursprünglichen Zuweisung von float64 aufgrund der Einschränkungen davon Darstellung.

Beispiel mit einer gültigen Konvertierung

Für eine kleinere Zahl, die mit 53 Bits präzise dargestellt werden kann:

n := float64(7830682206209)
fmt.Printf("%f\n", n)
fmt.Printf("%d\n", uint64(n))
Nach dem Login kopieren

Die Ausgabe erfolgt be:

7830682206209.000000
7830682206209
Nach dem Login kopieren

In diesem Fall kann float64 ohne Verlust von exakt dargestellt und in ein uint64 konvertiert werden Präzision.

Das obige ist der detaillierte Inhalt vonWie wirkt sich der Präzisionsverlust auf die Konvertierung von go von float64 in uint64 aus?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Quelle:php.cn
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Neueste Artikel des Autors
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage