Ganzzahldivision ergibt überraschende Null in Doppelvariable
Beim Versuch, eine einfache Division (3/5) zu berechnen, kann es zu unerwarteten Ergebnissen kommen . Obwohl das Ergebnis in einer Variablen mit doppelter Genauigkeit gespeichert wird, kann es vorkommen, dass das Ergebnis unregelmäßig als Null angezeigt wird. Um dieses Rätsel zu lösen, untersuchen wir den zugrunde liegenden Mechanismus:
Im bereitgestellten Codeausschnitt sind sowohl der Dividend (3) als auch der Divisor (5) ganze Zahlen. Standardmäßig interpretiert C diese Division als Ganzzahldivision, die das Ergebnis abrundet und den Bruchteil verwirft. In diesem Fall ergibt 3 geteilt durch 5 0, wie bei einer ganzzahligen Division erwartet.
Um dieses Problem zu beheben und die gewünschte Gleitkommadivision zu erhalten, müssen wir sicherstellen, dass mindestens einer der Operanden als dargestellt wird eine reelle Zahl. Dies kann erreicht werden, indem „.0“ entweder an den Divisor oder den Dividenden angehängt wird:
double f = 3.0 / 5; // Explicitly making the dividend a real number // or double f = 3 / 5.0; // Explicitly making the divisor a real number
Indem wir einen der Operanden in eine reelle Zahl konvertieren, zwingen wir den Compiler, eine Gleitkommadivision durchzuführen. Dadurch wird sichergestellt, dass der Bruchteil erhalten bleibt und das korrekte Ergebnis (in diesem Fall 0,6) in der f-Variablen gespeichert wird.
Das obige ist der detaillierte Inhalt vonWarum führt die Ganzzahldivision in C zu Null, wenn sie in einer Double-Variablen gespeichert wird?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!