Wie kann ich Dezimalwerte auf eine bestimmte Anzahl von Stellen kürzen statt runden?

Schneiden Sie die Anzahl der Dezimalstellen genau ab, um Rundungen zu vermeiden

Bei der Verarbeitung numerischer Werte müssen wir manchmal Dezimalzahlen auf eine bestimmte Anzahl von Stellen kürzen, um Rundungsfehler zu vermeiden. Dies ist keine leichte Aufgabe, wie das Beispiel im Artikel zeigt: Wenn man 3,4679 auf zwei Dezimalstellen kürzt, erhalten viele Methoden das Ergebnis 3,47.

Eine zuverlässige Methode ist die mathematische Kürzung, die einfach alle Zahlen nach der angegebenen Genauigkeit entfernt. Dies kann mit der folgenden Formel erreicht werden:

<code>value = Math.Truncate(100 * value) / 100;</code>

Die Formel multipliziert zunächst den Wert mit 100 und verschiebt den Dezimalpunkt um zwei Stellen nach rechts. Verwenden Sie dann die Funktion Truncate, um den Dezimalteil abzuschneiden und alle Ziffern nach dem Dezimalpunkt zu entfernen. Teilen Sie abschließend das Ergebnis durch 100, um zur ursprünglichen Anzahl an Dezimalstellen zurückzukehren.

Mit dieser Formel kann 3,4679 auf 3,46 gekürzt werden:

<code>value = Math.Truncate(100 * 3.4679) / 100;</code>

Es ist zu beachten, dass Brüche, die durch Gleitkommazahlen wie 0,1 oder 0,2 dargestellt werden, aufgrund von Einschränkungen der Computerarithmetik möglicherweise nicht ganz genau sind. Daher müssen mögliche Genauigkeitsunterschiede bei der Arbeit mit solchen Werten mit Vorsicht betrachtet werden.

Das obige ist der detaillierte Inhalt vonWie kann ich Dezimalwerte auf eine bestimmte Anzahl von Stellen kürzen statt runden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!