Warum führt Gleitkomma-Arithmetik in C zu Präzisionsfehlern?
Nov 04, 2024 pm 01:06 PMGleitkomma-Präzision in C
In C sind Gleitkommazahlen bis zu einer bestimmten Anzahl von Dezimalstellen präzise. Es gibt jedoch Einschränkungen dieser Präzision, die zu unerwarteten Ergebnissen führen können.
Problemstellung
Beachten Sie den folgenden Codeausschnitt:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
|
Wie dargestellt, ist a etwas kleiner als 0,3, aber wenn man es mit 50 multipliziert, wird b etwas größer als 15,0. Diese Abweichung vom erwarteten Ergebnis kann auf die Einschränkungen der Gleitkommagenauigkeit zurückgeführt werden.
Lösung
Um die richtigen Ergebnisse zu erhalten, ist es wichtig, die Einstellung zu vermeiden Die Genauigkeit ist höher als die verfügbare Genauigkeit für den numerischen Typ. Der folgende überarbeitete Codeausschnitt demonstriert diesen Ansatz:
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
|
Dieser Ansatz stellt sicher, dass die Genauigkeit auf das für den Double-Datentyp maximal verfügbare Maximum eingestellt wird. Es ist wichtig zu beachten, dass der akkumulierte Fehler schließlich spürbar werden würde, wenn die Schleife für eine wesentlich größere Anzahl von Iterationen ausgeführt würde, beispielsweise 5000 statt 50, unabhängig von der Präzisionseinstellung. Dies ist eine inhärente Einschränkung der Gleitkomma-Arithmetik.
Das obige ist der detaillierte Inhalt vonWarum führt Gleitkomma-Arithmetik in C zu Präzisionsfehlern?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Heißer Artikel

Hot-Tools-Tags

Heißer Artikel

Heiße Artikel -Tags

Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6
Visuelle Webentwicklungstools

SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Heiße Themen

Welche Werte sind von C -Sprachfunktionen zurückgegeben? Was bestimmt den Rückgabewert?

C Sprachfunktionsformat -Buchstaben -Fall -Konvertierungsschritte

GULC: C -Bibliothek von Grund auf neu gebaut

Was sind die Definitionen und Aufrufregeln von C -Sprachfunktionen und was sind die?

Wo ist der Rückgabewert der C -Sprachfunktion im Speicher?

eindeutiger Gebrauch und Phrasenfreigabe

Wie funktioniert die C -Standard -Vorlagenbibliothek (STL)?

Wie benutze ich Algorithmen aus der STL (sortieren, finden, transformieren usw.) effizient?
