浮點比較難題
考慮以下C 碼:
int main() { float a = 0.7; float b = 0.5; if (a < 0.7) { if (b < 0.5) printf("2 are right"); else printf("1 is right"); } else printf("0 are right"); }
您直觀地期望輸出為是「 0是對的」。然而,令人驚訝的結果是“1是正確的”。為什麼會出現這種情況?
浮點比較的陷阱
關鍵在於C中浮點數和雙精確度數的差異。程式碼中,變數a和b被宣告為float,即32位元浮點數。然而,這兩個比較(a
在比較期間,浮點變數被提升為雙精度數,從而允許更高的範圍和精度。然而,由於浮點數的精度有限,這種轉換可能會引入微妙的偽影。在這種情況下,浮點數 0.7 並不完全等於雙精確度數 0.7。
具體來說,浮點數 0.7 在 IEEE 754 標準中表示為 0x3f000000。當提升為雙精度時,該值並不是 0.7 的精確表示。相反,它會變得稍大一些,大約為 0x3f00000000000000(大約 0.7000000000000001)。
意外結果的原因
由於此促銷,條件 a
0.7 變為 true,因為 a 的雙重表示略小於 0.7。隨後,第二次比較b<0。 0.5 的計算結果為 false,因為 b(精確表示為雙精度型)等於 0.5。因此,程式碼列印「1 是正確的。」解決方案
要解決此問題,您可以:以上是為什麼在 C 中比較浮點數和雙精確度文字會產生意外的結果?的詳細內容。更多資訊請關注PHP中文網其他相關文章!