倍精度数値が小数点以下 15 桁よりも正確に見えるのはなぜですか?
Nov 30, 2024 pm 06:04 PM倍精度の小数点以下の桁数
質問:
倍精度の値が小数点以下 15 桁の精度ですが、多くの場合、内部値はより高い精度を示します。この矛盾はなぜ観察されるのでしょうか?
答え:
IEEE double には 53 の有効ビットがあり、約 15.95 桁の 10 進精度を提供します (式 log10(253))。この理論上の精度は、DBL_DIG 定数で示される 10 進数 15 桁よりわずかに大きくなります。追加の精度は、追加の有効ビットによって説明されます。
nextafter() 関数は、指定された double の真の精度を示します。指定された値に最も近い表現可能な数値を計算すると、倍精度値には通常 16 桁の有効数字があることがわかります。これを示すプログラムは次のとおりです。1 2 3 4 5 6 7 8 9 10 11 |
|
- 1.0/7.0 は約 16 の有効桁数で表されます
- 連続する値の場合、最後の 16 進ビットは 0 と 1 の間で切り替わります。
- 1.0/7.0 (0.142857142857142857) の数学的値は、ほぼ倍精度でのみ表されます。
以上が倍精度数値が小数点以下 15 桁よりも正確に見えるのはなぜですか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

人気の記事

人気の記事

ホットな記事タグ

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











C言語関数によって返される値の種類は何ですか?返品値を決定するものは何ですか?

STL(ソート、検索、変換など)のアルゴリズムを効率的に使用するにはどうすればよいですか?
