为什么双精度数看起来比小数点后 15 位更精确?
双精度小数位
问题:
尽管文档表明双精度值有精度为 15 位小数,内部值通常表现出更高的精度。为什么会出现这种差异?
答案:
IEEE 双精度数有 53 个有效位,提供大约 15.95 位十进制精度(基于公式 log10(253))。该理论精度略大于 DBL_DIG 常量指示的 15 位十进制数字。额外的精度由额外的有效位决定。
nextafter() 函数演示给定双精度的真实精度。通过计算给定值最接近的可表示数字,可以发现双精度值通常有 16 位有效数字。
下面的程序说明了这一点:
#include <cstdio> #include <cfloat> #include <cmath> int main() { double x = 1.0/7.0; printf("FLT_RADIX = %d\n", FLT_RADIX); printf("DBL_DIG = %d\n", DBL_DIG); printf("DBL_MANT_DIG = %d\n", DBL_MANT_DIG); printf("%.17g\n%.17g\n%.17g\n", nextafter(x, 0.0), x, nextafter(x, 1.0)); }
登录后复制
输出通常显示: :
- 1.0/7.0 用大约 16 个有效位表示数字。
- 最后一个十六进制位在 0 和 1 之间交替表示连续值。
- 数学值 1.0/7.0 (0.142857142857142857) 仅以双精度近似表示。
以上是为什么双精度数看起来比小数点后 15 位更精确?的详细内容。更多信息请关注PHP中文网其他相关文章!
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章
R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前
By 尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
4 周前
By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
3 周前
By 尊渡假赌尊渡假赌尊渡假赌
击败分裂小说需要多长时间?
3 周前
By DDD
R.E.P.O.保存文件位置:在哪里以及如何保护它?
3 周前
By DDD

热工具

记事本++7.3.1
好用且免费的代码编辑器

SublimeText3汉化版
中文版,非常好用

禅工作室 13.0.1
功能强大的PHP集成开发环境

Dreamweaver CS6
视觉化网页开发工具

SublimeText3 Mac版
神级代码编辑软件(SublimeText3)