首页 > 后端开发 > C++ > 如何在 C# 中准确格式化双精度数以匹配指定的精度?

如何在 C# 中准确格式化双精度数以匹配指定的精度?

Barbara Streisand
发布: 2025-01-04 11:40:34
原创
1006 人浏览过

How Can I Accurately Format Doubles in C# to Match Specified Precision?

在 C 中格式化双精度数以进行输出

在 C# 中,格式化双精度数的默认行为是在应用指定精度之前将值四舍五入到 15 位有效十进制数字。这可能会导致意外的结果,尤其是在处理精度差异较小的值时。

要准确格式化双精度数并确保遵循所请求的精度,可以使用 Jon Skeet 提供的 DoubleConverter 类。此类中的 ToExactString() 方法返回双精度型的精确十进制值。要合并到指定精度,可以按如下方式修改该方法:

public static string ToRoundedExactString(double value, int precision)
{
    string exactString = ToExactString(value);
    int decimalIndex = exactString.IndexOf('.');
    if (decimalIndex == -1)
    {
        return exactString;
    }

    int decimalCount = exactString.Length - (decimalIndex + 1);
    if (decimalCount > precision)
    {
        exactString = exactString.Substring(0, decimalIndex + 1 + precision);
        double roundedValue = Double.Parse(exactString);
        return roundedValue.ToString();
    }
    else
    {
        return exactString;
    }
}
登录后复制

使用此修改后的方法,以下代码将生成与格式说明符中指定的精度匹配的输出:

double i = 10 * 0.69;
Console.WriteLine(DoubleConverter.ToRoundedExactString(i, 20));
Console.WriteLine(DoubleConverter.ToRoundedExactString(6.9 - i, 20));
Console.WriteLine(DoubleConverter.ToRoundedExactString(6.9, 20));

// 6.89999999999999946709
// 0.00000000000000088818
// 6.90000000000000035527
登录后复制

以上是如何在 C# 中准确格式化双精度数以匹配指定的精度?的详细内容。更多信息请关注PHP中文网其他相关文章!

来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
作者最新文章
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板