Java开发常见错误之数值计算精度和舍入问题详析

软件发布|下载排行|最新软件

当前位置:首页IT学院IT技术

Java开发常见错误之数值计算精度和舍入问题详析

程序员Alan   2022-11-22 我要评论

前言

今天单独分享数值计算的问题,是因为最近处理一次线上服务告警时,发现还有很多同学不了解浮点数计算的坑。

数值精度问题引发的Bug一般难以发现,所以我们在公司处理这方面的业务时一定要特别注意。

下面我们来具体看看这些问题。

数值精度问题

下面输出的结果是 ture 还是 false ?

 public static void main(String[] args) {
      Double num1 = 0.15;
      Double num2 = 0.05;
      System.out.println(num1 % num2 == 0);
  }

正确答案是 false 。这是因为计算机无法精确的保存浮点数,所以浮点数计算的结果也不可能精准。

再来看一段代码猜猜输出结果。

public static void main(String[] args) {
    System.out.println(0.1+0.2);
    System.out.println(1.0-0.8);
    System.out.println(4.015*100);
    System.out.println(123.3/100);
}

输出结果如下:

0.30000000000000004
0.19999999999999996
401.49999999999994
1.2329999999999999

输出结果和我们预期的很不一样,出现这种问题的原因是因为计算机是以二进制存储数值的,浮点数也不例外。Java采用了IEEE754标准实现浮点数的表达和运算。

比如,0.1 的二进制表示为 0.0 0011 0011 0011… (0011 无限循环),再转换为十进制就是 0.1000000000000000055511151231257827021181583404541015625。对于计算机而言,0.1 无法精确表达,这是浮点数计算造成精度损失的根源。

你可能会觉得,这种相差非常小不会对产生多大影响,但如果把损失的精度换算成金钱,每天有上百万交易,每次交易都差一分钱,一个月下来就是30万。

数值舍入问题

下面这段代码的输出结果是什么?

public static void main(String[] args) {
    double num = 3.35;
    System.out.println(String.format("%.1f", num));
}

输出结果

3.4

这就是由精度问题和舍入方式共同导致的,double 3.35 其实相当于 3.350xxx

String.format 采用四舍五入的方式进行舍入,取 1 位小数,double 的 3.350 四舍五入为 3.4

解决方案

涉及到浮点数精确表达和运算的场景,使用BigDecimal类型。

但是注意在使用BigDecimal的时候也有几个坑要避开。

第一个坑:

使用 BigDecimal 表示和计算浮点数,务必使用字符串的构造方法来初始化 BigDecimal。

  public static void main(String[] args) {
        System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
    }

输出结果

0.3
0.3000000000000000166533453693773481063544750213623046875

第二个坑:

浮点数的字符串格式化也要通过 BigDecimal 进行。

   public static void main(String[] args) {
        double num = 3.35;
        System.out.println(String.format("%.1f", num));

        BigDecimal num1 = new BigDecimal("3.35");
        BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
        System.out.println(num2);
    }

输出结果

3.4
3.3

总结

第一,要精确表示浮点数应该使用 BigDecimal。并且使用 String 入参的构造方法或者 BigDecimal.valueOf 方法来初始化。

第二,对浮点数做精确计算,参与计算的各种数值应该始终使用 BigDecimal,所有的计算都要通过 BigDecimal 的方法进行,任何一个环节出现精度损失,最后的计算结果可能都会出现误差。

第三,对于浮点数的格式化,建议使用 BigDecimal 来表示浮点数,并使用其 setScale 方法指定舍入的位数和方式。

补充:为什么会有精度问题?

计算机处理数据都涉及到数据的转换和各种复杂运算,比如,不同单位换算,不同进制(如二进制十进制)换算等,很多除法运算不能除尽,比如10÷3=3.3333.。。。。。。无穷无尽,而精度是有限的,3.3333333x3并不等于10,经过复杂的处理后得到的十进制数据并不精确,精度越高越精确。float有8位有效数字,double有16位有效数据,float和double都是到大到一定的值自动开始使用科学计数法,并保留相关精度的有效数字,所以结果是个近似数。如果更精确的运算小数(比如金融,数学),希望结果更符合预期值应该使用Bigcimal。计算器应该也会有精度问题,也会有二进制十进制转换。

java的双精度和单精度的区别

现实问题中不但有整型数值,还有小数。Java语言也提供了针对小数的存储类型,分别是float类型和double类型。

Java语言的浮点类型有两种不同的表示形式:十进制数和科学计数法。十进制数形式,由数字和小数点组成,且必须有小数点,如0.123、12.85、26.98等;科学计数法形式,如:2.1E5、3.7e-2等。其中e或E之前必须有数字,且e或E后面的指数必须为整数。

参考资料

  • [2] BigDecimal 源码
  • [3]《数值计算》

Copyright 2022 版权所有 软件发布 访问手机版

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 联系我们