精度问题

Java中浮点型数据Float和Double进行精确计算的问题

◇◆丶佛笑我妖孽 提交于 2019-11-27 18:11:16
一、浮点计算中发生精度丢失 大概很多有编程经验的朋友都对这个问题不陌生了:无论你使用的是什么编程语言,在使用浮点型数据进行精确计算时,你都有可能遇到计算结果出错的情况。来看下面的例子。 // 这是一个利用浮点型数据进行精确计算时结果出错的例子,使用Java编写,有所省略。 double a = (1.2 - 0.4) / 0.1; System.out.println(a); 如果你认为这个程序的输出结果是“8”的话,那你就错了。实际上,程序的输出结果是“7.999999999999999”。好,问题来了。到底是哪里出了错? 浮点型数据进行精确计算时,该类问题并不少见。我们姑且称其为“精度丢失”吧。大家可以试着改一下上面的程序,你会发现一些有趣的现象: 1、如果你直接使用一个数字代替括号里的表达式,如“0.8 / 0.1”或者“1.1 /0.1”,那么似乎,注意只是似乎不会出现问题; 2、我们可能会做第二个测试,就是对比“0.8 / 1.1”和“(1.2 - 0.4) / 1.1”的结果,没错,我就是这样做的。那么你会发现,前者的结果是“0.7272727272727273”(四舍五入后的结果),而后者的结果是 “0.7272727272727272”(没有进行四舍五入)。可以推测,经过一次计算后,精度丢失了; 3、很好,我觉得我们已经很接近真相了