算法 浮点陷阱

在使用浮点数进行计算时不可直接使用“==”
比如System.out.println(0.1+0.2);结果为“0.30000000000000004”
System.out.println(0.1+0.2 == 0.3);结果为false

解决措施:
1.将浮点型转化为整数
2.将其相减的绝对值与某一极小值比较如System.out.println(Math.abs(0.1 + 0.2 - 0.3)<1E10);

当需计算1/a+1/b+1/c ==1 此类计算时 注意1/a结果为0(因其为整数)
应该为1.0/a+1.0/b+1.0/c ==1
同时为避免出现浮点陷阱 可改为b*c+a*c+a*b==a*b*c

特殊值:
当 a=3.0/0 结果为 Infinity
当 a+任意数 结果仍为 Infinity
1/a结果为0.0
a*-1 结果为 -Infinity
-1/a 结果为 -0.0
当b=0.0/0.0 结果为NaN
NaN : Not a Number

发布了35 篇原创文章 · 获赞 0 · 访问量 658

猜你喜欢

转载自blog.csdn.net/Azadoo/article/details/104714993
今日推荐