关于浮点数的取值范围以及精度的问题

根据最广泛采用的IEEE754标准规定,float数据类型长度为32位,其中最高位为符号位,中间8位为指数位,最后23位作为尾数位。因此float可以指示的范围(-3.4E+38)~(3.4E+38),这样的数值范围已经很大了基本能够满足我们的需要了,但是有一个问题就是精度的问题,23位的尾数能表示的最大范围是2^23−1=8388607,因此float数的十进制精度只有6-7位,所以在使用的时候要关注其精度。

同理double的尾数由23位扩展到52位,阶码由8位增加到了11位,计算方法不变。其指示范围为-1.7E+308~1.7E+308,其精度则为2^52-1=4503599627370495,为16位,最低可以保证有15位的精度。

猜你喜欢

转载自www.cnblogs.com/m-zhang-yang/p/11425147.html