float类型为什么有6位有效数字

float数据在计算机机器内部是2进制数,一般用1个字(4个字节,32位)来表示,
1位符号位
8位指数位
23位“尾数”位
【2^23=8388608,一共7位,这意味着最多能有7位有效数字,但是能绝对能保证的为6位,也即float的精度为6~7位。】
共32 位 2进制数。
平时讲 有效数字 是6~7位 ,指10进制。
 
 

单精度和双精度变量的范围与整数不同,在整数中是每个位只存放0和1,每位作为一个有效位出现,可以直接通过将二进制转换为十进制的方式来完成最大最小值的获得。
而浮点型的比较复杂,建议你找一下IEEE754标准看一下。
IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit,double有64bit。它们的构成包括符号位、指数位和尾数位。
这些位的构成如下:
种类-------符号位-------------指数位----------------尾数位----
float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占23bit)
double--第63位(占1bit)---第62-52位(占11bit)---第51-0位(占52bit)

取值范围主要看指数部分:
float的指数部分有8bit(2^8),由于是有符号型,所以得到对应的指数范围-128~127。
double的指数部分有11bit(2^11),由于是有符号型,所以得到对应的指数范围-1024~1023。

由于float的指数部分对应的指数范围为-128~127,所以取值范围为:
-2^128到2^127,约等于-3.4E38 — +3.4E38

精度(有效数字)主要看尾数位:
float的尾数位是23bit,对应7~8位十进制数,所以有效数字有的编译器是7位,也有的是8位
 
 
23位“尾数”位
【2^23=8388608,一共7位,这意味着最多能有7位有效数字,但是能绝对能保证的为6位,也即float的精度为6~7位。】

猜你喜欢

转载自blog.csdn.net/komtao520/article/details/80606156