定点数中的比例因子

计算机采用定点数表示时,对于既有整数又有小数的原始数据,需要设定一个比例因子,数据按比例因子缩小成定点小数或扩大成定点整数再参加运算,结果输出时再按比例折算成实际值。

比例因子必须选择恰当。选择不当,将会影响运算精度,或者会使运算结果超出机器所能表示的数据范围,即出现溢出。

【例题】在定点小数机器中计算 11.01+10.01 选择比例因子2^{-2}=0.01,可将两操作数变换为 0.1101+0.1001 但 0.1101+0.1001=1.0110,运算结果不是纯小数,出现了机器数不能表示的数,即出现了正溢出。 如果选择比例因子 2^{-3}=0.001,可将两操作数变换为 0.01101+0.01001 则运算结果 0.01101+0.01001=0.10110 为正常结果。将0.10110除以比例因子2^{-3},可得到正确结果 101.10

猜你喜欢

转载自blog.csdn.net/william_munch/article/details/82880073