在学习python的过程中,使用浮点数会出现精度的问题,比如
i=0
j=0.0
while(i<10)
{
j+=0.1
}
加到0.5后再加值一直为0.5999999999999,此时就出现了浮点数精度的问题了,怎么解决呢。使用decimal库,首先安装Pydecimal库
file->settings
然后导入
from decimal import *
然后按照下面的方式计算就不存在精度问题了
Decimal(0.00)+Decimal("0.01"))