在javaScript中,由于浮点数并不是精确的值,所以在进行浮点数的运算时经常会出现非预期的结果。
来看下面例子:
0.1 + 0.2 === 0.3
// 结果返回 false
(0.3 - 0.2) === (0.2 - 0.1)
// 结果返回 false
所以涉及到小数的计算时要特别小心,需要经过处理才能返回预期结果。
那么,有什么办法可以解决呢?
废话不多说,直接上代码。敲黑板,画重点!
class Precision {
// 加法
add(a, b) {
let arr = this.core(a, b);
return (arr[0] + arr[1]) / arr[2];
}
// 减法
sub(a, b) {
let arr = this.core(a, b);
return (arr[0] - arr[1]) / arr[2];
}
// 乘法
mul(a, b) {
let arr = this.core(a, b);
return arr[0] * arr[1] / Math.pow(arr[2],2);
}
// 除法
div(a, b) {
let arr = this.core(a, b);
return arr[0] / arr[1];
}
// 核心代码
core(a, b) {
a = Number(a).toString();
b = Number(b).toString();
let a_pos = a.indexOf('.');
let b_pos = b.indexOf('.');
if(a_pos === -1 && b_pos === -1) {
return [Number(a), Number(b), 1];
} else {
let [aPos, bPos] = [0, 0];
if(a_pos !== -1) {
aPos = a.length - (a_pos+1);
a = a.replace('.', '');
}
if(b_pos !== -1) {
bPos = b.length - (b_pos+1);
b = b.replace('.', '');
}
if(aPos < bPos) {
a += '0'.repeat(bPos - aPos);
} else {
b += '0'.repeat(aPos - bPos);
}
return [Number(a), Number(b), Math.pow(10, (aPos > bPos ? aPos : bPos))];
}
}
}
思路其实就是先把浮点数转成整数,在进行运算。具体方法请看Precision类中的core方法。
测试代码
let Compute = new Precision(); // 实例化Precision类
// 加法
var a = 0.1;
var b = 0.2;
console.log('直接加法运算 a + b =', a + b);
console.log('Precision.js加法运算 a + b =', Compute.add(a, b));
// 减法
var a = 1.0;
var b = 0.7;
console.log('直接减法运算 a - b =', a - b);
console.log('Precision.js减法运算 a - b =', Compute.sub(a, b));
// 乘法
var a = 1.01;
var b = 1.003;
console.log('直接乘法运算 a * b =', a * b);
console.log('Precision.js乘法运算 a * b =', Compute.mul(a, b));
// 除法
var a = 0.029;
var b = 10;
console.log('直接除法运算 a / b =', a / b);
console.log('Precision.js除法运算 a / b =', Compute.div(a, b));
运行结果
说明
当传入参数非数值也不能转成数值时,计算结果返回NaN