快捷導(dǎo)航

Javascript 浮點(diǎn)運(yùn)算精度問題分析與解決

更新時(shí)間：2014年03月26日 11:46:11 作者：

浮點(diǎn)數(shù)的精度問題不是JavaScript特有的，因?yàn)橛行┬?shù)以二進(jìn)制表示位數(shù)是無窮的

分析

JavaScript 只有一種數(shù)字類型 Number ，而且在Javascript中所有的數(shù)字都是以IEEE-754標(biāo)準(zhǔn)格式表示的。浮點(diǎn)數(shù)的精度問題不是JavaScript特有的，因?yàn)橛行┬?shù)以二進(jìn)制表示位數(shù)是無窮的：

十進(jìn)制           二進(jìn)制
0.1              0.0001 1001 1001 1001 ...
0.2              0.0011 0011 0011 0011 ...
0.3              0.0100 1100 1100 1100 ...
0.4              0.0110 0110 0110 0110 ...
0.5              0.1
0.6              0.1001 1001 1001 1001 ...

所以比如 1.1 ，其程序?qū)嶋H上無法真正的表示 ‘1.1'，而只能做到一定程度上的準(zhǔn)確,這是無法避免的精度丟失：

1.09999999999999999

在JavaScript中問題還要復(fù)雜些，這里只給一些在Chrome中測試數(shù)據(jù)：

輸入               輸出
1.0-0.9 == 0.1     False
1.0-0.8 == 0.2     False
1.0-0.7 == 0.3     False
1.0-0.6 == 0.4     True
1.0-0.5 == 0.5     True
1.0-0.4 == 0.6     True
1.0-0.3 == 0.7     True
1.0-0.2 == 0.8     True
1.0-0.1 == 0.9     True

解決

那如何來避免這類 1.0-0.9 != 0.1 的非bug型問題發(fā)生呢？下面給出一種目前用的比較多的解決方案, 在判斷浮點(diǎn)運(yùn)算結(jié)果前對計(jì)算結(jié)果進(jìn)行精度縮小，因?yàn)樵诰瓤s小的過程總會(huì)自動(dòng)四舍五入:

復(fù)制代碼代碼如下:

(1.0-0.9).toFixed(digits)                   // toFixed() 精度參數(shù)須在 0 與20 之間
parseFloat((1.0-0.9).toFixed(10)) === 0.1   // 結(jié)果為True
parseFloat((1.0-0.8).toFixed(10)) === 0.2   // 結(jié)果為True
parseFloat((1.0-0.7).toFixed(10)) === 0.3   // 結(jié)果為True
parseFloat((11.0-11.8).toFixed(10)) === -0.8   // 結(jié)果為True

方法提煉

復(fù)制代碼代碼如下:

// 通過isEqual工具方法判斷數(shù)值是否相等
function isEqual(number1, number2, digits){
digits = digits == undefined? 10: digits; // 默認(rèn)精度為10
return number1.toFixed(digits) === number2.toFixed(digits);
}

isEqual(1.0-0.7, 0.3); // return true

// 原生擴(kuò)展方式，更喜歡面向?qū)ο蟮娘L(fēng)格
Number.prototype.isEqual = function(number, digits){
digits = digits == undefined? 10: digits; // 默認(rèn)精度為10
return this.toFixed(digits) === number.toFixed(digits);
}

(1.0-0.7).isEqual(0.3); // return true

您可能感興趣的文章: