js中Number數(shù)字?jǐn)?shù)值運(yùn)算后值不對(duì)的解決方法
問(wèn)題:
37.5*5.5=206.08 (JS算出來(lái)是這樣的一個(gè)結(jié)果,我四舍五入取兩位小數(shù))
我先懷疑是四舍五入的問(wèn)題,就直接用JS算了一個(gè)結(jié)果為:206.08499999999998
怎么會(huì)這樣,兩個(gè)只有一位小數(shù)的數(shù)字相乘,怎么可能多出這么小數(shù)點(diǎn)出來(lái)。
我Google了一下,發(fā)現(xiàn)原來(lái)這是JavaScript浮點(diǎn)運(yùn)算的一個(gè)bug。
比如:7*0.8 JavaScript算出來(lái)就是:5.6000000000000005
解決方法:網(wǎng)上找到了一些解決辦法,就是重新寫(xiě)了一些浮點(diǎn)運(yùn)算的函數(shù)。
下面就把這些方法摘錄下來(lái),以供遇到同樣問(wèn)題的朋友參考:
程序代碼
//除法函數(shù),用來(lái)得到精確的除法結(jié)果
//說(shuō)明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。
//調(diào)用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結(jié)果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number類(lèi)型增加一個(gè)div方法,調(diào)用起來(lái)更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//乘法函數(shù),用來(lái)得到精確的乘法結(jié)果
//說(shuō)明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。
//調(diào)用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結(jié)果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number類(lèi)型增加一個(gè)mul方法,調(diào)用起來(lái)更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//加法函數(shù),用來(lái)得到精確的加法結(jié)果
//說(shuō)明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。
//調(diào)用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結(jié)果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number類(lèi)型增加一個(gè)add方法,調(diào)用起來(lái)更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
減法函數(shù)
function accSub(arg1, arg2) {
var r1, r2, m, n;
try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
m = Math.pow(10, Math.max(r1, r2));
//last modify by deeka
//動(dòng)態(tài)控制精度長(zhǎng)度
n = (r1 >= r2) ? r1 : r2;
return ((arg1 * m - arg2 * m) / m).toFixed(n);
}
在你要用的地方包含這些函數(shù),然后調(diào)用它來(lái)計(jì)算就可以了。
比如你要計(jì)算:7*0.8 ,則改成 (7).mul(8)
其它運(yùn)算類(lèi)似,就可以得到比較精確的結(jié)果。
以上這篇js中Number數(shù)字?jǐn)?shù)值運(yùn)算后值不對(duì)的解決方法就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。
相關(guān)文章
js高精度計(jì)算decimal.js庫(kù)用法demo
這篇文章主要給大家介紹了關(guān)于js高精度計(jì)算decimal.js庫(kù)用法的相關(guān)資料,decimal.js是使用的二進(jìn)制來(lái)計(jì)算的,所以能解決js的精度問(wèn)題,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-11-11
通過(guò)JAVAScript實(shí)現(xiàn)頁(yè)面自適應(yīng)
通過(guò)JAVAScript實(shí)現(xiàn)頁(yè)面自適應(yīng)...2007-01-01
bootstrap flask登錄頁(yè)面編寫(xiě)實(shí)例
這篇文章主要為大家詳細(xì)介紹了bootstrap flask登錄頁(yè)面編寫(xiě)實(shí)例,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2016-11-11
限制文本框只能輸入數(shù)字||只能是數(shù)字和小數(shù)點(diǎn)||只能是整數(shù)和浮點(diǎn)數(shù)
這篇文章主要介紹了限制文本框只能輸入數(shù)字||只能是數(shù)字和小數(shù)點(diǎn)||只能是整數(shù)和浮點(diǎn)數(shù)的實(shí)例代碼,非常不錯(cuò),也比較實(shí)用,需要的小伙伴一起看下吧2016-05-05
從JavaScript純函數(shù)解析最深刻的函子 Monad實(shí)例
這篇文章主要為大家介紹了從JavaScript純函數(shù)解析最深刻的函子 Monad實(shí)例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-10-10
JavaScript樹(shù)形結(jié)構(gòu)數(shù)組處理之遞歸問(wèn)題
這篇文章主要介紹了JavaScript樹(shù)形結(jié)構(gòu)數(shù)組處理之遞歸問(wèn)題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2023-06-06
微信小程序movable-view的可移動(dòng)范圍示例詳解
這篇文章主要介紹了微信小程序movable-view的可移動(dòng)范圍?,movable-view不管怎么移動(dòng)都要完全包含住movable-area,也就是說(shuō)movable-area不能超出movable-view的區(qū)域范圍,反之亦然,本文通過(guò)示例介紹的非常詳細(xì),需要的朋友可以參考下2022-07-07

