DIV CSS 佈局教程網

 DIV+CSS佈局教程網 >> 網頁腳本 >> JavaScript入門知識 >> 關於JavaScript >> javascript中的float運算精度實例分析
javascript中的float運算精度實例分析
編輯:關於JavaScript     
有人問到一個js問題:
復制代碼 代碼如下:
var i = 0.07;
var r = i*100;
alert(r);

結果為什麼是7.0000000000000001?
查了下資料,其實我們知道JavsScript中,變量在存儲時並不區分number和float類型,而是統一按float存儲。而javascript使用IEEE 754-2008 標准定義的64bit浮點格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數部分長度為16,所以默認的計算結果為“7.0000000000000001”,如最後一個小數為0,則取1作為有效數字標志。

類似地,我們可以想像,1/3的結果應該是0.3333333333333333。
那麼如何校正這個值呢?
可以用以下方法:
一、parseInt

var r4=parseInt(i*100);

二、Math.round

var r2=Math.round((i*100)*1000)/1000;

以上兩種方法都可以得到7
附全部測試代碼:
復制代碼 代碼如下:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
XML學習教程| jQuery入門知識| AJAX入門| Dreamweaver教程| Fireworks入門知識| SEO技巧| SEO優化集錦|
Copyright © DIV+CSS佈局教程網 All Rights Reserved