淺談sqlserver下float的不確定性
更新時間：2017年10月18日 14:28:13 作者：神崎橙
這篇文章主要介紹了淺談sqlserver下float的不確定性，文中涉及具體實例代碼，具有一定參考價值，需要的朋友可以了解下。
很多時候，大家都知道，浮點型這個東西，本身存儲就是一個不確定的數(shù)值，你永遠(yuǎn)無法知道，它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開始使用的時候沒有問題，但是有時候做統(tǒng)計的時候，就會看出端倪
簡單的舉個例子，就知道統(tǒng)計的時候，有可能出現(xiàn)意外的效果，導(dǎo)致可能需要存儲過程或者接收程序的代碼左額外的取舍數(shù)位的處理，所以在此其實我是推薦使用Numeric來替代float進(jìn)行一個替代使用，避免一個sum ，然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù)，一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開執(zhí)行-------------------------------------------------
INSERT INTO #T
( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
( Va )
VALUES ( 0.60000000)
GO 100
SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1
----------------------
60.0000000000001
(1 行受影響)
---------------------------------------
60.000000000
(1 行受影響)
總結(jié)
以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部內(nèi)容，希望對大家有所幫助。感興趣的朋友可以參閱本站：簡述Redis和MySQL的區(qū)別、ORACLE SQL語句優(yōu)化技術(shù)要點解析、MYSQL子查詢和嵌套查詢優(yōu)化實例解析等，有什么問題可以隨時留言，小編會及時回復(fù)大家。感謝各位對腳本之家的支持！
相關(guān)文章
sql server 自定義分割月功能詳解及實現(xiàn)代碼
這篇文章主要介紹了sql server 自定義分割月功能詳解及實現(xiàn)代碼的相關(guān)資料,需要的朋友可以參考下2016-10-10
Window 子句通常與 OVER() 子句相關(guān),它經(jīng)常與窗口函數(shù)一起使用,本文主要介紹了SQLServer2022新特性Window子句,具有一定參考價值,感興趣的可以了解一下2024-08-08
給大家分享個效率最高的分頁查詢 5000萬級別有效 比 ROWNUMBER 和Top效率高2009-06-06
case?when?then?else?end語句的用法(附demo)
本文主要介紹了case?when?then?else?end語句的用法,主要介紹了兩種格式,簡單case函數(shù)和case搜索函數(shù),具有一定的參考價值,感興趣的可以了解一下2023-10-10
這篇文章主要給大家介紹了關(guān)于SQL?Server只取年月日和獲取月初月末的相關(guān)資料,在SQL?Server中截取日期中的年月可以通過內(nèi)置函數(shù)來實現(xiàn),文中通過代碼介紹的非常詳細(xì),需要的朋友可以參考下2024-01-01
這篇文章主要給大家介紹了關(guān)于SQL?Server數(shù)據(jù)庫之表的高級查詢的相關(guān)資料,高級查詢在數(shù)據(jù)庫中用得是最頻繁的,也是應(yīng)用最廣泛的,文中通過代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-08-08
SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法
這篇文章主要介紹了SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法,需要的朋友可以參考下2016-01-01
當(dāng)單表數(shù)據(jù)太多時，我們可以水平劃分,參考 SqlServer 分區(qū)視圖實現(xiàn)水平分表 ，水平劃分可以提高表的一些性能2021-04-04
這篇文章主要介紹了SQL SERVER數(shù)據(jù)庫備份，文中通過示例代碼介紹的非常詳細(xì)，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03
如果我們需要修改sql server表結(jié)構(gòu)，應(yīng)該怎么做呢?接下來將為您介紹修改sql server表結(jié)構(gòu)的方法,需要的朋友可以參考下2012-11-11