惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

freeCodeCamp Programming Tutorials: Python, JavaScript, Git & More
T
Tailwind CSS Blog
J
Java Code Geeks
Microsoft Azure Blog
Microsoft Azure Blog
GbyAI
GbyAI
爱范儿
爱范儿
量子位
Martin Fowler
Martin Fowler
V
V2EX
博客园 - 三生石上(FineUI控件)
I
InfoQ
MongoDB | Blog
MongoDB | Blog
奇客Solidot–传递最新科技情报
奇客Solidot–传递最新科技情报
N
Netflix TechBlog - Medium
D
DataBreaches.Net
钛媒体:引领未来商业与生活新知
钛媒体:引领未来商业与生活新知
Last Week in AI
Last Week in AI
U
Unit 42
Apple Machine Learning Research
Apple Machine Learning Research
H
Help Net Security
T
The Blog of Author Tim Ferriss
Hugging Face - Blog
Hugging Face - Blog
美团技术团队
Engineering at Meta
Engineering at Meta

博客园 - PC167

caiquan0 sheeeeee loggggg ato ctrl const loginnnnn pauto Shenmi llllll controller ctypes helper python test 1 Index was outside the bounds of the array. (Microsoft.SqlServer.Smo) contains 方法 mysql connector 和 sqlserver ado.net 的区别 javascript slice javascript bind 转,SelectNodes + XPath jsgen 搭建 【转】基于第一个PhoneGap(cordova)的应用详解 回车和换行 html中空格转义字符 输出乘法表 sql server 相似度对比 sql server 2008 r2 报错 razor 拼接字符串 转,CV和resume的区别 b/s开发者的困境
sql 下,float和numeric
PC167 · 2014-05-12 · via 博客园 - PC167

搜了下两者的区别,答案其实很明显:

numeric支持最长38位长度的数字,只有在你要的数字的长度超过38位时才推荐使用float

原因是,float在保存和提取,以及数学计算等方面,会产生于期待记过不一致的情况。

为什么呢?

因为float和real,保存的是一种近似值,而非准确值。比如,向float列中保存一个数,3.8,存完之后有可能变成3.7999999或者3.80000124

或者,存入2390.006529380733,变为2390.00652938073。少一位

但是float参与的浮点计算,确实有很大问题。

具体表现为,莫名其妙的自动保留不确定的有效小数位数。而且这种情况经常只在第一次计算时出现,时对时错。很不稳定

这个问题,我用numeric时也时有发生。所以现在比较困惑float到底该不该用。

而real参与的数学运算,问题最大,大多数情况结果都是错的:

0.165970772443(numeric)+0.1659708(real)=0.3319415

0.1659708(real)+0.165970772443(float)=0.331941544947806

总之,在float和real参与的计算和存取操作中,都会有莫名其妙的增减小数位的现象。

numeric虽然我也碰到过这种问题,但是几率相当小。

不喜欢用numeric的地方是,它会在小数位上保留无效的0,来占满设定的小数位数,而这点上,float会自动去除无效的0.看起来要清晰,转换成varchar时也不会看起来别扭。