惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

小众软件
小众软件
A
About on SuperTechFans
博客园 - Franky
Engineering at Meta
Engineering at Meta
Recent Announcements
Recent Announcements
云风的 BLOG
云风的 BLOG
B
Blog
Microsoft Security Blog
Microsoft Security Blog
L
LangChain Blog
OSCHINA 社区最新新闻
OSCHINA 社区最新新闻
U
Unit 42
Martin Fowler
Martin Fowler
Y
Y Combinator Blog
Stack Overflow Blog
Stack Overflow Blog
博客园 - 叶小钗
Vercel News
Vercel News
Apple Machine Learning Research
Apple Machine Learning Research
The Cloudflare Blog
Last Week in AI
Last Week in AI
腾讯CDC
Microsoft Azure Blog
Microsoft Azure Blog
爱范儿
爱范儿
V
V2EX
G
Google Developers Blog

博客园 - FallingAutumn

mysql常用命令集锦 Java ClassLoader加载机制理解 实际例子 Java ClassLoader加载机制理解 myeclipse 8.5破解方法 Replace Pioneer 试用推广 JAVA RMI调用实战学习 linux下关于压缩、解压相关的操作 关于hessian接口类方法顺序及对象序列化的实战研究 Java对象引用传递探索 mysql 语句or效率问题 Java异常学习总结 log4j配置详解 vs2005 sp1补丁安装,报1718错误: 数字签名拒绝 无法访问Windows Installer服务 之错误解决 打开word时,”无法注册这篇文档,不能创建从其他文档到这篇文档的链接“ 错误的解决 Oracle中DBMS_JOB.SUBMIT的用法说明 vs2008 sp1如何修复、删除以及增加组件的方法 statspack的实战学习 - FallingAutumn - 博客园 ORACLE中,Schema的理解
OCI-22053: 溢出错误 的原因和解决方案
FallingAutumn · 2009-12-22 · via 博客园 - FallingAutumn

昨天,在做基于oracle数据库层面的SQL性能分析时,发现在将数据给fill到内存时,发生了OCI-22053: 溢出错误 错误。

分析了下SQL,在oracle里是正常执行的,说明sql本身没问题,所以猜测问题应该出在数据上。 

HASH_VALUE ELAPSED_TIME_PER_EXE

238087931       0.012498685

615028291       0.0001470192

424344360       0.0001036334

试着将精度减小,采用round()函数保留2位小数后,发觉就 可以了。 

由此可知确实是因为精度问题导致了转换时的溢出错误。

网上google时,有如下解释:

Oracle 数值数据类型最多可存储 38 个字节的精度,超过了CLR的数据类型。

当存在这种转换时,即会发生Oracle OCI-22053 溢出错误。