1.druid连接池中的连接数与预期不一致的一次分析
2.源码详解系列(四) ------ DBCP2的使用和分析(包括JNDI和JTA支持)已停更
3.阿里巴巴Druid,轻松实现MySQL数据库加密!
4.druid 物理关闭数量 始终是0
5.弹性数据库连接池探活策略调研 (二)——Druid | 京东云技术团队
6.druid源码学习笔记9_testOnBorrow&testOnReturn&testWhileIdl
druid连接池中的连接数与预期不一致的一次分析
深入剖析druid连接池连接数与预期不一致的原因与解决方案 在排查生产环境cat监控显示部分应用SQL执行耗时长的问题时,我们发现部分应用节点在运行一段时间后,数据库连接池中的实际连接数与应用中配置的参数不一致。主要表现为连接池中的排班系统 源码可用连接总数远小于应用配置的初始连接数与最小空闲连接数。这导致了新建连接耗时增加,线程阻塞状态出现,影响性能,不利于应对外部瞬间的并发压力。条码组项目使用的是druid框架,但使用版本较为杂乱,包括1.0.、1.1.、1.1.。基于此,本文旨在分析druid如何对空闲连接进行回收,以及提供相应的配置建议与jar包版本建议。 详细分析过程 通过对源码的反编译分析,我们发现druid框架在应用启动后启动了多个处理线程,其中Druid-ConnectionPool-Destroy-*线程专门用于回收空闲连接。不同版本的使用配置及处理逻辑存在差异。以1.0.与1.1.版本为例进行对比分析。 在1.0.版本中,回收线程按照配置的时间间隔timeBetweenEvictionRunsMillis进行轮询。回收空闲连接的九号当铺源码判断逻辑包含如下步骤:遍历连接池中的所有连接。
获取超过最小空闲连接数的数量checkCount(连接池总数减去最小空闲连接数)。
获取当前连接的空闲时间idleMillis(当前时间减去上一次连接使用的时间)。
判断idleMillis是否小于minEvictableldleTimeMillis(默认分钟),小于则退出循环,否则继续后续处理。
如果checkCount大于0,将超过最小空闲连接数的连接放入待销毁集合(进行回收)。
如果idleMillis大于maxEvictableIdleTimeMillis,即使连接池连接数小于最小空闲连接数,当前连接也会被放入待销毁集合。
在1.1.版本中,新增了判断逻辑:idleMillis需要同时满足小于minEvictableldleTimeMillis(默认分钟)与keepAliveBetweenTimeMillis(默认2分钟)时,才会退出循环。
配置keepalive为true时,idleMillis大于keepAliveBetweenTimeMillis,当前连接会被维护到保活集合中,以确保连接可用,避免意外回收。
分析总结 结合项目现有的配置和依赖的jar包版本,连接池中的连接数不总是与初始连接数或最小空闲连接数保持一致。在使用1.0.、1.1.版本的应用中,如果SQL请求不是非常稀少,则能维持连接池中的连接数与配置一致。然而,获奖茶溯源码使用1.1.版本、处理SQL请求不是非常频繁的应用,空闲连接更容易被回收。关键原因在于缺少关键配置(keepalive未配置),导致默认参数下更容易回收连接。 版本建议 建议统一升级使用1.1.版本,并主动排除项目中依赖的其他版本,以防版本冲突。对于使用1.1.或更高版本的应用,确保添加keepalive=true配置。 Spring Boot项目配置示例:spring.datasource.druid.keep-alive=true源码详解系列(四) ------ DBCP2的使用和分析(包括JNDI和JTA支持)已停更
DBCP是一个用于创建和管理数据库连接的工具,通过连接池复用连接以减少资源消耗。它具备连接数控制、连接有效性检测、连接泄露控制和缓存语句等功能。Tomcat内置连接池、Spring团队推荐使用DBCP,阿里巴巴的druid也是基于DBCP开发的。 DBCP支持通过JNDI获取数据源,并且可以获取JTA或XA事务中的连接对象,用于两阶段提交(2PC)的事务处理。本篇文章将通过例子来解释如何使用DBCP。 以下是文章的详细内容:使用例子需求
本例将展示如何使用DBCP连接池获取连接对象,并进行基本的增删改查操作。工程环境
JDK:1.8.0_
maven:3.6.1
IDE:eclipse 4.
mysql-connector-java:8.0.
mysql:5.7.
DBCP:2.6.0
主要步骤
创建Maven项目,国产框架源码图解打包方式为war(war也可以是jar,这里选择war是为了测试JNDI功能)。
引入DBCP相关依赖。
在resources目录下创建dbcp.properties文件,配置数据库连接参数及连接池基本参数。
编写JDBCUtils类,实现初始化连接池、获取连接、管理事务和资源释放等功能。
创建测试类,实现基本的增删改查操作。
配置文件详解
dbcp.properties文件包含数据库连接参数和连接池基本参数,如数据库URL、用户名、密码、连接池大小等。其中,数据库URL后面添加了参数以避免乱码和时区问题。建议根据项目需求调整参数设置。基本连接属性
数据库URL
用户名
密码
连接池大小
缓存语句(在MySQL下建议关闭)
连接检查参数(建议开启testWhileIdle,避免性能影响)
事务相关参数(通常使用默认设置)
连接泄漏回收参数
其他参数(较少使用)
源码分析
DBCP主要涉及以下几个类:BasicDataSource:提供基本的数据库操作数据源。
BasicManagedDataSource:BasicDataSource的子类,用于创建支持XA事务或JTA事务的连接。
PoolingDataSource:BasicDataSource中实际调用的数据源,用于管理连接。整洁引导页源码
ManagedDataSource:PoolingDataSource的子类,用于支持XA事务或JTA事务的连接。
使用DBCP连接池创建连接时,首先创建BasicDataSource对象,初始化配置参数。然后从连接池中获取连接。连接获取过程涉及到数据源和连接池的创建,连接对象的包装和回收。通过JNDI获取数据源对象需求
使用JNDI获取DBCP数据源对象,以PerUserPoolDataSource和SharedPoolDataSource为例。为了在tomcat容器中测试,需要配置JNDI上下文。引入依赖
引入JNDI相关的依赖。
编写context.xml文件,配置JNDI上下文。
在web.xml中配置资源引用,将JNDI对象与web应用绑定。
测试结果
打包项目并部署到tomcat上运行,通过访问指定的jsp页面,验证JNDI获取数据源对象的正确性。使用DBCP测试两阶段提交
介绍如何使用DBCP实现JTA事务的两阶段提交(2PC)。使用DBCP的BasicManagedDataSource类支持事务处理。通过测试代码验证了2PC的正确性。 以上内容涵盖了DBCP的使用、配置、源码分析、JNDI集成以及两阶段提交的实现,为开发者提供了全面的参考。阿里巴巴Druid,轻松实现MySQL数据库加密!
面对源码安全与数据库信息保护的需求,数据库密码加密显得尤为重要。一旦源码泄漏,数据库密钥可能随之暴露,威胁数据安全。为解决这个问题,我们可以借助阿里巴巴的Druid工具轻松加密。
Druid是一款强大的Java数据库连接池,它不仅提供了监控和扩展功能,还内置了数据库密码加密特性。通过使用Druid,我们可以简单地保护数据库密码,即使源码被获取,密码也保持加密状态。
加密过程分为几个步骤:首先,项目在未加密前的交互是直接使用明文密码;而使用Druid后,会通过ConfigTools类生成公钥和密文,将明文密码转换为密文。然后,将公钥和密文添加到项目配置文件中,确保数据库连接时使用加密后的密码。
然而,需要注意的是,直接在配置文件中存储公钥和密文并不安全,因为这相当于公开了钥匙。正确的做法是在生产环境中动态设置公钥,避免密码还原。例如,开发环境可通过启动参数传递公钥,生产环境则通过jar包启动时提供。
总的来说,Druid的加密机制简化了这个过程,无需编写额外代码,仅需添加依赖、生成密文并配置,项目运行时Druid会自动处理解密,实现了MySQL密码的加密和自动解码。
druid 物理关闭数量 始终是0
我也发现这个问题
跟了一下源码
removeAbandonedTimeout
这个属性不管是否配置
初始化init方法调用后
removeAbandonedTimeout的值是
也就是使用的DruidAbstractDataSource里面的默认值
protected volatile boolean removeAbandoned;
protected volatile long removeAbandonedTimeoutMillis = * ;
弹性数据库连接池探活策略调研 (二)——Druid | 京东云技术团队
在上篇文章中,我们探讨了 HikariCP 连接池的探活策略,现在我们将转向另一个流行的数据库连接池——Druid。京东云技术团队将为您揭示如何在使用Druid时实现最佳的弹性数据库连接池探活策略,以及其不同版本间的参数调整与实现逻辑。
Druid的探活机制复杂且版本间差异明显,配置参数众多。核心的探活逻辑主要集中在两个源码函数中。要确保探活策略生效,需理解以下几个关键参数:testOnBorrow、testWhileIdle和timeBetweenEvictionRunsMillis。在高并发场景下,推荐配置testWhileIdle以减少性能消耗。
Druid的getConnectionDirect函数在取连接时会进行探活检测,如果testOnBorrow为true,每次都会检查连接有效性。当testOnBorrow为false且testWhileIdle为true时,会根据timeBetweenEvictionRunsMillis来判断连接是否失效,若超过设定时间,则进行探活。在版本1.1.及以上,保持连接功能(keepAlive)在minEvictableIdleTimeMillis设置小于分钟时,有助于高效探活并防止网关连接关闭。
在低版本中,如1.0.9,探活主要依赖于testOnBorrow或testWhileIdle,不支持keepAlive。而在1.1.和1.1.9版本中,shrink方法的逻辑有所调整,引入了keepAliveBetweenTimeMillis参数,增加了对keepAlive的控制。1.1.版本则进一步优化了探活过程,不仅关闭无效连接,还会补充连接以维持最小连接数。
总结来说,Druid的探活策略在不同版本中需灵活配置,建议在高并发场景下使用1.1.或更高版本,配置testWhileIdle以提高性能,同时根据需求选择是否启用testOnBorrow或使用keepAlive来保证连接的可用性。对于使用Druid连接池的线上应用,推荐依据实际需求选择合适的版本和参数设置。
以上内容由京东零售王雷鑫提供,出自京东云开发者社区,转载请注明原作者和来源。
druid源码学习笔记9_testOnBorrow&testOnReturn&testWhileIdl
druid源码中,关于testOnBorrow、testWhileIdle和testOnReturn的属性配置值得重点关注。在1.2.9版本后,这些属性的默认值与早期wiki中的记录有所不同。testOnBorrow的默认值从true变为false,而testWhileIdle的默认值则从false变为true。这表明代码在年后可能进行了更新,但wiki尚未同步更新。 testOnBorrow主要在getConnectionDirect方法中起作用,当设置为true时,获取连接后会执行validationQuery检查连接是否可用。如果连接不可用,将重新获取。而testWhileIdle则在连接空闲时间达到timeBetweenEvictionRunsMillis时执行验证,同样用于检查连接状态。 testWhileIdle与testOnBorrow互斥,如果两者都为true,仅执行testOnBorrow。计算空闲时间的规则涉及checkExecuteTime、lastKeepTimeMillis和当前时间的比较。 testOnReturn属性在DruidPooledConnection#close()方法,即归还连接时被调用。当设置为true时,回收连接后会检查其状态,如连接未关闭,会执行validationQuery。如果连接不可用,会关闭并计数,否则继续归还操作。 总结如下:testOnReturn在连接归还时检查,默认为false。
testOnBorrow和testWhileIdle在连接借用时检查,早期testOnBorrow为true,testWhileIdle为false,但新版本可能出于性能考虑进行了调整。