这篇文章主要讲解了“如何使用流式查询并对比普通查询进行MySQL性能测试”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何使用流式查询并对比普通查询进行MySQL性能测试”吧!
创新互联公司从2013年开始,先为荔湾等服务建站,荔湾等地企业,进行企业商务咨询服务。为荔湾企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。
程序访问 MySQL
数据库时,当查询出来的数据量特别大时,数据库驱动把加载到的数据全部加载到内存里,就有可能会导致内存溢出(OOM)。
其实在 MySQL
数据库中提供了流式查询,允许把符合条件的数据分批一部分一部分地加载到内存中,可以有效避免OOM
使用JDBC的 PreparedStatement/Statement
的 setFetchSize
方法设置为 Integer.MIN_VALUE
或者使用方法 Statement.enableStreamingResults()
可以实现流式查询,在执行 ResultSet.next()
方法时,会通过数据库连接一条一条的返回,这样也不会大量占用客户端的内存。
public int execute(String sql, boolean isStreamQuery) throws SQLException { Connection conn = null; PreparedStatement stmt = null; ResultSet rs = null; int count = 0; try { //获取数据库连接 conn = getConnection(); if (isStreamQuery) { //设置流式查询参数 stmt = conn.prepareStatement(sql, ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY); stmt.setFetchSize(Integer.MIN_VALUE); } else { //普通查询 stmt = conn.prepareStatement(sql); } //执行查询获取结果 rs = stmt.executeQuery(); //遍历结果 while(rs.next()){ System.out.println(rs.getString(1)); count++; } } catch (SQLException e) { e.printStackTrace(); } finally { close(stmt, rs, conn); } return count; }
PS:上面的例子中通过参数
isStreamQuery
来切换流式查询与普通查询,用于下面做测试对比。
创建了一张测试表 my_test
进行测试,总数据量为 27w
条,分别使用以下4个测试用例进行测试:
大数据量普通查询(27w条)
大数据量流式查询(27w条)
小数据量普通查询(10条)
小数据量流式查询(10条)
@Test public void testCommonBigData() throws SQLException { String sql = "select * from my_test"; testExecute(sql, false); }
27w 数据量用时 38 秒
使用将近 1G 内存
@Test public void testStreamBigData() throws SQLException { String sql = "select * from my_test"; testExecute(sql, true); }
27w 数据量用时 37 秒
由于是分批获取,所以内存在30-270m波动
@Test public void testCommonSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10"; testExecute(sql, false); }
10 条数据量用时 1 秒
@Test public void testStreamSmallData() throws SQLException { String sql = "select * from my_test limit 100000, 10"; testExecute(sql, true); }
10 条数据量用时 1 秒
感谢各位的阅读,以上就是“如何使用流式查询并对比普通查询进行MySQL性能测试”的内容了,经过本文的学习后,相信大家对如何使用流式查询并对比普通查询进行MySQL性能测试这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是创新互联,小编将为大家推送更多相关知识点的文章,欢迎关注!
新闻标题:如何使用流式查询并对比普通查询进行MySQL性能测试
标题链接:https://www.cdcxhl.com/article26/ghdocg.html
成都网站建设公司_创新互联,为您提供手机网站建设、面包屑导航、网站收录、商城网站、小程序开发、静态网站
声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联