Python实现MySQL数据库连接池

转自:Python实现MySQL数据库连接池


python连接MySQL数据库:

python编程中可以使用MySQLdb进行数据库的连接及诸如查询/插入/更新等操作,但是每次连接mysql数据库请求时,都是独立的去请求访问,相当浪费资源,而且访问数量达到一定数量时,对mysql的性能会产生较大的影响。因此,实际使用中,通常会使用数据库的连接池技术,来访问数据库达到资源复用的目的。
数据库连接池

python的数据库连接池包 DBUtils:

DBUtils是一套Python数据库连接池包,并允许对非线程安全的数据库接口进行线程安全包装。DBUtils来自Webware for Python。
DBUtils提供两种外部接口:
  • * PersistentDB :提供线程专用的数据库连接,并自动管理连接。
  • * PooledDB :提供线程间可共享的数据库连接,并自动管理连接。
下载地址:DBUtils   下载解压后,使用python setup.py install 命令进行安装

下面利用MySQLdb和DBUtils建立自己的mysql数据库连接池工具包

在工程目录下新建package命名为:dbConnecttion,并新建module命名为MySqlConn,下面是MySqlConn.py,该模块创建Mysql的连接池对象,并创建了如查询/插入等通用的操作方法。该部分代码实现如下:
  1. # -*- coding: UTF-8 -*-
  2. """
  3. Created on 2016年5月7日
  4. @author: baocheng
  5. 1、执行带参数的SQL时,请先用sql语句指定需要输入的条件列表,然后再用tuple/list进行条件批配
  6. 2、在格式SQL中不需要使用引号指定数据类型,系统会根据输入参数自动识别
  7. 3、在输入的值中不需要使用转意函数,系统会自动处理
  8. """
  9. import MySQLdb
  10. from MySQLdb.cursors import DictCursor
  11. from DBUtils.PooledDB import PooledDB
  12. #from PooledDB import PooledDB
  13. import Config
  14. """
  15. Config是一些数据库的配置文件
  16. """
  17. class Mysql(object):
  18. """
  19. MYSQL数据库对象,负责产生数据库连接 , 此类中的连接采用连接池实现获取连接对象:conn = Mysql.getConn()
  20. 释放连接对象;conn.close()或del conn
  21. """
  22. #连接池对象
  23. __pool = None
  24. def __init__(self):
  25. #数据库构造函数,从连接池中取出连接,并生成操作游标
  26. self._conn = Mysql.__getConn()
  27. self._cursor = self._conn.cursor()
  28. @staticmethod
  29. def __getConn():
  30. """
  31. @summary: 静态方法,从连接池中取出连接
  32. @return MySQLdb.connection
  33. """
  34. if Mysql.__pool is None:
  35. __pool = PooledDB(creator=MySQLdb, mincached=1 , maxcached=20 ,
  36. host=Config.DBHOST , port=Config.DBPORT , user=Config.DBUSER , passwd=Config.DBPWD ,
  37. db=Config.DBNAME,use_unicode=False,charset=Config.DBCHAR,cursorclass=DictCursor)
  38. return __pool.connection()
  39. def getAll(self,sql,param=None):
  40. """
  41. @summary: 执行查询,并取出所有结果集
  42. @param sql:查询SQL,如果有查询条件,请只指定条件列表,并将条件值使用参数[param]传递进来
  43. @param param: 可选参数,条件列表值(元组/列表)
  44. @return: result list(字典对象)/boolean 查询到的结果集
  45. """
  46. if param is None:
  47. count = self._cursor.execute(sql)
  48. else:
  49. count = self._cursor.execute(sql,param)
  50. if count>0:
  51. result = self._cursor.fetchall()
  52. else:
  53. result = False
  54. return result
  55. def getOne(self,sql,param=None):
  56. """
  57. @summary: 执行查询,并取出第一条
  58. @param sql:查询SQL,如果有查询条件,请只指定条件列表,并将条件值使用参数[param]传递进来
  59. @param param: 可选参数,条件列表值(元组/列表)
  60. @return: result list/boolean 查询到的结果集
  61. """
  62. if param is None:
  63. count = self._cursor.execute(sql)
  64. else:
  65. count = self._cursor.execute(sql,param)
  66. if count>0:
  67. result = self._cursor.fetchone()
  68. else:
  69. result = False
  70. return result
  71. def getMany(self,sql,num,param=None):
  72. """
  73. @summary: 执行查询,并取出num条结果
  74. @param sql:查询SQL,如果有查询条件,请只指定条件列表,并将条件值使用参数[param]传递进来
  75. @param num:取得的结果条数
  76. @param param: 可选参数,条件列表值(元组/列表)
  77. @return: result list/boolean 查询到的结果集
  78. """
  79. if param is None:
  80. count = self._cursor.execute(sql)
  81. else:
  82. count = self._cursor.execute(sql,param)
  83. if count>0:
  84. result = self._cursor.fetchmany(num)
  85. else:
  86. result = False
  87. return result
  88. def insertOne(self,sql,value):
  89. """
  90. @summary: 向数据表插入一条记录
  91. @param sql:要插入的SQL格式
  92. @param value:要插入的记录数据tuple/list
  93. @return: insertId 受影响的行数
  94. """
  95. self._cursor.execute(sql,value)
  96. return self.__getInsertId()
  97. def insertMany(self,sql,values):
  98. """
  99. @summary: 向数据表插入多条记录
  100. @param sql:要插入的SQL格式
  101. @param values:要插入的记录数据tuple(tuple)/list[list]
  102. @return: count 受影响的行数
  103. """
  104. count = self._cursor.executemany(sql,values)
  105. return count
  106. def __getInsertId(self):
  107. """
  108. 获取当前连接最后一次插入操作生成的id,如果没有则为0
  109. """
  110. self._cursor.execute("SELECT @@IDENTITY AS id")
  111. result = self._cursor.fetchall()
  112. return result[0]['id']
  113. def __query(self,sql,param=None):
  114. if param is None:
  115. count = self._cursor.execute(sql)
  116. else:
  117. count = self._cursor.execute(sql,param)
  118. return count
  119. def update(self,sql,param=None):
  120. """
  121. @summary: 更新数据表记录
  122. @param sql: SQL格式及条件,使用(%s,%s)
  123. @param param: 要更新的 值 tuple/list
  124. @return: count 受影响的行数
  125. """
  126. return self.__query(sql,param)
  127. def delete(self,sql,param=None):
  128. """
  129. @summary: 删除数据表记录
  130. @param sql: SQL格式及条件,使用(%s,%s)
  131. @param param: 要删除的条件 值 tuple/list
  132. @return: count 受影响的行数
  133. """
  134. return self.__query(sql,param)
  135. def begin(self):
  136. """
  137. @summary: 开启事务
  138. """
  139. self._conn.autocommit(0)
  140. def end(self,option='commit'):
  141. """
  142. @summary: 结束事务
  143. """
  144. if option=='commit':
  145. self._conn.commit()
  146. else:
  147. self._conn.rollback()
  148. def dispose(self,isEnd=1):
  149. """
  150. @summary: 释放连接池资源
  151. """
  152. if isEnd==1:
  153. self.end('commit')
  154. else:
  155. self.end('rollback');
  156. self._cursor.close()
  157. self._conn.close()

配置文件模块Cnofig,包括数据库的连接信息/用户名密码等:
  1. #coding:utf-8
  2. '''
  3. Created on 2016年5月7日
  4. @author: baocheng
  5. '''
  6. DBHOST = "localhost"
  7. DBPORT = 33606
  8. DBUSER = "zbc"
  9. DBPWD = "123456"
  10. DBNAME = "test"
  11. DBCHAR = "utf8"
创建test模块,测试一下使用连接池进行mysql访问:
  1. #coding:utf-8
  2. '''
  3. @author: baocheng
  4. '''
  5. from MySqlConn import Mysql
  6. from _sqlite3 import Row
  7. #申请资源
  8. mysql = Mysql()
  9. sqlAll = "SELECT tb.uid as uid, group_concat(tb.goodsname) as goodsname FROM ( SELECT goods.uid AS uid, IF ( ISNULL(goodsrelation.goodsname), goods.goodsID, goodsrelation.goodsname ) AS goodsname FROM goods LEFT JOIN goodsrelation ON goods.goodsID = goodsrelation.goodsId ) tb GROUP BY tb.uid"
  10. result = mysql.getAll(sqlAll)
  11. if result :
  12. print "get all"
  13. for row in result :
  14. print "%s\t%s"%(row["uid"],row["goodsname"])
  15. sqlAll = "SELECT tb.uid as uid, group_concat(tb.goodsname) as goodsname FROM ( SELECT goods.uid AS uid, IF ( ISNULL(goodsrelation.goodsname), goods.goodsID, goodsrelation.goodsname ) AS goodsname FROM goods LEFT JOIN goodsrelation ON goods.goodsID = goodsrelation.goodsId ) tb GROUP BY tb.uid"
  16. result = mysql.getMany(sqlAll,2)
  17. if result :
  18. print "get many"
  19. for row in result :
  20. print "%s\t%s"%(row["uid"],row["goodsname"])
  21. result = mysql.getOne(sqlAll)
  22. print "get one"
  23. print "%s\t%s"%(result["uid"],result["goodsname"])
  24. #释放资源
  25. mysql.dispose()

当然,还有很多其他参数可以配置:
  • dbapi :数据库接口
  • mincached :启动时开启的空连接数量
  • maxcached :连接池最大可用连接数量
  • maxshared :连接池最大可共享连接数量
  • maxconnections :最大允许连接数量
  • blocking :达到最大数量时是否阻塞
  • maxusage :单个连接最大复用次数
根据自己的需要合理配置上述的资源参数,以满足自己的实际需要。
至此,python中的mysql连接池实现完了,下次就直接拿来用就好了。