Python操作SQLite/MySQL/LMDB/LevelDB

  • 内容
  • 评论
  • 相关

Python操作SQLite/MySQL/LMDB/LevelDB


1. 概述


1.1 前言

最近用Caffe跑自己的数据集,需要学习LMDB和LevelDB,趁此机会复习了SQLite和MySQL的使用,一起整理在此。

代码:https://github.com/liquidconv/py4db


1.2 环境

使用Ubuntu 14.04,Python 2.7.6。


2. SQLite


2.1 准备

SQLite是一种嵌入式数据库,它的数据库就是一个文件。Python 2.5x以上版本内置了SQLite3,使用时直接import sqlite3即可。


2.2 操作流程

概括地讲,操作SQLite的流程是:


  • 通过sqlite3.open()创建与数据库文件的连接对象connection;

  • 通过connection.cursor()创建光标对象cursor;

  • 通过cursor.execute()执行SQL语句;

  • 通过connection.commit()提交当前的事务,或者通过cursor.fetchall()获得查询结果;

  • 通过connection.close()关闭与数据库文件的连接。


详细的sqlite3模块API可以看这里:

http://www.runoob.com/sqlite/sqlite-python.html


总结起来就是用cursor.execute()执行SQL语句,改变数据(插入、删除、修改)时用connection.commit()提交变更,查询数据时用cursor.fetchall()得到查询结果。


2.3 操作实例

2.3.1 建立数据库与建立表

直接来看例子:


Python操作SQLite/MySQL/LMDB/LevelDB


这里conn是与数据库文件test.db的连接对象,c是conn的光标对象,通过c.execute()执行建表操作,创建了简单的学生信息表(学号,名字),通过conn.commit()提交,最后用conn.close()关闭连接。


conn.open()发现文件不存在时会自动创建,这里使用了文件“test.db”,也可以使用“:memory:”建立内存数据库。


2.3.2 插入、删除、修改

为了便于多次运行,直接使用了内存数据库:


Python操作SQLite/MySQL/LMDB/LevelDB


做的事情还是非常简单易懂的,向学生信息表中插入(1,Alice)、(2,Bob)、(3,Peter)三条记录,删除(1,Alice),修改(3,Peter)为(3,Mark)。


“?”是sqlite3中的占位符,execute时会用第二个参数元组里的元素按顺序替换。官方文档里建议出于安全考虑,不要直接用python做字符串拼接。


另外注意不需要每次execute后调用commit。


2.3.3 查询

直接在上面的代码commit之后加上:


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_query.py


fetchall()返回的是记录数组,可以通过WHERE子句做更细致的选择。


2.3.4 完整的例子

把上面的操作写成函数形式:


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_sqlite.py


之后用的例子都是这个简单的学生信息表(学号,姓名)。


3. MySQL


3.1 准备

安装MySQL:


Python操作SQLite/MySQL/LMDB/LevelDB

安装MySQLdb:


Python操作SQLite/MySQL/LMDB/LevelDB

使用时import MySQLdb(注意大小写)。


3.2 操作流程

同为关系型数据库,MySQL的操作方法和SQLite是大同小异的。建立连接对象与光标对象,用execute()执行SQL语句,commi()提交事物,fetchall()获得查询结果。


3.3 操作实例

直接看MySQL版本的完整例子:


Python操作SQLite/MySQL/LMDB/LevelDB

对比后可以发现区别仅是建立连接时参数复杂一些,同时需要用select_db()选择数据库。

运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_mysql.py


4. LMDB


4.1 准备

学习LMDB的时候不禁想到知乎上的提问“有哪些名人长期生活在其他名人的光环下”,说实话感觉查它的人基本都是为了用Caffe……


Anyway,LMDB和SQLite/MySQL等关系型数据库不同,属于key-value数据库(把LMDB想成dict会比较容易理解),键key与值value都是字符串。


安装:


Python操作SQLite/MySQL/LMDB/LevelDB


使用时import lmdb。


4.2 操作流程

概况地讲,操作LMDB的流程是:


  • 通过env = lmdb.open()打开环境

  • 通过txn = env.begin()建立事务

  • 通过txn.put(key, value)进行插入和修改

  • 通过txn.delete(key)进行删除

  • 通过txn.get(key)进行查询

  • 通过txn.cursor()进行遍历

  • 通过txn.commit()提交更改


4.3 操作实例

4.3.1 建立环境


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,查看当前目录的变化:


Python操作SQLite/MySQL/LMDB/LevelDB

set_env.py


可以看到当前目录下多了students目录,里面有data.mdb和lock.mdb两个文件。


4.3.2 插入、删除、修改

插入与修改都用put实现,删除用delete实现。


Python操作SQLite/MySQL/LMDB/LevelDB


注意用txn = env.begin()创建事务时,有write = True才能够写数据库。


4.3.3 查询

查单条记录用get(key),遍历数据库用cursor。


直接在上面的代码commit()之后加上:


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_query.py


注意上次commit()之后要用env.begin()更新txn。


4.3.4 完整的例子


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_lmdb.py


5. LevelDB


5.1 准备

同为key-value数据库,LevelDB的资料比LMDB丰富太多了。值得一提的是LevelDB实现时用到了SkipList,以后有机会要亲自实现一下。


安装:


Python操作SQLite/MySQL/LMDB/LevelDB

使用时import leveldb。


5.2 操作流程

LevelDB操作时类似与LMDB,使用Put/Get/Delete,但是更加简单(不需要事务txn和commit提交),同时支持范围迭代器RangeIter。


5.3 操作实例

来看LevelDB版本的完整例子:


Python操作SQLite/MySQL/LMDB/LevelDB


运行一下,输出结果为:


Python操作SQLite/MySQL/LMDB/LevelDB

test_leveldb.py


此外,由于没有commit()操作,leveldb中用WriteBatch实现多条更改一次提交,直接copy示例代码如下:


Python操作SQLite/MySQL/LMDB/LevelDB


6. 学习总结


这次学习四种数据库操作时,是按照SQLite -> MySQL -> LMDB -> LevelDB的顺序,所以研究SQLite与LMDB花了较长时间,而MySQL与LevelDB很快就搞定了。某种意义上,学习技术和背单词一样,当前掌握的单词越多,背新单词就越容易——因为可以把新单词和已经掌握的同义词联系在一起,在脑海里聚成簇。


最后回顾一下,SQLite与MySQL都是关系型数据库,操作时创建连接对象connection与光标对象cursor,通过execute执行SQL语句,commit提交变更,fetch得到查询结果;LMDB与LevelDB都是K-V数据库,操作时建立与数据库的连接,用put/delete改变数据,用get获取数据,区别是LMDB中有事务需要commit,LevelDB不需要。


7. 参考资料


  • SQLite

    SQLite教程:

    http://www.runoob.com/sqlite/sqlite-python.html

    SQLite全面学习:

    Sqlite全面学习(一)

    Python文档关于sqlite3的介绍:

    https://docs.python.org/2/library/sqlite3.html

  • MySQL

    MySQLdb模块:

    http://www.oschina.net/code/snippet_16840_1811

    Python操作MySQL:

    http://www.cnblogs.com/rollenholt/archive/2012/05/29/2524327.html

  • LMDB

    Creating an LMDB database in Python:

    http://deepdish.io/2015/04/28/creating-lmdb-in-python/

    Python lmdb:

    http://blog.csdn.net/ayst123/article/details/44077903

    lmdb 0.87 documentation:

    http://lmdb.readthedocs.org/en/latest/

  • LevelDB

    py-leveldb示例代码:

    http://www.oschina.net/p/py-leveldb?fromerr=G5QJs7l1

    Having a look at LevelDB:

    Having a look at LevelDB


作者:kophy

链接:

http://www.jianshu.com/p/66496c8726a1


本文来自“Python头条”微信公众号

ID:Pythontoutiao

Python操作SQLite/MySQL/LMDB/LevelDB

▲▲▲扫码立刻关注▲▲▲

最具关注价值的中文Python技术公众账号。

(12月内关注账号可领取10集Python入门视频)




————广告时间————


马哥教育2018年Python自动化运维开发实战面授班2018年3月5号开班,马哥联合BAT、豆瓣等一线互联网Python开发达人,根据目前企业需求的Python开发人才进行了深度定制,加入了大量一线互联网公司:大众点评、饿了么、腾讯等生产环境真是项目,课程由浅入深,从Python基础到Python高级,让你融汇贯通Python基础理论,手把手教学让你具备Python自动化开发需要的前端界面开发、Web框架、大监控系统、CMDB系统、认证堡垒机、自动化流程平台六大实战能力,让你从0开始蜕变成Hold住年薪20万的Python自动化开发人才

Python操作SQLite/MySQL/LMDB/LevelDBPython操作SQLite/MySQL/LMDB/LevelDB扫描二维码领取学习资料Python操作SQLite/MySQL/LMDB/LevelDBPython操作SQLite/MySQL/LMDB/LevelDB

Python操作SQLite/MySQL/LMDB/LevelDB

更多Python好文请点击【阅读原文】哦

↓↓↓

始发于微信公众号:马哥Linux运维