Python读写LMDB文件

2018-07-27 990

Python读写LMDB文件

LMDB的全称是Lightning Memory-Mapped Database，它的文件结构简单，包含一个数据文件和一个锁文件。

LMDB文件可以同时由多个进程打开，具有极高的数据存取速度，访问简单，不需要运行单独的数据库管理进程，只要在访问数据的代码里引用LMDB库，访问时给文件路径即可。

让系统访问大量小文件的开销很大，而LMDB使用内存映射的方式访问文件，使得文件内寻址的开销非常小，使用指针运算就能实现。数据库单文件还能减少数据集复制/传输过程的开销。

在python中使用lmdb： linux中，可以使用指令‘pip install lmdb’ 安装lmdb包。

1. 生成一个空的lmdb数据库文件

import lmdb

 
   # 如果train文件夹下没有data.mbd或lock.mdb文件，则会生成一个空的，如果有，不会覆盖

# map_size定义最大储存容量，单位是kb，以下定义1TB容量

env = lmdb.open("./train"，map_size=1099511627776)

env.close()

2. LMDB数据的添加、修改、删除

import lmdb

# map_size定义最大储存容量，单位是kb，以下定义1TB容量

env = lmdb.open("./train", map_size=1099511627776)

txn = env.begin(write=True)

# 添加数据和键值

txn.put(key = '1', value = 'aaa')

txn.put(key = '2', value = 'bbb')

txn.put(key = '3', value = 'ccc')

# 通过键值删除数据

txn.delete(key = '1')

# 修改数据

txn.put(key = '3', value = 'ddd')

# 通过commit()函数提交更改

txn.commit()

env.close()

3. 查询lmdb数据库内容

import lmdb

env = lmdb.open("./train")

# 参数write设置为True才可以写入

txn = env.begin(write=True)

############################################添加、修改、删除数据

# 添加数据和键值

txn.put(key = '1', value = 'aaa')

txn.put(key = '2', value = 'bbb')

txn.put(key = '3', value = 'ccc')

# 通过键值删除数据

txn.delete(key = '1')

# 修改数据

txn.put(key = '3', value = 'ddd')

# 通过commit()函数提交更改

txn.commit()

############################################查询lmdb数据

txn = env.begin()

# get函数通过键值查询数据

print txn.get(str(2))

# 通过cursor()遍历所有数据和键值

for key, value in txn.cursor():

print (key, value)

############################################

env.close()

4. 读取已有lmdb文件内容

import lmdb

env_db = lmdb.Environment('trainC')

# env_db = lmdb.open("./trainC")

txn = env_db.begin()

 
   # get函数通过键值查询数据,如果要查询的键值没有对应数据，则输出None

print txn.get(str(200))

 
   for key, value in txn.cursor():  #遍历

print (key, value)

env_db.close()

微信关注我们

原文链接：https://yq.aliyun.com/articles/620085

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

JDBC连接Oracle数据库测试

JDBC连接Oracle数据库测试 package date20180727.dao; import java.sql.Connection; import java.sql.DriverManager; import java.sql.PreparedStatement; import java.sql.ResultSet; import java.sql.SQLException; public class BaseDao { // 创建4个常量(数据库连接地址，数据库驱动类地址，数据库登录权限名，登录密码) private static final String DRIVER = "oracle.jdbc.driver.OracleDriver"; private static final String URL = "jdbc:oracle:thin:@127.0.0.1:1521:orcl"; private static final String UNAME = "scott"; private static final String UPWD = "123"; ...

2018-07-28

632

Python实现ECS自动镜像创建&镜像复制至其他地域

一、背景 1.1 问题：同事反馈有可以鉴于目前几次大的公有云事故，腾讯云/阿里云两大公有云厂商尚且存在这样令人触目惊心的时刻，更何况其他厂商和我们的日常操作，有人的地方就有误操作，百分之一的风险但如果一旦发生就是100%的问题，虽SLA但或多或少存在影响，客户反馈如果阿里的A地域发生故障，例如地质灾害或不可控因素引发的ecs无法访问，用户数据都在云上无法操作情况下该如何，但考虑到不同地域灾备的高额度IT成本，想采用每天ecs的冷备。 1.2 思路：在最大程度的降低IT成本，又想在不可控大规模地域性灾难面前做些什么，每天凌晨业务低峰期对ECS制作镜像，同时复制到其他的不同地域，如北京的镜像复制到上海，当北京整个region异常情况下，可利用复制在目标地域的ECS创建出来，在此抛砖引玉，后续可以将ecs在目标地域开出来并关机，归档删除之前的镜像，等等。同样可以将RDS备份也同样备份到异地OSS内，目前阿里已经有EBS非常方便的灾难情况下恢复RDS。利用此思路同意的适用于其他场景下。二、代码 2.1 结构如果多个实例可同时写入配置文件，用,进行分割。 2.2 核心代码配置文件 # ...

2018-07-28

536

发表评论

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。