Python 基础入门 (全)
MongoDB简介 1.MongoDB ①MongoDB 是一个基于分布式 文件存储的NoSQL数据库 ②由C++语言编写，运行稳定，性能高 ③旨在为 WEB 应用提供可扩展的高性能数据存储解决方案 ④官方网址：https://www.mongodb.com/ 2.MongoDB特点 ①MongoDB可以轻松地布置两个活跃集群，但关系型不容易在两台服务器上同时运行单个数据库 ②MongoDB天然缺少对事物的支持 ③MongoDB并不提供主/主复制，但它支持分片 3.Bson和Json ①Bosn版本是Json的二进制格式，但并不意味着Bson占用的空间就比Json小的多 ②继续使用Bson的原因是因为MongoDB在设计上就是要求快速，而不是节省空间，如果处理数据的速度更快，存储文档时的一点开销是完全可以接受的 ③Bson更易于浏览（即遍历），遍历索引页非常快，第二点是很容易将Bson数据快速转化为编程语言的原生数据格式 4.名词 SQL术语/概念 MongoDB术语/概念 解释/说明 database database 数据库 table collection 数据库表/集合 row document 数据记录行/文档 column field 数据字段/域 index index 索引 tablejoins 表连接,MongoDB不支持 primarykey primarykey 主键,MongoDB自动将_id字段设置为主键 5.MongoDB三要素：数据库，集合，文档 ①数据库：是一个集合的物理容器，一个数据库中可以包含多个文档，一个服务器通常有多个数据库 ②集合：类似于关系数据库中的表，储存多个文档，结构不固定，如可以存储如下文档在一个集合中 {'name':'guojing','gender':'男'} {'name':'huangrong','age':18} {'book':'shuihuzhuan','heros':'108'} ③文档：就是一个对象，由键值对组成，是Json的扩展Bson格式 {'name':'guojing','gender':'男'} MongoDB安装与管理 1.安装 ①下载MongoDB的版本注意，两点注意 根据规则：偶数为稳定版，如1.6X，奇数为开发版，如1.7X 32bit的MongoDB最大只能存放2G的数据，64bit就没有限制 ②到官网，选择合适的版本下载 ③解压 tar-zxvfmongodb-linux-x86_64-ubuntu1604-3.4.0.tgz ④移动到/usr/local/目录下 sudomv-rmongodb-linux-x86_64-ubuntu1604-3.4.0//usr/local/mongodb ⑤将可执行文件添加到PATH路径中 exportPATH=/usr/local/mongodb/bin:$PATH 2.管理 ①配置文件在/etc/mongod.conf，默认端口27017 ②启动 sudoservicemongodstart ③停止 sudoservicemongodstop ④使用终端连接：mongo，这个shell就是mongodb的客户端，同时也是一个js的编译器 ⑤ GUI：robomongo，解压后在bin目录下找到运行程序 数据库操作 1.数据库切换 ①查看当前数据库名称：db ②查看所有数据库名称：show dbs，（列出所有在物理上存在的数据库） ③切换数据库：use 数据库名称，（如果数据库不存在，则指向数据库，但不创建，直到插入数据或创建集合时数据库才被创建） ④默认的数据库为test，如果没有创建新的数据库，集合将存放在test数据库中 2.数据库删除 删除当前指向的数据库，如果数据库不存在，则什么也不做 db.dropDatabase() 集合操作 1.集合创建 语法： db.createCollection（name，option） ①name是要创建集合的名称 ②options是一个文档，用于指定集合的配置 ③选项参数是可选的，所以只需要到指定的集合名称 例1：不限制集合的大小 db.createCollection（‘stu’） 例2：限制集合大小 db.createCollection（‘sub’，{capped：true，size：10}） 参数capped：默认值为false表示不设置上限，值为true表示设置上限 参数size：当capped值为true时，需要指定此参数，表示上限大小，当文档设置上限时，会将之前的数据覆盖，单位为字节 2.查看当前数据库的集合 showcollections 3.删除集合 db.集合名称.drop（） 数据类型 1. MongoDB中常用的几种数据类型： ①Object ID：文档ID ②String：字符串，最常用，必须是有效的UTF-8 ③Boolean：存储一个布尔值，true或false ④Integer：整数可以是32位或64位，这取决于服务器 ⑤Double：存储浮点值 ⑥Arrays：数组或列表，多个值存储到一个键 ⑦Object：用于嵌入式的文档，即一个值为一个文档 ⑧Null：存储Null值 ⑨Timestamp：时间戳 ⑩Date：存储当前日期或时间的UNIX时间格式 2. object id ①每个文档都有一个属性，为_id，保证每个文档的唯一性 ②可以自己去设置_id插入文档 ③如果没有提供，那么MongoDB为每个文档提供了一个独特的_id，类型为objectID ④objectID是一个12字节的十六进制数 前4个字节为当前时间戳 接下来3个字节的机器ID 接下来的2个字节中MongoDB的服务进程id 最后3个字节是简单的增量值 数据操作 1.插入 插入文档时，如果不指定_id参数，MongoDB会为文档分配一个唯一的ObjectId db.集合名称.insert（document） 2.简单查询 db.集合名称.find（） 3.更新 db.集合名称.update(<query>,<update>,multi:<boolean>}) ①参数query:查询条件，类似sql语句update中where部分 ②参数update:更新操作符，类似sql语句update中set部分 ③参数multi:可选，默认是false，表示只更新找到的第一条记录，值为true表示把满足条件的文档全部更新 例3：全文档更新 db.stu.update( {name:'hr'},{name:'mnc'} ) 例4：指定属性更新，通过操作符$set db.stu.insert({name:'hr',gender:0}) db.stu.update({name:'hr'},{$set:{name:'hys'}}) 例5：修改多条匹配到的数据 db.stu.update({},{$set:{gender:0}},{multi:true}) 4.保存 如果文档的_id已经存在则修改，不存在则添加 db.集合名称.save（document） 5.删除 db.集合名称.remove(<query>,{justOne:<boolean>}) ①参数query:可选，删除的文档的条件 ②参数justOne:可选，如果设为true或1，则只删除一条，默认false，表示删除多条 例6：只删除匹配到的第一条 db.stu.remove({gender:0},{justOne:true}) 例7：全部删除 db.stu.remove({}) 数据查询 1.基本查询 ①方法find()：查询 db.集合名称.find({条件文档}) ②方法findOne()：查询，只返回第一个 db.集合名称.findOne({条件文档}) ③方法pretty()：将结果格式化 db.集合名称.find({条件文档}).pretty() 2.比较运算符 ①等于，默认是等于判断，没有运算符 ②小于$lt ③小于或等于$lte ④大于$gt ⑤大于或等于$gte ⑥不等于$ne 例8：查询年龄大于或等于18的学生 db.stu.find({age:{$gte:18}}) 3.逻辑运算符 ①查询时可以有多个条件，多个条件之间需要通过逻辑运算符连接 ②逻辑与：默认是逻辑与的关系 例9：查询年龄大于或等于18，并且性别为1的学生 db.stu.find({age:{$gte:18},gender:1}) 逻辑或：使用$or 例10：查询年龄大于18，或性别为0的学生 db.stu.find({$or:[{age:{$gt:18}},{gender:1}]}) and和or一起使用 例11：查询年龄大于18或性别为0的学生，并且学生的姓名为gj db.stu.find({$or:[{age:{$gte:18}},{gender:1}],name:'gj'}) 4.范围运算符 使用"$in"，"$nin" 判断是否在某个范围内 例12：查询年龄为18、28的学生 db.stu.find({age:{$in:[18,28]}}) 5.支持正则表达式 使用//或$regex编写正则表达式 例13：查询姓黄的学生 db.stu.find({name:/^黄/})db.stu.find({name:{$regex:'^黄'}}) 6.自定义查询 使用$where后面写一个函数，返回满足条件的数据 例14：查询年龄大于30的学生 db.stu.find({$where:function(){returnthis.age>20}}) 7. Limit(方法limit()：用于读取指定数量的文档) db.集合名称.find().limit(NUMBER) ①参数NUMBER表示要获取文档的条数 ②如果没有指定参数则显示集合中的所有文档 例15：查询2条学生信息 db.stu.find().limit(2) 8. skip(方法skip()：用于跳过指定数量的文档) db.集合名称.find().skip(NUMBER) 参数NUMBER表示跳过的记录条数，默认值为0 例16：查询从第3条开始的学生信息 db.stu.find().skip(2) 9.Limit与Skip一起使用 方法limit()和skip()可以一起使用，不分先后顺序 查询第5至8条数据（跳取） db.stu.find().limit(4).skip(5)db.stu.find().skip(5).limit(4) 10. 投影 在查询到的返回结果中，只选择必要的字段，而不是选择一个文档的整个字段 语法：参数为字段与值，值为1表示显示，值为0不显示 db.集合名称.find({},{字段名称:1,...}) 对于需要显示的字段，设置为1即可，不设置即为不显示 特殊：对于_id列默认是显示的，如果不显示需要明确设置为0 db.stu.find({},{_id:0,name:1,gender:1}) 11.排序 方法sort()，用于对结果集进行排序 语法：db.集合名称.find().sort({字段:1,...}) ①参数1为升序排列 ②参数-1为降序排列 例18：根据性别降序，再根据年龄升序 db.stu.find().sort({gender:-1,age:1}) 12.统计个数 方法count()用于统计结果集中文档条数 语法： db.集合名称.find({条件}).count() 也可以与为 db.集合名称.count({条件}) 例19：统计男生人数 db.stu.find({gender:1}).count() 例20：统计年龄大于20的男生人数 db.stu.count({age:{$gt:20},gender:1}) 13.消除重复 方法distinct()对数据进行去重 语法： db.集合名称.distinct('去重字段',{条件}) 例21:查找年龄大于18的性别（去重） db.stu.distinct('gender',{age:{$gt:18}}) 聚合 aggregate 1.聚合(aggregate) 主要用于计算数据，类似sql中的sum()、avg() 语法： db.集合名称.aggregate([{管道:{表达式}}]) 2.管道 管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入 psajx|grepmongo 在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理 常用管道： $group：将集合中的文档分组，可用于统计结果 $match：过滤数据，只输出符合条件的文档 $project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果 $sort：将输入文档排序后输出 $limit：限制聚合管道返回的文档数 $skip：跳过指定数量的文档，并返回余下的文档 $unwind：将数组类型的字段进行拆分 表达式 处理输入文档并输出 语法：表达式:'$列名' $sum：计算总和，$sum:1同count表示计数 $avg：计算平均值 $min：获取最小值 $max：获取最大值 $push：在结果文档中插入值到一个数组中 $first：根据资源文档的排序获取第一个文档数据 $last：根据资源文档的排序获取最后一个文档数据 3.$group 将集合中的文档分组，可用于统计结果 _id表示分组的依据，使用某个字段的格式为'$字段' 例22：统计男生、女生的总人数 db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}}]) Group by null 将集合中所有文档分为一组 例23：求学生总人数、平均年龄 db.stu.aggregate([{$group:{_id:null,counter:{$sum:1},avgAge:{$avg:'$age'}}}]) 透视数据 例24：统计学生性别及学生姓名 db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$name'}}}]) 使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下 db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$$ROOT'}}}]) 4.$match 用于过滤数据，只输出符合条件的文档 使用MongoDB的标准查询操作 例25：查询年龄大于20的学生 db.stu.aggregate([{$match:{age:{$gt:20}}}]) 例26：查询年龄大于20的男生、女生人数 db.stu.aggregate([{$match:{age:{$gt:20}}},{$group:{_id:'$gender',counter:{$sum:1}}}]) 5.$project 修改输入文档的结构，如重命名、增加、删除字段、创建计算结果 例27：查询学生的姓名、年龄 db.stu.aggregate([{$project:{_id:0,name:1,age:1}}]) 例28：查询男生、女生人数，输出人数 db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$project:{_id:0,counter:1}}]) 6. $sort 将输入文档排序后输出 例29：查询学生信息，按年龄升序 b.stu.aggregate([{$sort:{age:1}}]) 例30：查询男生、女生人数，按人数降序 db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$sort:{counter:-1}}]) 7. $limit，$skip 限制聚合管道返回的文档数 例31：查询2条学生信息 db.stu.aggregate([{$limit:2}]) $skip 跳过指定数量的文档，并返回余下的文档 例32：查询从第3条开始的学生信息 db.stu.aggregate([{$skip:2}]) 例33：统计男生、女生人数，按人数升序，取第二条数据 db.stu.aggregate( [{$group:{_id:'$gender',counter:{$sum:1}}}, {$sort:{counter:1}}, {$skip:1}, {$limit:1}]) 注意顺序：先写skip，再写limit 8. $unwind 将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值 语法1：对某字段值进行拆分 db.集合名称.aggregate([{$unwind:'$字段名称'}]) 构造数据 db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']}) 查询 db.t2.aggregate([{$unwind:'$size'}]) 语法2：对某字段值进行拆分 处理空数组、非数组、无字段、null情况 db.inventory.aggregate([{$unwind:{path:'$字段名称',preserveNullAndEmptyArrays:<boolean>#防止数据丢失}}]) 构造数据 db.t3.insert( [{"_id":1,"item":"a","size":["S","M","L"]}, {"_id":2,"item":"b","size":[]}, {"_id":3,"item":"c","size":"M"}, {"_id":4,"item":"d"}, {"_id":5,"item":"e","size":null}] ) 使用语法1查询 db.t3.aggregate([{$unwind:'$size'}]) 查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了 问：如何能不丢弃呢？ 答：使用语法2查询 db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}]) 安全 1.超级管理员 为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户 采用了角色-用户-数据库的安全管理方式 常用系统角色如下： root：只在admin数据库中可用，超级账号，超级权限 Read：允许用户读取指定数据库 readWrite：允许用户读写指定数据库 创建超级管理用户 useadmindb.createUser({ user:'admin', pwd:'123', roles:[{role:'root',db:'admin'}] }) 2.启用安全认证 修改配置文件 sudovi/etc/mongod.conf 启用身份验证 注意：keys and values之间一定要加空格, 否则解析会报错 security:authorization:enabled 重启服务 sudoservicemongodstop sudoservicemongodstart 终端连接 mongo-u'admin'-p'123'--authenticationDatabase'admin' 3.普通用户管理 使用超级管理员登录，然后进入用户管理操作 查看当前数据库的用户 usetest1showusers 创建普通用户 db.createUser({ user:'t1',pwd:'123',roles:[{role:'readWrite',db:'test1'}] }) 终端连接 mongo-ut1-p123--authenticationDatabasetest1 切换数据库，执行命令查看效果 修改用户：可以修改pwd、roles属性 db.updateUser('t1',{pwd:'456'}) 复制（副本集） 1.什么是复制 ①复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性 ②复制还允许从硬件故障和服务中断中恢复数据 2.为什么要复制 ①数据备份 ②数据灾难恢复 ③读写分离 ④高（24* 7）数据可用性 ⑤无宕机维护 ⑥副本集对应用程序是透明 3.复制的工作原理 ①复制至少需要两个节点A、B... ②A是主节点，负责处理客户端请求 ③其余的都是从节点，负责复制主节点上的数据 ④节点常见的搭配方式为：一主一从、一主多从 ⑤主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致 ⑥主节点与从节点进行数据交互保障数据的一致性 4.复制的特点 ①N 个节点的集群 ②任何节点可作为主节点 ③所有写入操作都在主节点上 ④自动故障转移 ⑤自动恢复 5.设置复制节点 接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现 step1:创建数据库目录t1、t2 在Desktop目录下演示，其它目录也可以，注意权限即可 mkdirt1mkdirt2 step2:使用如下格式启动mongod，注意replSet的名称是一致的 mongod--bind_ip192.168.196.128--port27017 --dbpath~/Desktop/t1--replSet rs0mongod--bind_ip192.168.196.128--port27018 --dbpath~/Desktop/t2--replSetrs0 step3:连接主服务器，此处设置192.168.196.128:27017为主服务器 mongo--host192.168.196.128--port27017 step4:初始化 rs.initiate() step5:查看当前状态 rs.status() step6:添加复本集 rs.add('192.168.196.128:27018') step7:连接第二个mongo服务 mongo--host192.168.196.128--port27018 step8:向主服务器中插入数据 usetest1for(i=0;i<10;i++){ db.t1.insert({_id:i}) } db.t1.find() step9:在从服务器中插查询 说明：如果在从服务器上进行读操作，需要设置rs.slaveOk() rs.slaveOk()db.t1.find() 其它说明 删除从节点 rs.remove('192.168.196.128:27018') 关闭主服务器后，再重新启动，会发现原来的从服务器变为了主服务器，新启动的服务器（原来的从服务器）变为了从服务器 备份和恢复 1.备份 语法： mongodump-hdbhost-ddbname-odbdirectory -h：服务器地址，也可以指定端口号 -d：需要备份的数据库名称 -o：备份的数据存放位置，此目录中存放着备份出来的数据 例1： sudomkdirtest1bak sudomongodump-h192.168.196.128:27017-dtest1-o~/Desktop/test1bak 2.恢复 语法： mongorestore-hdbhost-ddbname--dirdbdirectory -h：服务器地址 -d：需要恢复的数据库实例 --dir：备份数据所在位置 例2： mongorestore-h192.168.196.128:27017-dtest2--dir~/Desktop/test1bak/test1 与python交互 1.点击查看官方文档：http://api.mongodb.org/python/current/tutorial.html 2.安装python包 进入虚拟环境 sudopipinstallpymongo 或源码安装 pythonsetup.py 引入包pymongo importpymongo 连接，创建客户端 client=pymongo.MongoClient("localhost",27017) 获得数据库test1 db=client.test1 获得集合stu stu=db.stu 添加文档 s1={name:'gj',age:18} s1_id=stu.insert_one(s1).inserted_id 查找一个文档 s2=stu.find_one() 查找多个文档1 forcurinstu.find(): printcur 查找多个文档2 cur=stu.find()cur.next()cur.next()cur.next() 获取文档个数 printstu.count()
