Python 基础入门 (全)-低调大师

Python 基础入门 (全)

2018-08-21 545

MongoDB简介

1.MongoDB
    ①MongoDB 是一个基于分布式文件存储的NoSQL数据库
    ②由C++语言编写，运行稳定，性能高
    ③旨在为 WEB 应用提供可扩展的高性能数据存储解决方案
    ④官方网址：https://www.mongodb.com/

2.MongoDB特点
    ①MongoDB可以轻松地布置两个活跃集群，但关系型不容易在两台服务器上同时运行单个数据库
    ②MongoDB天然缺少对事物的支持
    ③MongoDB并不提供主/主复制，但它支持分片

3.Bson和Json
    ①Bosn版本是Json的二进制格式，但并不意味着Bson占用的空间就比Json小的多
    ②继续使用Bson的原因是因为MongoDB在设计上就是要求快速，而不是节省空间，如果处理数据的速度更快，存储文档时的一点开销是完全可以接受的
    ③Bson更易于浏览（即遍历），遍历索引页非常快，第二点是很容易将Bson数据快速转化为编程语言的原生数据格式

4.名词

SQL术语/概念	MongoDB术语/概念	解释/说明
database	database	数据库
table	collection	数据库表/集合
row	document	数据记录行/文档
column	field	数据字段/域
index	index	索引
table joins		表连接,MongoDB不支持
primary key	primary key	主键,MongoDB自动将_id字段设置为主键

5.MongoDB三要素：数据库，集合，文档
①数据库：是一个集合的物理容器，一个数据库中可以包含多个文档，一个服务器通常有多个数据库
②集合：类似于关系数据库中的表，储存多个文档，结构不固定，如可以存储如下文档在一个集合中

{'name':'guojing','gender':'男'}
{'name':'huangrong','age':18}
{'book':'shuihuzhuan','heros':'108'}

③文档：就是一个对象，由键值对组成，是Json的扩展Bson格式

{'name':'guojing','gender':'男'}

MongoDB安装与管理

1.安装
    ①下载MongoDB的版本注意，两点注意
        根据规则：偶数为稳定版，如1.6X，奇数为开发版，如1.7X
        32bit的MongoDB最大只能存放2G的数据，64bit就没有限制
    ②到官网，选择合适的版本下载
    ③解压

tar -zxvf mongodb-linux-x86_64-ubuntu1604-3.4.0.tgz

④移动到/usr/local/目录下

sudo mv -r mongodb-linux-x86_64-ubuntu1604-3.4.0/ /usr/local/mongodb

⑤将可执行文件添加到PATH路径中

export PATH=/usr/local/mongodb/bin:$PATH

2.管理
①配置文件在/etc/mongod.conf，默认端口27017
②启动

sudo service mongod start

③停止

sudo service mongod stop

④使用终端连接：mongo，这个shell就是mongodb的客户端，同时也是一个js的编译器
⑤ GUI：robomongo，解压后在bin目录下找到运行程序

数据库操作

1.数据库切换
    ①查看当前数据库名称：db
    ②查看所有数据库名称：show dbs，（列出所有在物理上存在的数据库）
    ③切换数据库：use 数据库名称，（如果数据库不存在，则指向数据库，但不创建，直到插入数据或创建集合时数据库才被创建）
    ④默认的数据库为test，如果没有创建新的数据库，集合将存放在test数据库中

2.数据库删除
删除当前指向的数据库，如果数据库不存在，则什么也不做

db.dropDatabase()

集合操作

1.集合创建
语法：

db.createCollection（name，option）

    ①name是要创建集合的名称
    ②options是一个文档，用于指定集合的配置
    ③选项参数是可选的，所以只需要到指定的集合名称
    例1：不限制集合的大小

db.createCollection（‘stu’）

例2：限制集合大小

db.createCollection（‘sub’，{capped：true，size：10}）

参数capped：默认值为false表示不设置上限，值为true表示设置上限
参数size：当capped值为true时，需要指定此参数，表示上限大小，当文档设置上限时，会将之前的数据覆盖，单位为字节

2.查看当前数据库的集合

show collections

3.删除集合

db.集合名称.drop（）

数据类型

1. MongoDB中常用的几种数据类型：
    ①Object ID：文档ID
    ②String：字符串，最常用，必须是有效的UTF-8
    ③Boolean：存储一个布尔值，true或false
    ④Integer：整数可以是32位或64位，这取决于服务器
    ⑤Double：存储浮点值
    ⑥Arrays：数组或列表，多个值存储到一个键
    ⑦Object：用于嵌入式的文档，即一个值为一个文档
    ⑧Null：存储Null值
    ⑨Timestamp：时间戳
    ⑩Date：存储当前日期或时间的UNIX时间格式

2. object id
    ①每个文档都有一个属性，为_id，保证每个文档的唯一性
    ②可以自己去设置_id插入文档
    ③如果没有提供，那么MongoDB为每个文档提供了一个独特的_id，类型为objectID
    ④objectID是一个12字节的十六进制数
        前4个字节为当前时间戳
        接下来3个字节的机器ID
        接下来的2个字节中MongoDB的服务进程id
        最后3个字节是简单的增量值

数据操作

1.插入
插入文档时，如果不指定_id参数，MongoDB会为文档分配一个唯一的ObjectId

db.集合名称.insert（document）

2.简单查询

db.集合名称.find（）

3.更新

db.集合名称.update(<query>,<update>,multi:<boolean>})

    ①参数query:查询条件，类似sql语句update中where部分
    ②参数update:更新操作符，类似sql语句update中set部分
    ③参数multi:可选，默认是false，表示只更新找到的第一条记录，值为true表示把满足条件的文档全部更新
    例3：全文档更新

db.stu.update(
    {name:'hr'},{name:'mnc'}
)

例4：指定属性更新，通过操作符$set

db.stu.insert({name:'hr',gender:0})

db.stu.update({name:'hr'},{$set:{name:'hys'}})

例5：修改多条匹配到的数据

db.stu.update({},{$set:{gender:0}},{multi:true})

4.保存
如果文档的_id已经存在则修改，不存在则添加

db.集合名称.save（document）

5.删除

db.集合名称.remove( <query>,  { justOne: <boolean>})

    ①参数query:可选，删除的文档的条件
    ②参数justOne:可选，如果设为true或1，则只删除一条，默认false，表示删除多条
    例6：只删除匹配到的第一条

db.stu.remove({gender:0},{justOne:true})

例7：全部删除

db.stu.remove({})

数据查询

1.基本查询
①方法find()：查询

db.集合名称.find({条件文档})

②方法findOne()：查询，只返回第一个

db.集合名称.findOne({条件文档})

③方法pretty()：将结果格式化

db.集合名称.find({条件文档}).pretty()

2.比较运算符
    ①等于，默认是等于判断，没有运算符
    ②小于$lt
    ③小于或等于$lte
    ④大于$gt
    ⑤大于或等于$gte
    ⑥不等于$ne
    例8：查询年龄大于或等于18的学生

db.stu.find({age:{$gte:18}})

3.逻辑运算符
    ①查询时可以有多个条件，多个条件之间需要通过逻辑运算符连接
    ②逻辑与：默认是逻辑与的关系
    例9：查询年龄大于或等于18，并且性别为1的学生

db.stu.find({age:{$gte:18},gender:1})

逻辑或：使用$or
例10：查询年龄大于18，或性别为0的学生

db.stu.find({$or:[{age:{$gt:18}},{gender:1}]})

and和or一起使用
例11：查询年龄大于18或性别为0的学生，并且学生的姓名为gj

db.stu.find({$or:[{age:{$gte:18}},{gender:1}],name:'gj'})

4.范围运算符
使用"$in"，"$nin" 判断是否在某个范围内
例12：查询年龄为18、28的学生

db.stu.find({age:{$in:[18,28]}})

5.支持正则表达式
使用//或$regex编写正则表达式
例13：查询姓黄的学生

db.stu.find({name:/^黄/})db.stu.find({name:{$regex:'^黄'}})

6.自定义查询
使用$where后面写一个函数，返回满足条件的数据
例14：查询年龄大于30的学生

db.stu.find({$where:function(){return this.age>20}})

7. Limit(方法limit()：用于读取指定数量的文档)

db.集合名称.find().limit(NUMBER)

    ①参数NUMBER表示要获取文档的条数
    ②如果没有指定参数则显示集合中的所有文档
    例15：查询2条学生信息

db.stu.find().limit(2)

8. skip(方法skip()：用于跳过指定数量的文档)

db.集合名称.find().skip(NUMBER)

参数NUMBER表示跳过的记录条数，默认值为0
例16：查询从第3条开始的学生信息

db.stu.find().skip(2)

9.Limit与Skip一起使用

方法limit()和skip()可以一起使用，不分先后顺序
查询第5至8条数据（跳取）

db.stu.find().limit(4).skip(5)db.stu.find().skip(5).limit(4)

10. 投影
在查询到的返回结果中，只选择必要的字段，而不是选择一个文档的整个字段
语法：参数为字段与值，值为1表示显示，值为0不显示

db.集合名称.find({},{字段名称:1,...})

对于需要显示的字段，设置为1即可，不设置即为不显示
特殊：对于_id列默认是显示的，如果不显示需要明确设置为0

db.stu.find({},{_id:0,name:1,gender:1})

11.排序
    方法sort()，用于对结果集进行排序
    语法：db.集合名称.find().sort({字段:1,...})
        ①参数1为升序排列
        ②参数-1为降序排列
    例18：根据性别降序，再根据年龄升序

db.stu.find().sort({gender:-1,age:1})

12.统计个数
方法count()用于统计结果集中文档条数
语法：

db.集合名称.find({条件}).count()

也可以与为

db.集合名称.count({条件})

例19：统计男生人数

db.stu.find({gender:1}).count()

例20：统计年龄大于20的男生人数

db.stu.count({age:{$gt:20},gender:1})

13.消除重复
方法distinct()对数据进行去重
语法：

db.集合名称.distinct('去重字段',{条件})

例21:查找年龄大于18的性别（去重）

db.stu.distinct('gender',{age:{$gt:18}})

聚合 aggregate

1.聚合(aggregate)
主要用于计算数据，类似sql中的sum()、avg()
语法：

db.集合名称.aggregate([{管道:{表达式}}])

2.管道
管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入

ps ajx | grep mongo

    在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理
    常用管道：
        $group：将集合中的文档分组，可用于统计结果
        $match：过滤数据，只输出符合条件的文档
        $project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
        $sort：将输入文档排序后输出
        $limit：限制聚合管道返回的文档数
        $skip：跳过指定数量的文档，并返回余下的文档
        $unwind：将数组类型的字段进行拆分
    表达式
        处理输入文档并输出
        语法：表达式:'$列名'
        $sum：计算总和，$sum:1同count表示计数
        $avg：计算平均值
        $min：获取最小值
        $max：获取最大值
        $push：在结果文档中插入值到一个数组中
        $first：根据资源文档的排序获取第一个文档数据
        $last：根据资源文档的排序获取最后一个文档数据

3.$group
    将集合中的文档分组，可用于统计结果
    _id表示分组的依据，使用某个字段的格式为'$字段'
    例22：统计男生、女生的总人数

db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}}])

    Group by null
    将集合中所有文档分为一组
    例23：求学生总人数、平均年龄

db.stu.aggregate([{$group:{_id:null,counter:{$sum:1},avgAge:{$avg:'$age'} }}])

透视数据
例24：统计学生性别及学生姓名

db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$name'}}}])

使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下

db.stu.aggregate([{$group:{_id:'$gender',name:{$push:'$$ROOT'}}}])

4.$match
    用于过滤数据，只输出符合条件的文档
    使用MongoDB的标准查询操作
    例25：查询年龄大于20的学生

db.stu.aggregate([{$match:{age:{$gt:20}}}])

例26：查询年龄大于20的男生、女生人数

db.stu.aggregate([{$match:{age:{$gt:20}}},{$group:{_id:'$gender',counter:{$sum:1}}}])

5.$project
修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
例27：查询学生的姓名、年龄

db.stu.aggregate([{$project:{_id:0,name:1,age:1}}])

例28：查询男生、女生人数，输出人数

db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$project:{_id:0,counter:1}}])

6. $sort
将输入文档排序后输出
例29：查询学生信息，按年龄升序

b.stu.aggregate([{$sort:{age:1}}])

例30：查询男生、女生人数，按人数降序

db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$sort:{counter:-1}}])

7. $limit，$skip
限制聚合管道返回的文档数
例31：查询2条学生信息

db.stu.aggregate([{$limit:2}])

    $skip
    跳过指定数量的文档，并返回余下的文档
    例32：查询从第3条开始的学生信息

db.stu.aggregate([{$skip:2}])

    例33：统计男生、女生人数，按人数升序，取第二条数据
    db.stu.aggregate( [{$group:{_id:'$gender',counter:{$sum:1}}}, {$sort:{counter:1}}, {$skip:1}, {$limit:1}])
    注意顺序：先写skip，再写limit

8. $unwind
将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值
语法1：对某字段值进行拆分

db.集合名称.aggregate([{$unwind:'$字段名称'}])

构造数据

db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})

查询

db.t2.aggregate([{$unwind:'$size'}])

语法2：对某字段值进行拆分
处理空数组、非数组、无字段、null情况

db.inventory.aggregate([{ $unwind:{ path:'$字段名称',   preserveNullAndEmptyArrays:<boolean>#防止数据丢失 }}])

构造数据

db.t3.insert(
    [{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
    { "_id" : 2, "item" : "b", "size" : [ ] },
    { "_id" : 3, "item" : "c", "size": "M" },
    { "_id" : 4, "item" : "d" },
    {"_id" : 5, "item" : "e", "size" : null }]
)

使用语法1查询

db.t3.aggregate([{$unwind:'$size'}])

    查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了
    问：如何能不丢弃呢？
    答：使用语法2查询

db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])

安全

1.超级管理员
    为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户
    采用了角色-用户-数据库的安全管理方式
    常用系统角色如下：
        root：只在admin数据库中可用，超级账号，超级权限
        Read：允许用户读取指定数据库
        readWrite：允许用户读写指定数据库
    创建超级管理用户

use admindb.createUser({      
    user:'admin',      
    pwd:'123',      
    roles:[{role:'root',db:'admin'}]
})

2.启用安全认证
修改配置文件

sudo vi /etc/mongod.conf

启用身份验证
注意：keys and values之间一定要加空格, 否则解析会报错

security: authorization: enabled

重启服务

sudo service mongod stop
sudo service mongod start

终端连接

mongo -u 'admin' -p '123' --authenticationDatabase 'admin'

3.普通用户管理
使用超级管理员登录，然后进入用户管理操作
查看当前数据库的用户

use test1show users

创建普通用户

db.createUser({     
    user:'t1', pwd:'123', roles:[{role:'readWrite',db:'test1'}]
})

终端连接

mongo -u t1 -p 123 --authenticationDatabase test1

切换数据库，执行命令查看效果

修改用户：可以修改pwd、roles属性

db.updateUser('t1',{pwd:'456'})

复制（副本集）

1.什么是复制
①复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性
②复制还允许从硬件故障和服务中断中恢复数据

2.为什么要复制
    ①数据备份
    ②数据灾难恢复
    ③读写分离
    ④高（24* 7）数据可用性
    ⑤无宕机维护
    ⑥副本集对应用程序是透明

3.复制的工作原理
    ①复制至少需要两个节点A、B...
    ②A是主节点，负责处理客户端请求
    ③其余的都是从节点，负责复制主节点上的数据
    ④节点常见的搭配方式为：一主一从、一主多从
    ⑤主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致
    ⑥主节点与从节点进行数据交互保障数据的一致性

4.复制的特点
    ①N 个节点的集群
    ②任何节点可作为主节点
    ③所有写入操作都在主节点上
    ④自动故障转移
    ⑤自动恢复

5.设置复制节点
    接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现
    step1:创建数据库目录t1、t2
    在Desktop目录下演示，其它目录也可以，注意权限即可

mkdir t1mkdir t2

step2:使用如下格式启动mongod，注意replSet的名称是一致的

mongod --bind_ip 192.168.196.128 --port 27017 
--dbpath ~/Desktop/t1 --replSet 
rs0mongod --bind_ip 192.168.196.128 --port 27018 
--dbpath ~/Desktop/t2 --replSet rs0

step3:连接主服务器，此处设置192.168.196.128:27017为主服务器

mongo --host 192.168.196.128 --port 27017

step4:初始化

rs.initiate()

step5:查看当前状态

rs.status()

step6:添加复本集

rs.add('192.168.196.128:27018')

step7:连接第二个mongo服务

mongo --host 192.168.196.128 --port 27018

step8:向主服务器中插入数据

use test1for(i=0;i<10;i++){ 
    db.t1.insert({_id:i})
}
db.t1.find()

step9:在从服务器中插查询

说明：如果在从服务器上进行读操作，需要设置rs.slaveOk()

rs.slaveOk()db.t1.find()

其它说明

删除从节点

rs.remove('192.168.196.128:27018')

关闭主服务器后，再重新启动，会发现原来的从服务器变为了主服务器，新启动的服务器（原来的从服务器）变为了从服务器

备份和恢复

1.备份
语法：

mongodump -h dbhost -d dbname -o dbdirectory

    -h：服务器地址，也可以指定端口号
    -d：需要备份的数据库名称
    -o：备份的数据存放位置，此目录中存放着备份出来的数据
    例1：

sudo mkdir test1bak
sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

2.恢复
语法：

mongorestore -h dbhost -d dbname --dir dbdirectory

    -h：服务器地址
    -d：需要恢复的数据库实例
    --dir：备份数据所在位置
    例2：

mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

与python交互

1.点击查看官方文档：http://api.mongodb.org/python/current/tutorial.html

2.安装python包
进入虚拟环境

sudo pip install pymongo

或源码安装

python setup.py

引入包pymongo

import pymongo

连接，创建客户端

client = pymongo.MongoClient("localhost", 27017)

获得数据库test1

db = client.test1

获得集合stu

stu = db.stu

添加文档

s1 = {name:'gj',age:18}
s1_id = stu.insert_one(s1).inserted_id

查找一个文档

s2 = stu.find_one()

查找多个文档1

for cur in stu.find():      
    print cur

查找多个文档2

cur = stu.find()cur.next()cur.next()cur.next()

获取文档个数

print stu.count()

微信关注我们

原文链接：https://yq.aliyun.com/articles/627725

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

内存模型是怎么解决缓存一致性的？

在再有人问你Java内存模型是什么，就把这篇文章发给他。这篇文章中，我们介绍过关于Java内容模型的来龙去脉。我们在文章中提到过，由于CPU和主存的处理速度上存在一定差别，为了匹配这种差距，提升计算机能力，人们在CPU和主存之间增加了多层高速缓存。每个CPU会有L1、L2甚至L3缓存，在多核计算机中会有多个CPU，那么就会存在多套缓存，那么这多套缓存之间的数据就可能出现不一致的现象。为了解决这个问题，有了内存模型。内存模型定义了共享内存系统中多线程程序读写操作行为的规范。通过这些规则来规范对内存的读写操作，从而保证指令执行的正确性。不知道小伙伴们有没有想过这样的问题：内存模型到底是怎么保证缓存一致性的呢？接下来我们试着回答这个问题。首先，缓存一致性是由于引入缓存而导致的问题，所以，这是很多CPU厂商必须解决的问题。为了解决前面提到的缓存数据不一致的问题，人们提出过很多方案，通常来说有以下2种方案：在早期的CPU当中，是通过在总线上加LOCK#锁的形式来解决缓存不一致的问题。因为CPU和其他部件进行通信都是通过总线来进行的，如果对总线加LOCK#锁的话，也就是说阻塞了其他CPU...

2018-08-22

626

浅拷贝和深拷贝 1.浅拷贝:是对于一个对象的顶层拷贝，通俗的理解是：拷贝了引用，并没有拷贝内容。相当于把变量里面指向的一个地址给了另一个变量就是浅拷贝，而没有创建一个新的对象，如a=b 2.深拷贝:首先要import copy，然后c = copy.deepcopy(a)，就表示把a的内容深拷贝到c中，如果发现了a中也存在引用的内容，则递归拷贝，也就是把当前的这个引用的对象继续深拷贝 3. copy和deepcopy的区别 ①copy:浅拷贝，里面如果有可变类型，修改这个可变类型（如list），被拷贝的对象也会相应改变，仅仅拷第一层，如果是不可变类型，就一层都不拷，如果是可变类型就拷一层 ②deepcopy:深拷贝，里面不管是可变类型和不可变类型，被拷贝的对象都不会受到影响，递归拷贝 4.copy和deepcopy拷贝元组的特点使用copy模块的copy功能的时候，它会根据当前拷贝的数据类型是可变类型还是不可变类型有不同的处理方式，如元组是不可变类型，拷贝多份没有用，对copy来说，如果是可变类型就拷一层，如果是不可变类型，就一层都不拷属性property 1.属性property...

2018-08-22

592

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。