python-并发编程之多进程-低调大师

python-并发编程之多进程

2018-09-04 600

一、操作系统基础：

进程的概念起源于操作系统，操作系统其它所有概念都是围绕进程来的，所以我们了解进程之前先来了解一下操作系统

操作系统位于计算机硬件与应用软件之间，本质也是一个软件。操作系统由操作系统的内核（运行于内核态，管理硬件资源）以及系统调用（运行于用户态，为应用程序员写的应用程序提供系统调用接口）两部分组成

两大功能：

　　1.将复杂的硬件操作封装成简单的接口给应用程序或者用户去使用

　　2.将多个进程对硬件的竞争变得有序

操作系统处理进程的发展简略：

　　1.串行：一个任务完整的运行完毕才运行下一个任务

　　2.并发：多个任务看起来是同时运行的

　　3.多道技术（复用-->共享）

　　　　（1）空间上的复用：多个任务复用内存空间

　　　　（2）时间上的复用：多个任务复用cpu的时间

　　　　　　时间上的复用又分为两种：

一个任务占用时间过长会被操作系统剥夺走cpu的执行权限：比起串行执行反而降低效率

一个任务遇到IO操作也会被操作系统剥夺走cpu的执行权限：比起串行执行可以提升效率

二、进程

程序仅仅是一堆代码而已，而进程指的是程序运行的过程

（一）、进程的创建

开启进程的方式1：（直接使用Process）

from multiprocessing import Process
import time

def task(name):
    print('%s is running'%name)
    time.sleep(3)
    print('%s is done'%name)

#在windows系统上，开启子进程的操作必须放到 if __name__ == '__main__':中,避免递归

if __name__ == '__main__':
    p = Process(target=task,args=('egon',))
    # Process(target=task,kwargs={'name':'egon'})
    p.start()#只是向操作系统发送了一个开启子进程的信号
    print('主')

View Code

开启进程的方式2：（继承Process来自定义类，重写run方法）

from multiprocessing import Process
import time

class Myprocess(Process):
    def __init__(self,name):
        super().__init__()
        self.name = name
    def run(self):
        print('%s is running' % self.name)
        time.sleep(3)
        print('%s is done' % self.name)

if __name__ == '__main__':
    p = Myprocess('egon')
    p.start()
    print('主')

View Code

结果都为：

主
egon is running
egon is done

注：run：如果在创建Process对象的时候不指定target，那么就会默认执行Process的run方法：

（二）、join方法

join阻塞当前进程，直到调用join方法的那个进程执行完，再继续执行当前进程

from multiprocessing import Process
import time

def task(name,n):
    print('%s is running'%name)
    time.sleep(n)
    print('%s is done'%name)

if __name__ == '__main__':

    start = time.time()
    p_j =[]
    for i in range(1,4):
        p = Process(target=task,args=('egon',i))
        p.start()
        p_j.append(p)

    for i in p_j:
        i.join()
    print(time.time() - start)
    print('主')

View Code

当不加join方法时，主进程先运行完毕，加了join就会等子进程运行完毕后才运行主进程，先依次调用start启动进程，再依次调用join要求主进程等待子进程的结束。

为什么要先依次调用start再调用join，而不是start完了就调用join

from multiprocessing import Process
import time

def task(name,n):
    print('%s is running'%name)
    time.sleep(n)
    print('%s is done'%name)

if __name__ == '__main__':
    p1 = Process(target=task,args=('egon',1))
    p2 = Process(target=task,args=('alex',2))
    start = time.time()
    p1.start()
    p1.join()
    p2.start()
    p2.join()
    print(time.time() - start)
    print('主')

View Code

程序变成了串行执行，并不是并发了。

（三）进程直接的内存空间互相隔离

from multiprocessing import Process
import time

n=100
def task():
    global n
    n=0

if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    p.join()
    print(n)#100

View Code

主进程与子进程之间互不干扰，子进程是对主进程的拷贝。

（四）、进程对象其他相关属性或方法

进程pid（每一个进程在操作系统内都有一个唯一的id号）

使用multiprocessing内的current_process

from multiprocessing import Process,current_process
import time

def task():
    print('%s is running'%current_process().pid)
    time.sleep(3)
    print('%s is done'%current_process().pid)


if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    print('主 %s'%current_process().pid)

View Code

使用os模块下的getpid方法

from multiprocessing import Process,current_process
import time,os

def task():
    print('%s is running'%os.getpid())
    time.sleep(3)
    print('%s is done'%os.getpid())


if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    print('主 %s'%os.getpid())

View Code

getppid（）获取进程的主进程id号

from multiprocessing import Process,current_process
import time,os

def task():
    print('%s is running 爹是:%s' %(os.getpid(),os.getppid()))
    time.sleep(30)
    print('%s is done 爹是:%s' %(os.getpid(),os.getppid()))


if __name__ == '__main__':
    p=Process(target=task)
    p.start()
    print('主:%s 主他爹:%s' %(os.getpid(),os.getppid()))

View Code

from multiprocessing import Process,current_process
import time,os

def task():
    print('%s is running'%os.getpid())
    time.sleep(3)
    print('%s is done'%os.getpid())


if __name__ == '__main__':
    p = Process(target=task,name='子进程1')
    p.start()
    print(p.name)#查看进程名
    # p.terminate()杀死子进程
    print(p.is_alive())#查看子进程是否存活
    print('主 %s'%os.getpid())

（五）、僵尸进程与孤儿进程

僵尸进程：子进程的结束和父进程的运行是一个异步过程,即父进程永远无法预测子进程到底什么时候结束。在 unix 或 linux 的系统中，当一个子进程退出后，它就会变成一个僵尸进程，如果父进程没有通过 wait 或者waitpid()系统调用来读取这个子进程的退出状态的话，这个子进程就会一直维持僵尸进程状态。

僵尸进程的危害：如果进程不调用wait / waitpid的话，那么保留的那段信息就不会释放，其进程号就会一直被占用，但是系统所能使用的进程号是有限的，如果大量的产生僵死进程，将因为没有可用的进程号而导致系统不能产生新的进程. 此即为僵尸进程的危害，应当避免。

孤儿进程：如果一个子进程的父进程先于子进程结束，则该子进程将变成孤儿进程。它将由init进程收养，称为init进程的子进程。init就是孤儿院

清除僵尸进程：方法1，结束父进程（主进程），当父进程退出的时候，僵尸进程也会被清除

　　　　　　　方法2，在处理程序中调用 wait 系统调用来清除僵尸进程

（六）、守护进程

守护进程本质就是一个“子进程”，该“子进程”的什么周期小于等于被守护进程的生命周期

p.daemon = True#放在start前面

from multiprocessing import Process
import time

def task(name):
    print('太监 %s活着。。。'%name)
    time.sleep(3)
    print('太监 %s死了。。。'%name)

if __name__ == '__main__':
    p = Process(target=task,args=('lxx',))
    p.daemon = True#放在start前面
    p.start()

    print('egon 正在死...')

View Code

（七）、互斥锁

每个进程互相独立，相互之间没有任何关系，某个进程要更改共享数据时，先将其锁定，此时资源的状态为“锁定”，其他线程不能更改；直到该线程释放资源，将资源的状态变成“非锁定”，其他的线程才能再次锁定该资源。互斥锁保证了每次只有一个线程进行写入操作，从而保证了多线程情况下数据的正确性。

import json
import time,random
from multiprocessing import Process,Lock

def search(name):
    with open('db.json','rt',encoding='utf-8') as f:
        dic=json.load(f)
    time.sleep(1)
    print('%s 查看到余票为 %s' %(name,dic['count']))

def get(name):
    with open('db.json','rt',encoding='utf-8') as f:
        dic=json.load(f)
    if dic['count'] > 0:
        dic['count'] -= 1
        time.sleep(random.randint(1,3))
        with open('db.json','wt',encoding='utf-8') as f:
            json.dump(dic,f)
            print('%s 购票成功' %name)
    else:
        print('%s 查看到没有票了' %name)

def task(name,mutex):
    search(name) #并发
    mutex.acquire()
    get(name) #串行
    mutex.release()

    # with mutex:
    #     get(name)

if __name__ == '__main__':
    mutex = Lock()
    for i in range(10):
        p=Process(target=task,args=('路人%s' %i,mutex))
        p.start()
        # p.join() # join只能将进程的任务整体变成串行

View Code

焚膏油以继晷，恒兀兀以穷年。

微信关注我们

原文链接：https://yq.aliyun.com/articles/642652

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

资源 | 机器学习必知的15大框架，欢迎补充！

机器学习工程师是开发产品和构建算法团队中的一部分，并确保其可靠、快速和成规模地工作。他们和数据科学家密切合作来了解理论知识和行业应用。数据专家和机器学习工程师的主要区别是： ●机器学习工程师构建、开发和维护机器学习系统的产品。 ●数据专家进行调查研究形成有关于机器学习项目的想法，然后分析来理解机器学习系统的度量影响。下面是机器学习的框架介绍： 1. Apache Singa 是一个用于在大型数据集上训练深度学习的通用分布式深度学习平台，它是基于分层抽象的简单开发模型设计的。它还支持各种当前流行的深度学习模型，有前馈模型（卷积神经网络，CNN），能量模型（受限玻尔兹曼机，RBM和循环神经网络，RNN），还为用户提供了许多内嵌层。 2. Amazon Machine Learning（AML）是一种让各种级别使用机器学习技术的开发人员可轻

2018-09-05

679

使用Python开始机器学习

目前机器学习红遍全球。男女老少都在学机器学习模型，分类器，神经网络和吴恩达。你也想成为一份子，但你该如何开始？在这篇文章中我们会讲Python的重要特征和它适用于机器学习的原因，介绍一些重要的机器学习包，以及其他你可以获取更详细资源的地方。为什么用Python做机器学习Python很适合用于机器学习。首先，它很简单。如果你完全不熟悉Python但是有一些其他的编程经验（C或者其他编程语言），要上手是很快的。其次，Python的社区很强大。这使得Python的文档不仅条理性好，而且容易读。你还可以在StackOverFlow上找到关于很多问题详细解答（学习基石）。再次，一个强大的社区带来的副产品就是大量有用程序库（Python内部自带的和第三方软件），基本上可以解决你所有的问题（包括机器学习）。但我听说Python很慢Python是很慢。它不是执行最快的语言，拥有那么多好用的抽象是要付出代价的。但这是个可以解决的问题：程序库可以把计算量繁重的部分外包给其他更高效（但更难使用）的语言，例如C和C++。比如NumPy这个提供数值运算的程序库，就是用C写的，运行速度超快。在实际运用中，...

2018-09-05

576

发表评论

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。