惯性聚合 高效追踪和阅读你感兴趣的博客、新闻、科技资讯
阅读原文 在惯性聚合中打开

推荐订阅源

博客园_首页
B
Blog
V
V2EX
T
Tailwind CSS Blog
Hugging Face - Blog
Hugging Face - Blog
博客园 - 【当耐特】
博客园 - 聂微东
博客园 - 叶小钗
博客园 - 三生石上(FineUI控件)
The Cloudflare Blog
J
Java Code Geeks
H
Help Net Security
雷峰网
雷峰网
Apple Machine Learning Research
Apple Machine Learning Research
H
Hackread – Cybersecurity News, Data Breaches, AI and More
Engineering at Meta
Engineering at Meta
F
Fortinet All Blogs
Martin Fowler
Martin Fowler
D
Docker
L
LangChain Blog
人人都是产品经理
人人都是产品经理
爱范儿
爱范儿
WordPress大学
WordPress大学
V
Visual Studio Blog

老董笔记

尚硅谷机构在哪?尚硅谷培训怎么样?靠谱吗-互联网IT百科 韩顺平介绍,传智讲师,开办泰牛,入尚硅谷等一系列-互联网IT百科 pandas多重索引标准样式(写入excel有空行)-互联网IT百科 cannot join with no overlapping index names-互联网IT百科 pandas多列变多行(即宽表变长表)melt和stack函数-互联网IT百科 pandas多行转多列(长表变宽表)pivot和unstack-互联网IT百科 Index contains duplicate entries, cannot reshape完美解决-互联网IT百科 single positional indexer is out-of-bounds-互联网IT百科 Can only compare identically-labeled Series objects-互联网IT百科 pandas transform用法详解(多个案例)-互联网IT百科 python四舍五入精确实现-互联网IT百科 pandas的groupby使用apply分组排序-互联网IT百科 index 0 is out of bounds for axis 0 with size 0-互联网IT百科 pandas分组过滤filter函数-互联网IT百科 联想Win10系统如何禁用触摸屏关闭触摸-互联网IT百科 groupby分组计算transform转换返回相同长度序列-互联网IT百科 brooks seo教程python教程,brooks seo教程网盘,布鲁seo资源-互联网IT百科 电脑右键文件夹一直转圈电卡死怎么回事-互联网IT百科 施琪嘉的心理成长课(荐)-互联网IT百科 百度SEO公司_SEO推广公司哪家好_SEO外包服务如何选-老董笔记 groupby后agg同1列用多个聚合函数、不同列用不同函数、自定义函数-互联网IT百科 pandas的groupby单列多列分组聚合运算-互联网IT百科 DataFrameGroupBy对象及分组个数、分组大小、组名索引、组数据详解-互联网IT百科 pandas中groupby之Grouper and axis must be same length-互联网IT百科 pandas中groupby的分组原理-互联网IT百科 pandas的groupby的使用详解大全-互联网IT百科 openpyxl单元格自动换行强制换行Alignment(wrapText=True)-互联网IT百科 python教程全套(可就业)-互联网IT百科 联想win10系统CPU显示100%,电脑呼呼响怎么回事-互联网IT百科 如何自制CPU,CPU原理是怎么样的?-互联网IT百科
进程创建fork()和multiprocessing模块Process类-互联网IT百科
2020-09-25 · via 老董笔记

  一、进程VS程序

  一个人穿上军装去打仗就是战士,战士需要武器、战场等资源。一个人去种田就是农民,农民需要土地、锄头等资源。

  编写完毕的代码,安静的呆在磁盘上,称之为程序。代码要运行就得加载到内存,正在运行着的代码,就成为进程。进程需要运行环境比如内存空间。所以进程和程序是有区别的。

  二、父进程子进程

  一旦涉及多进程,就会涉及父进程子进程的概念。一个进程通常会有1个父进程,在其父进程内部会创建一个新的进程就称之为子进程。python的os模块可以查看当前进程号和父进程号。如下:

#‐*‐coding:utf‐8‐*‐
import os

print(os.getpid()) # 当前进程号
print(os.getppid()) # 父进程号
8612
3992

  如果你在pycharm中运行这个脚本,当前进程就是你当前运行的脚本,父进程号指的是pycharm,不信你可以看看任务管理器来验证。

  扩展知识(了解):

  一个进程可能下属多个子进程,但最多只能有1个父进程,而若某一进程没有父进程,则可知该进程很可能由内核直接生成。在Unix与类Unix系统中,进程ID为1的进程(即init进程)是在系统引导阶段由内核直接创建的,且不会在系统运行过程中终止执行(可参见Linux启动流程);而对于其他无父进程的进程,则可能是为在用户空间完成各种后台任务而执行的。

  三、进程的创建

  1、fork()函数

import os

# 注意,fork函数,只在Unix/Linux/Mac上运行,windows不可以
pid = os.fork()

if pid == 0:
    print('哈哈1')
else:
    print('哈哈2')

  1)程序执行到os.fork()时,操作系统会创建一个新的进程(子进程),然后复制父进程的所有信息到子进程中(直接把父进程的内存数据拿过来)。

  2)然后父进程和子进程都会从fork()函数中得到一个返回值,在子进程中这个值一定是0,而父进程中是子进程的id号

  在Unix/Linux操作系统中才有fork()系统函数,它有点特殊:

  1)普通的函数调用,调用一次,返回一次,但是fork()调用一次,返回两次,因为操作系统自动把当前进程(称为父进程)复制了一份(称为子进程),然后,分别在父进程和子进程内返回。

  2)子进程永远返回0,而父进程返回子进程的ID。

  3)这样做的理由是,一个父进程可以fork出很多子进程,所以,父进程要记下每个子进程的ID,而子进程只需要调用getppid()就可以拿到父进程的ID。

import os

rpid = os.fork()
if rpid<0:
    print("fork调用失败。")
elif rpid == 0:
    print("我是子进程(%s),我的父进程是(%s)"%(os.getpid(),os.getppid()))
    x+=1
else:
    print("我是父进程(%s),我的子进程是(%s)"%(os.getpid(),rpid))

print("父子进程都可以执行这里的代码")

  2、multiprocessing模块

  Python是跨平台的,自然也提供一个跨平台的多进程支持。multiprocessing模块就是跨平台的多进程模块,可在Windows上使用。multiprocessing模块提供了一个Process类来创建一个进程对象。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process
import os

# 子进程要执行的代码
def run_proc(name):
    print('子进程运行----,name= %s ,pid=%d...' % (name, os.getpid()))

if __name__=='__main__':
    print('父进程 %d' % os.getpid())
    p = Process(target=run_proc, args=('son',))# 指定函数创建进程,参数是元组类型
    print('子进程将要执行')
    p.start() #启动子进程
    p.join() #让主进程等待子进程结束后再运行
    print('主进程已结束')


父进程 10428
子进程将要执行
子进程运行----,name= son ,pid=7556...
主进程已结束



  说明:

  1)创建子进程需要为Process类传入一个指定的函数(函数可以有参数,具体要求见下文),即创建一个Process类的实例,用start()方法启动。

  2)join()方法会阻塞主进程直到子进程执行完毕后再往下运行。如果不加join,就是如下效果,主进程比子进程先结束。

  3)在windows上运行,一定要加if __name__=='__main__':,在linux或者mac则不必。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process
import os

# 子进程要执行的代码
def run_proc(name):
    print('子进程运行----,name= %s ,pid=%d...' % (name, os.getpid()))

if __name__=='__main__':
    print('父进程 %d' % os.getpid())
    p = Process(target=run_proc, args=('son',))# 指定函数创建进程,参数是元组类型
    print('子进程将要执行')
    p.start() #启动子进程
    # p.join() #注释掉join()
    print('主进程已结束')


父进程 11184
子进程将要执行
主进程已结束
子进程运行----,name= son ,pid=8608...



  Process类参数如下(中括号代表参数可以省略)

  Process([group[,target[,name[,args[,kwargs]]]]])

  1)target:表示这个进程实例指定的函数;

  2)args:表示指定函数的位置参数元组;

  3)kwargs:表示指定函数的关键字参数字典;

  4)name:为当前进程名称;

  5)group:大多数情况下用不到;

  Process类常用方法:

  1)is_alive():判断进程实例是否还在执行;

  2)join([timeout]):是否等待该进程实例执行结束,或等待多少秒(同步阻塞的方法);

  3)start():启动进程实例(创建子进程);

  4)run():如果没有给定target参数,对这个对象调用start()方法时,就将执行对象中的run()方法;

  5)terminate():强制终止进程(异步非阻塞的方法,发起了这个函数后,代码会继续往下执行而不会考虑终止进程这个事有没有做完);

  Process类常用属性

  1)name:当前进程名字,默认为Process-N,N为从1开始递增的整数;

  2)pid:当前进程的PID(进程号);

  3)daemon:该属性用于判断或设置进程的后台状态。

# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process
import os
from time import sleep

# 子进程要执行的代码
def run_proc(name, age, **kwargs):
    for i in range(10):
        print('子进程运行中,name= %s,age=%d ,pid=%d...' % (name, age,os.getpid()))
        print(kwargs)
        sleep(3)

if __name__=="__main__":

    print('父进程 %d.' % os.getpid())
    p = Process(target=run_proc, args=('son',18), kwargs={"m":20})
    print('子进程将要执行')
    p.start()
    print("子进程id {0}".format(p.pid))
    sleep(1)
    p.terminate()
    p.join()
    print('子进程早就被terminate了,根本没有循环输出10次')


父进程 8616.
子进程将要执行
子进程id 3820
子进程运行中,name= son,age=18 ,pid=3820...
{'m': 20}
子进程早就被terminate了,根本没有循环输出10次



# ‐*‐ coding: utf‐8 ‐*‐

from multiprocessing import Process
import time
import os

# 两个子进程将会调用的两个方法
def worker_1(interval):

    print("子进程worker_1,父进程id(%s),worker_1进程id(%s)"%(os.getppid(),os.getpid()))
    t_start = time.time()
    time.sleep(interval)  # 程序将会被挂起interval秒
    t_end = time.time()
    print("子进程worker_1,执行时间为{0}秒".format(t_end - t_start))


def worker_2(interval):
    print("子进程worker_2,父进程id(%s),worker_2进程id(%s)"% (os.getppid(),os.getpid()))
    t_start = time.time()
    time.sleep(interval)
    t_end = time.time()
    print("子进程worker_2,执行时间为{}秒".format(t_end - t_start))


if __name__ == "__main__":

    # 输出当前程序的ID
    print("进程ID:%s"%os.getpid())

    """
    创建两个进程对象,target指向这个进程对象要执行的函数名,
    args后面的元组中,是要传递给worker_1方法的参数,
    因为worker_1方法就一个interval参数,这里传递一个整数2给它,
    如果不指定name参数,默认的进程对象名称为Process-N,N为一个递增的整数
    """
    p1=Process(target=worker_1,args=(1,))
    p2=Process(target=worker_2,name="老王",args=(2,))

    """
    使用"进程对象名称.start()"来创建并执行一个子进程,
    这两个进程对象在start后,就会分别去执行worker_1和worker_2方法中的内容
    """
    p1.start()
    p2.start()

    """
    同时父进程仍然往下执行,如果p2进程还在执行,将会返回True
    """

    print("p2.is_alive=%s"%p2.is_alive())

    # 输出p1和p2进程的别名和pid
    print("p1.name=%s" % p1.name)
    print("p1.pid=%s" % p1.pid)
    print("p2.name=%s" % p2.name)
    print("p2.pid=%s" % p2.pid)

    """
    join括号中不携带参数,表示父进程在这个位置要等待p1进程执行完成后,再继续执行下面的语句,一般用于进程间的数据同步。
    如果不写这一句,下面的is_alive判断将会是True。
    在shell(cmd)里面调用这个程序时可以完整的看到这个过程,大家可以尝试着将下面的这条语句改成p1.join(1),
    p2需要2秒以上才可能执行完成,父进程等待1秒很可能不等p2完全执行完成,
    所以下面的print会输出True,即p2仍然在执行
    
    这已经是多个进程了,电脑上所有进程由操作系统调度,整体环境的变化导致每次运行的结果可能有变化
    """
    p1.join()
    print("p1.is_alive=%s"% p1.is_alive())
    print("p2.is_alive=%s"% p2.is_alive())


进程ID:7912
p2.is_alive=True
p1.name=Process-1
p1.pid=11640
p2.name=老王
p2.pid=8656
子进程worker_1,父进程id(7912),worker_1进程id(11640)
子进程worker_2,父进程id(7912),worker_2进程id(8656)
子进程worker_1,执行时间为1.0秒
p1.is_alive=False
p2.is_alive=True
子进程worker_2,执行时间为2.0秒



很赞哦!

python编程网提示:转载请注明来源www.python66.com。
有宝贵意见可添加站长微信(底部),获取技术资料请到公众号(底部)。同行交流请加群 python学习会