1 进程对象的方法及属性
(1)获取进程的pid
一台计算机上面运行着很多进程,那么计算机是如何区分并管理这些进程的呢?计算机会给每一个运行的进程分配一个pid。
from multiprocessing import Process, current_process import os import time def test(): time.sleep(1) print('子进程pid:%s' % current_process().pid) # 通过multiprocessing模块 print('子进程pid:%s' % os.getpid()) # 通过os模块 print('父进程pid:%s' % os.getppid()) # 通过os模块 if __name__ == '__main__': p = Process(target=test) p.start() print('main', current_process().pid) print('main', os.getpid()) print('mainmain', os.getppid())
(2)结束进程
from multiprocessing import Process, current_process import os import time def test(): time.sleep(1) print('子进程pid:%s' % current_process().pid) # 通过multiprocessing模块 print('子进程pid:%s' % os.getpid()) # 通过os模块 print('父进程pid:%s' % os.getppid()) # 通过os模块 if __name__ == '__main__': p = Process(target=test) p.start() p.terminate() # 杀死当前进程 # 是告诉操作系统帮你去杀死当前进程 但是需要一定的时间 而代码的运行速度极快 time.sleep(0.01) """ 一般情况下我们会默认将 存储布尔值的变量名 和返回的结果是布尔值的方法名 都起成以is_开头 """ print(p.is_alive()) # 判断当前进程是否存活 print('main')
2 守护进程
- 是什么?
守护进程是在后台运行不受终端控制的进程。
- 为什么要有?
随着主进程的结束而结束。
- 如何用?
1 from multiprocessing import Process 2 import time 3 4 5 def test(): 6 time.sleep(2) 7 print('this is subprocess') 8 9 10 if __name__ == '__main__': 11 p = Process(target=test) 12 p.daemon = True 13 p.start() 14 time.sleep(1) 15 print('this is mainprocess')
3 互斥锁
- 是什么?
from multiprocessing import Lock
类
- 为什么要有?
多个进程操作同一份数据的时候,会出现数据错乱的问题。针对上述问题,解决方式就是加锁处理:将并发变成串行,牺牲效率但是保证了数据的安全
- 如何用?
import json import random import time from multiprocessing import Process, Lock def select(user): with open('test.txt', mode='rt', encoding='utf-8') as f: res = json.load(f) print('用户%s查询余票%s' % (user, res.get('num'))) def buy(user): with open('test.txt', mode='rt', encoding='utf-8') as f: res = json.load(f) time.sleep(random.uniform(1, 3)) if res.get('num') > 0: res['num'] -= 1 with open('test.txt', mode='wt', encoding='utf-8') as f: json.dump(res, f) print('用户%s购票成功' % user) else: print('没有票了') def run(user, mutex): select(user) mutex.acquire() buy(user) mutex.release() if __name__ == '__main__': # 1)串行,效率低 # for i in range(1, 11): # run(i) # 2)模拟并发 time_start = time.time() mutex = Lock() p_list = [] for i in range(1, 11): p = Process(target=run, args=(i, mutex)) p.start() p_list.append(p) for p1 in p_list: p1.join() print(time.time() - time_start)
4 队列
- 是什么?
数据结构
- 为什么要有?
进程间通信
- 如何用?
from multiprocessing import Queue # 创建一个队列 q = Queue(5) # 括号内可以传数字 标示生成的队列最大可以同时存放的数据量 # 往队列中存数据 q.put(111) q.put(222) q.put(333) # print(q.full()) # 判断当前队列是否满了 # print(q.empty()) # 判断当前队列是否空了 q.put(444) q.put(555) # print(q.full()) # 判断当前队列是否满了 # q.put(666) # 当队列数据放满了之后 如果还有数据要放程序会阻塞 直到有位置让出来 不会报错 """ 存取数据 存是为了更好的取 千方百计的存、简单快捷的取 同在一个屋檐下 差距为何那么大 """ # 去队列中取数据 v1 = q.get() v2 = q.get() v3 = q.get() v4 = q.get() v5 = q.get() # print(q.empty()) # V6 = q.get_nowait() # 没有数据直接报错queue.Empty # v6 = q.get(timeout=3) # 没有数据之后原地等待三秒之后再报错 queue.Empty try: v6 = q.get(timeout=3) print(v6) except Exception as e: print('一滴都没有了!') # # v6 = q.get() # 队列中如果已经没有数据的话 get方法会原地阻塞 # print(v1, v2, v3, v4, v5, v6) """ q.full() q.empty() q.get_nowait() 在多进程的情况下是不精确 """
5 IPC机制
from multiprocessing import Queue, Process """ 研究思路 1.主进程跟子进程借助于队列通信 2.子进程跟子进程借助于队列通信 """ def producer(q): q.put('我是23号技师 很高兴为您服务') def consumer(q): print(q.get()) if __name__ == '__main__': q = Queue() p = Process(target=producer,args=(q,)) p1 = Process(target=consumer,args=(q,)) p.start() p1.start()
6 生产者消费者模型
from multiprocessing import Process, Queue, JoinableQueue import time import random def producer(name,food,q): for i in range(5): data = '%s生产了%s%s'%(name,food,i) # 模拟延迟 time.sleep(random.randint(1,3)) print(data) # 将数据放入 队列中 q.put(data) def consumer(name,q): # 消费者胃口很大 光盘行动 while True: food = q.get() # 没有数据就会卡住 # 判断当前是否有结束的标识 # if food is None:break time.sleep(random.randint(1,3)) print('%s吃了%s'%(name,food)) q.task_done() # 告诉队列你已经从里面取出了一个数据并且处理完毕了 if __name__ == '__main__': # q = Queue() q = JoinableQueue() p1 = Process(target=producer,args=('大厨egon','包子',q)) p2 = Process(target=producer,args=('马叉虫tank','泔水',q)) c1 = Process(target=consumer,args=('春哥',q)) c2 = Process(target=consumer,args=('新哥',q)) p1.start() p2.start() # 将消费者设置成守护进程 c1.daemon = True c2.daemon = True c1.start() c2.start() p1.join() p2.join() # 等待生产者生产完毕之后 往队列中添加特定的结束符号 # q.put(None) # 肯定在所有生产者生产的数据的末尾 # q.put(None) # 肯定在所有生产者生产的数据的末尾 q.join() # 等待队列中所有的数据被取完再执行往下执行代码 """ JoinableQueue 每当你往该队列中存入数据的时候 内部会有一个计数器+1 没当你调用task_done的时候 计数器-1 q.join() 当计数器为0的时候 才往后运行 """ # 只要q.join执行完毕 说明消费者已经处理完数据了 消费者就没有存在的必要了