版权声明:qq:1263351411 https://blog.csdn.net/u013008795/article/details/91357862
Python中的全局解释器锁
数据结构和GIL
- Queue
- 标准库queue模块,提供FIFO的Queue、LIFO的队列、优先队列。
- Queue类是线程安全的,适用于多线程间安全的交换数据。内部使用了Lock和Condition。
- 在自定义容器类中,如果不加锁,是不可能获得准确的大小的,因为你刚读取到了一个大小,还没有取走数据,就有可能被其他线程改 了。
- Queue类的size虽然加了锁,但是,依然不能保证立即get、put就能成功,因为读取大小和get、put方法是分开的。
import queue
q = queue.Queue(8)
if q.qsize() == 7:
q.put() #上下两句可能会被打断
if q.qsize() == 1:
q.get() #未必会成功,同样上下两句会被打断
GIL全局解释器锁
-
CPython 在解释器进程级别有一把锁,叫做GIL,即全局解释器锁。
-
GIL 保证CPython进程中,只有一个线程执行字节码。甚至是在多核CPU的情况下,也只允许同时只能有一个CPU 上运行该进程的一个线程。
-
CPython中
- IO密集型,某个线程阻塞,就会调度其他就绪线程;
- CPU密集型,当前线程可能会连续的获得GIL,导致其它线程几乎无法使用CPU。
-
在CPython中由于有GIL存在,IO密集型,使用多线程较为合算;CPU密集型,使用多进程,要绕开GIL。
新版CPython正在努力优化GIL的问题,但不是移除。
如果在意多线程的效率问题,请绕行,选择其它语言erlang、Go等。
- Python中绝大多数内置数据结构的读、写操作都是原子操作。
- 由于GIL的存在,Python的内置数据类型在多线程编程的时候就变成了安全的了,但是实际上它们本身 不是 线程安全类型。
保留GIL的原因:
Guido坚持的简单哲学,对于初学者门槛低,不需要高深的系统知识也能安全、简单的使用Python。
而且移除GIL,会降低CPython单线程的执行效率。
- 测试下面两个计算密集型代码,会发现计算实际差不多
单线程计算
import datetime
def calc():
sum = 0
for _ in range(1000000000): #10亿
sum += 1
start = datetime.datetime.now()
for i in range(4):
calc()
dalta = (datetime.datetime.now() - start).total_seconds()
print("耗时:{}".format(dalta))
多线程计算
import datetime
import threading
def calc():
sum = 0
for _ in range(1000000000): #10亿
sum += 1
start = datetime.datetime.now()
for i in range(4):
threading.Thread(target=calc).start()
for i in threading.enumerate():
if i.name != "MainThread":
i.join()
dalta = (datetime.datetime.now() - start).total_seconds()
print("耗时:{}".format(dalta))
注意,不要在代码中出现print等访问IO的语句。访问IO,线程阻塞,会释放GIL锁,其他线程被调度。
程序1是单线程程序,所有calc()依次执行,根本就不是并发。在主线程内,函数串行执行。
程序2是多线程程序,calc()执行在不同的线程中,但是由于GIL的存在,线程的执行变成了假并发。但是这些线程 可以被调度到不同的CPU核心上执行,只不过GIL让同一时间该进程只有一个线程被执行。
从两段程序测试的结果来看,CPython中多线程根本没有任何优势,和一个线程执行时间相当。因为GIL的存在, 尤其是像上面的计算密集型程序,和单线程串行效果相当。这样,实际上就没有用上CPU多核心的优势。