菜鸟笔记
提升您的技术认知

操作系统笔记

进程,线程,协程与并行,并发进程线程协程的区别死锁进程,线程,多线程i 的线程安全性同步和异步孤儿进程和僵尸进程/proc进程信息linux中的分段和分页互斥量 mutex线程进程间通信进程创建进程优先级进程的基础知识进程与线程的区别(面试题)线程的控制(创建,终止,等待,分离)可重入 vs 线程安全死锁的概念一级缓存和二级缓存的理解一句话解说内存屏障 memory barrierbrk(), sbrk() 用法详解malloc/free函数的简单实现一文讲透 “进程、线程、协程”linux进程状态线程池的陷阱linux内核学习之进程和线程进程与线程的区别和联系内存寻址linux io子系统和文件系统读写流程page cache和buffer cache的区别与联系漫谈linux文件io多线程和多进程的区别内存泄漏字节、字、位、比特的概念和关系如何避免死锁ansi是什么编码?cpu寻址范围(寻址空间)cpu 使用率低高负载的原因创建多少个线程合适操作系统下spinlock锁解析、模拟及损耗分析线程堆栈堆和栈的内存分配堆和栈的概念和区别堆和栈的区别,申请方式,程序的内存分配什么是 pod 数据类型linux内存分配小结--malloc、brk、mmap系统调用与内存管理(sbrk、brk、mmap、munmap)进程描述和控制cpu执行程序的原理编译的基本概念linux虚拟地址空间布局一个程序从源代码到可执行程序的过程程序的运行机制——cpu、内存、指令的那些事分页内存管理——虚拟地址到物理地址的转换深刻理解linux进程间通信fork之后父子进程的内存关系fork之后,子进程继承了父进程哪些内容关于协程及其锁的一些认识对协程的一点理解std::thread join和detach区别cas和aba问题cas算法锁和无锁无锁队列的实现lock-free 编程锁开销优化以及cas进程、线程和协程之间的区别和联系多线程的同步与互斥(互斥锁、条件变量、读写锁、自旋锁、信号量)linux 原来是这么管理内存的线程上下文切换怎么玩儿进程和线程通信原理cpu密集型 和 io密集型cas原理以及atomic原子类分析改变线程状态的八个方法六种进程间通信方式

一文讲透 “进程、线程、协程”-ag真人游戏

阅读 : 659

什么是进程

进程-操作系统提供的抽象概念,是系统进行资源分配和调度的基本单位,是操作系统结构的基础。程序是指令、数据及其组织形式的描述,进程是程序的实体。程序本身是没有生命周期的,它只是存在磁盘上的一些指令,程序一旦运行就是进程。 当程序需要运行时,操作系统将代码和所有静态数据记载到内存和进程的地址空间(每个进程都拥有唯一的地址空间,见下图所示)中,通过创建和初始化栈(局部变量,函数参数和返回地址)、分配堆内存以及与io相关的任务,当前期准备工作完成,启动程序,os将cpu的控制权转移到新创建的进程,进程开始运行。

操作系统对进程的控制和管理通过pcb(processing control block),pcb通常是系统内存占用区中的一个连续存区,它存放着操作系统用于描述进程情况及控制进程运行所需的全部信息(进程标识号,进程状态,进程优先级,文件系统指针以及各个寄存器的内容等),进程的pcb是系统感知进程的唯一实体。 一个进程至少具有5种基本状态:初始态、执行状态、等待(阻塞)状态、就绪状态、终止状态

  • 初始状态:进程刚被创建,由于其他进程正占有cpu所以得不到执行,只能处于初始状态。
  • 执行状态:任意时刻处于执行状态的进程只能有一个。
  • 就绪状态:只有处于就绪状态的经过调度才能到执行状态
  • 等待状态:进程等待某件事件完成
  • 停止状态:进程结束

进程间的切换

无论是在多核还是单核系统中,一个cpu看上去都像是在并发的执行多个进程,这是通过处理器在进程间切换来实现的。 操作系统对把cpu控制权在不同进程之间交换执行的机制成为上下文切换(context switch),即保存当前进程的上下文,恢复新进程的上下文,然后将cpu控制权转移到新进程,新进程就会从上次停止的地方开始。因此,进程是轮流使用cpu的,cpu被若干进程共享,使用某种调度算法来决定何时停止一个进程,并转而为另一个进程提供服务。

  • 单核cpu双进程的情况 

进程直接特定的机制和遇到i/o中断的情况下,进行上下文切换,轮流使用cpu资源

  • 双核cpu双进程的情况 

每一个进程独占一个cpu核心资源,在处理i/o请求的时候,cpu处于阻塞状态

进程间数据共享

系统中的进程与其他进程共享cpu和主存资源,为了更好的管理主存,现在系统提供了一种对主存的抽象概念,即为虚拟存储器(vm)。它是一个抽象的概念,它为每一个进程提供了一个假象,即每个进程都在独占地使用主存。 虚拟存储器主要提供了三个能力: 

  • 将主存看成是一个存储在磁盘上的高速缓存,在主存中只保存活动区域,并根据需要在磁盘和主存之间来回传送数据,通过这种方式,更高效地使用主存
  • 为每个进程提供了一致的地址空间,从而简化了存储器管理
  • 保护了每个进程的地址空间不被其他进程破坏

由于进程拥有自己独占的虚拟地址空间,cpu通过地址翻译将虚拟地址转换成真实的物理地址,每个进程只能访问自己的地址空间。因此,在没有其他机制(进程间通信)的辅助下,进程之间是无法共享数据的

  • 以python中multiprocessing为例
import multiprocessingimport threadingimport time
n = 0

def count(num): global n for i in range(100000): n = i print("process {0}:n={1},id(n)={2}".format(num, n, id(n)))

if __name__ == '__main__': start_time = time.time() process = list() for i in range(5): p = multiprocessing.process(target=count, args=(i,)) # 测试多进程使用 # p = threading.thread(target=count, args=(i,)) # 测试多线程使用 process.append(p)
for p in process: p.start()
for p in process: p.join()
print("main:n={0},id(n)={1}".format(n, id(n))) end_time = time.time() print("total time:{0}".format(end_time - start_time))
  • 结果
process 1:n=4999950000,id(n)=139854202072440process 0:n=4999950000,id(n)=139854329146064process 2:n=4999950000,id(n)=139854202072400process 4:n=4999950000,id(n)=139854201618960process 3:n=4999950000,id(n)=139854202069320main:n=0,id(n)=9462720total time:0.03138256072998047

变量n在进程p{0,1,2,3,4}和主进程(main)中均拥有唯一的地址空间

什么是线程

线程-也是操作系统提供的抽象概念,是程序执行中一个单一的顺序控制流程,是程序执行流的最小单元,是处理器调度和分派的基本单位。一个进程可以有一个或多个线程,同一进程中的多个线程将共享该进程中的全部系统资源,如虚拟地址空间,文件描述符和信号处理等等。但同一进程中的多个线程有各自的调用栈和线程本地存储(如下图所示)。
系统利用pcb来完成对进程的控制和管理。同样,系统为线程分配一个线程控制块tcb(thread control block),将所有用于控制和管理线程的信息记录在线程的控制块中,tcb中通常包括:

  • 线程标志符
  • 一组寄存器
  • 线程运行状态
  • 优先级
  • 线程专有存储区
  • 信号屏蔽

和进程一样,线程同样有五种状态:初始态、执行状态、等待(阻塞)状态、就绪状态和终止状态,线程之间的切换和进程一样也需要上下文切换,这里不再赘述。

进程和线程之间有许多相似的地方,那它们之间到底有什么区别呢?

进程 vs 线程

  • 进程是资源的分配和调度的独立单元。进程拥有完整的虚拟地址空间,当发生进程切换时,不同的进程拥有不同的虚拟地址空间。而同一进程的多个线程是可以共享同一地址空间
  • 线程是cpu调度的基本单元,一个进程包含若干线程。
  • 线程比进程小,基本上不拥有系统资源。线程的创建和销毁所需要的时间比进程小很多
  • 由于线程之间能够共享地址空间,因此,需要考虑同步和互斥操作
  • 一个线程的意外终止会影像整个进程的正常运行,但是一个进程的意外终止不会影像其他的进程的运行。因此,多进程程序安全性更高。

总之,多进程程序安全性高,进程切换开销大,效率低;多线程程序维护成本高,线程切换开销小,效率高。(
python的多线程是伪多线程,下文中将详细介绍

什么是协程

协程(coroutine,又称微线程)是一种比线程更加轻量级的存在,协程不是被操作系统内核所管理,而完全是由程序所控制。协程与线程以及进程的关系见下图所示。

  • 协程可以比作子程序,但执行过程中,子程序内部可中断,然后转而执行别的子程序,在适当的时候再返回来接着执行。协程之间的切换不需要涉及任何系统调用或任何阻塞调用
  • 协程只在一个线程中执行,是子程序之间的切换,发生在用户态上。而且,线程的阻塞状态是由操作系统内核来完成,发生在内核态上,因此协程相比线程节省线程创建和切换的开销
  • 协程中不存在同时写变量冲突,因此,也就不需要用来守卫关键区块的同步性原语,比如互斥锁、信号量等,并且不需要来自操作系统的支持。

协程适用于io阻塞且需要大量并发的场景,当发生io阻塞,由协程的调度器进行调度,通过将数据流yield掉,并且记录当前栈上的数据,阻塞完后立刻再通过线程恢复栈,并把阻塞的结果放到这个线程上去运行。

下面,将针对在不同的应用场景中如何选择使用python中的进程,线程,协程进行分析。

如何选择?

在针对不同的场景对比三者的区别之前,首先需要介绍一下python的多线程(一直被程序员所诟病,认为是"假的"多线程)。

那为什么认为python中的多线程是“伪”多线程呢?

更换上面multiprocessing示例中,
p=multiprocessing.process(target=count,args=(i,))
p=threading.thread(target=count,args=(i,)),其他照旧,运行结果如下:

为了减少代码冗余和文章篇幅,命名和打印不规则问题请忽略

process 0:n=5756690257,id(n)=140103573185600process 2:n=10819616173,id(n)=140103573185600process 1:n=11829507727,id(n)=140103573185600process 4:n=17812587459,id(n)=140103573072912process 3:n=14424763612,id(n)=140103573185600main:n=17812587459,id(n)=140103573072912total time:0.1056210994720459
  • n是全局变量,main的打印结果与线程相等,证明了线程之间是数据共享

但是,为什么多线程运行时间比多进程还要长?这与我们上面所说(线程的开销<<进程的开销)的严重不相符啊。这就是轮到cpython(python默认的解释器)中gil(global interpreter lock,全局解释锁)登场了。

什么是gil

gil来源于python设计之初的考虑,为了数据安全(由于内存管理机制中采用引用计数)所做的决定。某个线程想要执行,必须先拿到 gil。因此,可以把 gil 看作是“通行证”,并且在一个 python进程中,gil 只有一个,拿不到通行证的线程,就不允许进入 cpu 执行。 cpython解释器在内存管理中采用引用计数,当对象的引用次数为0时,会将对象当作垃圾进行回收。设想这样一种场景:

一个进程中含有两个线程,分别为线程0和线程1,两个线程全都引用对象a。当两个线程同时对a发生引用(并未修改,不需要使用同步性原语),就会发生同时修改对象a的引用计数器,造成计数器引用少于实质性的引用,当进行垃圾回收时,造成错误异常。因此,需要一把全局锁(即为gil)来保证对象引用计数的正确性和安全性。

无论是单核还是多核,一个进程永远只能同时执行一个线程(拿到 gil 的线程才能执行,如下图所示),这就是为什么在多核cpu上,python 的多线程效率并不高的根本原因。

那是不是在python中遇到并发的需求就使用多进程就万事大吉了呢?其实不然,软件工程中有一句名言:
没有银弹!

何时用?

常见的应用场景不外乎三种:

  • cpu密集型:程序需要占用cpu进行大量的运算和数据处理;
  • i/o密集型:程序中需要频繁的进行i/o操作;例如网络中socket数据传输和读取等;
  • cpu密集 i/o密集:以上两种的结合

cpu密集型的情况可以对比以上multiprocessing和threading的例子,多进程的性能 > 多线程的性能。

下面主要解释一下i/o密集型的情况。与i/o设备交互,目前最常用的ag真人游戏的解决方案就是
dma

什么是dma

dma(direct memory access)是系统中的一个特殊设备,它可以协调完成内存到设备间的数据传输,中间过程不需要cpu介入。 以文件写入为例:

  • 进程p1发出数据写入磁盘文件的请求
  • cpu处理写入请求,通过编程告诉dma引擎数据在内存的位置,要写入数据的大小以及目标设备等信息
  • cpu处理其他进程p2的请求,dma负责将内存数据写入到设备中
  • dma完成数据传输,中断cpu
  • cpu从p2上下文切换到p1,继续执行p1

python多线程的表现(i/o密集型)

  • 线程thread0首先执行,线程thread1等待(gil的存在)
  • thread0收到i/o请求,将请求转发给dma,dma执行请求
  • thread1占用cpu资源,继续执行
  • cpu收到dma的中断请求,切换到thread0继续执行

与进程的执行模式相似,弥补了gil带来的不足,又由于线程的开销远远小于进程的开销,因此,在io密集型场景中,多线程的性能更高

实践是检验真理的唯一标准,下面将针对i/o密集型场景进行测试。

测试

  • 执行代码
import multiprocessingimport threadingimport time

def count(num): time.sleep(1) ## 模拟io操作 print("process {0} end".format(num))

if __name__ == '__main__': start_time = time.time() process = list() for i in range(5): p = multiprocessing.process(target=count, args=(i,)) # p = threading.thread(target=count, args=(i,)) process.append(p)
for p in process: p.start()
for p in process: p.join()
end_time = time.time() print("total time:{0}".format(end_time - start_time))
  • 结果
## 多进程process 0 endprocess 3 endprocess 4 endprocess 2 endprocess 1 endtotal time:1.383193016052246## 多线程process 0 endprocess 4 endprocess 3 endprocess 1 endprocess 2 endtotal time:1.003425121307373
  • 多线程的执行效性能高于多进程

是不是认为这就结束了?远还没有呢。针对i/o密集型的程序,协程的执行效率更高,因为它是程序自身所控制的,这样将节省线程创建和切换所带来的开销。

以python中asyncio应用为依赖,使用async/await语法进行协程的创建和使用。

  • 程序代码
import timeimport asyncio

async def coroutine(): await asyncio.sleep(1) ## 模拟io操作

if __name__ == "__main__": start_time = time.time()
loop = asyncio.get_event_loop() tasks = [] for i in range(5): task = loop.create_task(coroutine()) tasks.append(task)
loop.run_until_complete(asyncio.wait(tasks)) loop.close() end_time = time.time() print("total time:", end_time - start_time)
  • 结果
total time: 1.001854419708252
  • 协程的执行效性能高于多线程

总结

本文从操作系统原理出发结合代码实践讲解了进程,线程和协程以及他们之间的关系。并且,总结和整理了python实践中针对不同的场景如何选择对应的方案,如下:

  • cpu密集型:多进程
  • io密集型:多线程(协程维护成本较高,而且在读写文件方面效率没有显著提升)
  • cpu密集和io密集:多进程 协程
网站地图