线程

一：操作系统概念 操作系统定义：操作系统是一个用来协调、管理和控制计算机硬件和软件资源的系统程序，它位于硬件和应用程序之间。 操作系统的内核的定义：操作系统的内核是一个管理和控制程序，负责管理计算机的所有物理资源，其中包括：文件系统、内存管理、设备管理和进程管理。 二：操作系统历史 1.真空管与穿孔卡片（无操作系统） 2.晶体管和批处理系统 3.SPOOLING技术 4.个人计算机 三：进程和线程 1.进程： 进程就是一个程序在一个数据集上的一次动态执行过程。 进程一般由程序、数据集、进程控制块三部分组成。 线程：线程的出现是为了降低上下文切换的消耗，提高系统的并发性，并突破一个进程只能干一样事的缺陷， 使到进程内并发成为可能。 线程也叫轻量级进程，它是一个基本的CPU执行单元，也是程序执行过程中的最小单元，由线程ID、程序 计数器、寄存器集合和堆栈共同组成。线程的引入减小了程序并发执行时的开销，提高了操作系统的并发 性能。线程没有自己的系统资源。 1、 一个程序至少有一个进程,一个进程至少有一个线程。 2 、进程在执行过程中拥有独立的内存单元，而多个线程共享内存，从而极大地提高了程序的运行效率。 3、线程在执行过程中与进程还是有区别的。每个独立的线程有一个程序运行的入口、顺序执行序列和 程序的出口。但是线程不能够独立执行，必须依存在应用程序中，由应用程序提供多个线程执行控制。 4

一、线程与进程的区别 先简单说说线程与进程的概念： （1）进程是指一个内存中运行的应用程序，比如在Windows系统中，一个运行的exe就是一个进程。 （2）线程是指进程中的一个执行流程。 区别： 一个程序至少有一个进程，而一个进程至少有一个线程。一个应用程序可以同时启动多个进程。例如对于IE浏览器程序，每打开一个IE浏览器窗口，就启动了一个新的进程。而线程则是指进程中的一个执行流程，一个进程可以有多个线程，每个线程分别执行不同的任务，当进程内的多个线程同时运行时，这种运行方式就被称为并发运行。 另外，线程与进程还有一个非常重要的区别：每个进程在执行过程中都拥有独立的内存单元，而同一个进程中的多个线程则共享内存，从而极大地提高了程序的运行效率。 二、对多线程并发的理解 多线程并发只是表面和感觉上的并发，并不是实质上的并发。一个线程要运行，它必须占有CPU，而我们目前用的计算机大多都是单CPU的，所以一次最多只能有一个线程获取CPU并运行。 多线程的实质是“最大限度地利用CPU资源”，当某一个线程的处理不需要占用CPU而只需要和I/O等资源打交道时，让其他线程有机会获得CPU资源。这有点类似于“统筹方法”，例如让你打扫房子和烧水，要在最短的时间内做好这两件事，你一定会想到先把水烧上，然后在等水烧开的空闲时间中去打扫房子，而不是先打扫好了再去烧水，也不是先烧好了再去打扫，这个例子里面

进程 :正在进行中的程序被称为进程，负责程序运行的内存分配;每一个进程都有自己独立的虚拟内存空间； 线程 :线程是进程中一个独立的执行路径(控制单元);一个进程中至少包含一条线程，即主线程。 队列 ： dispatch_queue_t，一种先进先出的数据结构， 线程的创建和回收不需要程序员操作，由队列负责。 　　 串行队列 ：队列中的任务只会顺序执行(类似跑步) 　　　　　　 dispatch_queue_t q = dispatch_queue_create(“....”, dispatch_queue_serial); 　　 并行队列 ：队列中的任务通常会并发执行(类似赛跑) 　　　 　　dispatch_queue_t q = dispatch_queue_create("......", dispatch_queue_concurrent); 　　 全局队列 ：是 系统开发 的，直接拿过来（get）用就可以；与并行队列类似，但调试时，无法确认操作所在队列 　　　 　　dispatch_queue_t q = dispatch_get_global_queue(dispatch_queue_priority_default, 0); 　　 主队列 ：每一个应用程序对应唯一一个主队列，直接get即可；在多线程开发中，使用主队列更新UI 　　　　　　 dispatch_queue

线程是并发，进程是并行；进程之间相互独立，是系统分配资源的最小单位，同一个线程中的所有线程共享资源。 并行，同一时刻多个任务同时在运行。 并发，在同一时间内隔内多个任务都在运行，但是都不会在同一时刻同时运行，存在交替执行的情况。 实现并行的库有【multiprocessing】 实现并发的库有【threading】 程序需要执行较多的读写，请求和回复任务需要大量的io操作，io密集型操作使用并发更好。 cpu运算量大的程序，使用并行会更好。 来源： https://www.cnblogs.com/duanlinxiao/p/10384590.html

同步异步是啥？打个比方： 定义：同步和异步关注的是 消息通信机制 (synchronous communication/ asynchronous communication)。同步，就是调用某个东西是，调用方得等待这个调用返回结果才能继续往后执行。异步，和同步相反 调用方不会理解得到结果，而是在调用发出后调用者可用继续执行后续操作，被调用者通过状体来通知调用者，或者通过回掉函数来处理这个调用 比方说： 你去商城买东西，你看上了一款手机，能和店家说你一个这款手机，他就去仓库拿货，你得在店里等着，不能离开，这叫做同步。现在你买手机赶时髦直接去京东下单，下单完成后你就可用做其他时间（追剧、打王者、lol）等货到了去签收就ok了.这就叫异步。 更具体点拿我们的方法调用来举例子： 同步方法 调用一旦开始，调用者必须等到方法调用返回后，才能继续后续的行为。 异步方法 调用更像一个消息传递，一旦开始，方法调用就会立即返回，调用者就可以继续后续的操作。而，异步方法通常会在另外一个线程中，“真实”地执行着。整个过程，不会阻碍调用者的工作 我加两张图让你更好理解 同步执行 同步执行当调用方法执行完成后并返回结果，才能执行后续代码 异步执行 异步调用的话可用参考ajax，调用方法后不会等到sum方法执行完成，而是直接执行后续代码。sum方法执行完成后主要通过状态通知主线程

同步：函数没有执行完不返回，线程被挂起； 　　阻塞：没有收完数据函数不返回，线程也被挂起； 　　异步：函数立即返回，通过事件或是信号通知调用者； 　　非阻塞：函数立即返回，通过select通知调用者 这样看来异步和非阻塞有什么区别呢？ 异步=非阻塞？ 同步是在操作系统层面上，阻塞是在套接字上？ Reactor是同步 Proactor是异步？ 回答： 同步、异步、阻塞和非阻塞的概念 　　在进行网络编程时，我们常常见到同步、异步、阻塞和非阻塞四种调用方式。这些方式彼此概念并不好理解。下面是我对这些术语的理解。 同步 　　所谓同步，就是在发出一个功能调用时，在没有得到结果之前，该调用就不返回。按照这个定义，其实绝大多数函数都是同步调用（例如sin,isdigit等）。但是一般而言，我们在说同步、异步的时候，特指那些需要其他部件协作或者需要一定时间完成的任务。最常见的例子就是SendMessage。该函数发送一个消息给某个窗口，在对方处理完消息之前，这个函数不返回。当对方处理完毕以后，该函数才把消息处理函数所返回的LRESULT值返回给调用者。 异步 　　异步的概念和同步相对。当一个异步过程调用发出后，调用者不能立刻得到结果。实际处理这个调用的部件在完成后，通过状态、通知和回调来通知调用者。以CAsycSocket类为例（注意，CSocket从CAsyncSocket派生

同步(synchronous):所谓同步，就是在发出一个功能调用时，在没有得到结果之前，该调用就不返回。按照这个定义，其实绝大多数函数都是同步调用（例如sin, isdigit等）。但是一般而言，我们在说同步、异步的时候，特指那些需要其他部件协作或者需要一定时间完成的任务。最常见的例子就是SendMessage(JAMBOL注：PostMessage是异步机制)。该函数发送一个消息给某个窗口，在对方处理完消息之前，这个函数不返回。当对方处理完毕以后，该函数才把消息处理函数所返回的LRESULT值返回给调用者。 异步(asynchronous):异步的概念和同步相对。当一个异步过程调用发出后，调用者不能立刻得到结果。实际处理这个调用的部件在完成后，通过状态、通知和回调来通知调用者。以CAsycSocket类为例（注意，CSocket从CAsyncSocket派生，但是起功能已经由异步转化为同步），当一个客户端通过调用Connect函数发出一个连接请求后，调用者线程立刻可以朝下运行。当连接真正建立起来以后，socket底层会发送一个消息通知该对象。这里提到执行部件和调用者通过三种途径返回结果：状态、通知和回调。可以使用哪一种依赖于执行部件的实现，除非执行部件提供多种选择，否则不受调用者控制。如果执行部件用状态来通知，那么调用者就需要每隔一定时间检查一次，效率就很低

synchronized 关键字的三种使用方式 　　修饰实例方法，作用于当前对象实例加锁，进入同步代码前要获得当前对象实例的锁。 　　修饰静态方法，作用于当前类对象加锁，进入同步代码前要获得当前类对象的锁 。也就是给当前类加锁，会作用于类的所有对象实例，因为静态成员不属于任何一个实例对象，是类成员（ static 表明这是该类的一个静态资源，不管new了多少个对象，只有一份，所以对该类的所有对象都加了锁）。所以如果一个线程A调用一个实例对象的非静态 synchronized 方法，而线程B需要调用这个实例对象所属类的静态 synchronized 方法，是允许的，不会发生互斥现象，因为访问静态 synchronized 方法占用的锁是当前类的锁，而访问非静态 synchronized 方法占用的锁是当前实例对象锁。 　　修饰代码块，指定加锁对象，对给定对象加锁，进入同步代码库前要获得给定对象的锁。 和 synchronized 方法一样，synchronized(this)代码块也是锁定当前对象的。synchronized 关键字加到 static 静态方法和 synchronized(class)代码块上都是是给 Class 类上锁。需要注意的是：尽量不要使用 synchronized(String a) 因为JVM中，字符串常量池具有缓冲功能！ synchronized

先看执行的结果： 1 主函数正在创建线程，... 2 线程1被创建 3 Thread1 : I'm thread 1th 4 线程2被创建 5 Thread2 : I'm thread 2nd 6 thread2 : number = 0 7 线程3被创建 8 主函数正在等待线程结束... 9 thread1 : number = 0 10 Thread3 : I'm thread 3nd 11 thread3 : number = 2 12 thread3 : number = 3 13 thread2 : number = 4 14 thread1 : number = 5 15 thread3 : number = 6 16 thread2 : number = 7 17 thread3 : number = 8 18 thread1 : number = 9 19 thread3 : number = 10 20 thread2 : number = 11 21 thread3 : number = 12 22 thread2 : number = 13 23 thread1 : number = 14 24 thread3 : number = 15 25 thread3 : number = 16 26 thread2 : number = 17 27 thread1

TensorFlow的Session对象是支持多线程的，可以在同一个会话（Session）中创建多个线程，并行执行。在Session中的所有线程都必须能被同步终止，异常必须能被正确捕获并报告，会话终止的时候， 队列必须能被正确地关闭。 TensorFlow提供了两个类来实现对Session中多线程的管理：tf.Coordinator和 tf.QueueRunner，这两个类往往一起使用。 Coordinator类用来管理在Session中的多个线程，可以用来同时停止多个工作线程并且向那个在等待所有工作线程终止的程序报告异常，该线程捕获到这个异常之后就会终止所有线程。 使用 tf.train.Coordinator()来创建一个线程管理器（协调器）对象 。 QueueRunner类用来启动tensor的入队线程，可以用来启动多个工作线程同时将多个tensor（训练数据）推送入文件名称队列中，具体执行函数是 tf.train.start_queue_runners ， 只有调用 tf.train.start_queue_runners 之后，才会真正把tensor推入内存序列中，供计算单元调用，否则会由于内存序列为空，数据流图会处于一直等待状态 。 tf中的数据读取机制如下图： 调用 tf.train.slice_input_producer，从 本地文件里抽取tensor