IO密集型程序 在程序执行过程中存在大量IO操作,而CPU操作较少,消耗CPU较少,运行效率较低 CPU(计算)密集型程序 在程序执行中,CPU运算较多,IO操作相对较少(消耗CPU大,运行速度快) IO分类: 阻塞IO 阻塞情况: 是IO的默认形态,是效率较低的一种IO情形 1 因为某种条件没有达成造成的阻塞 accept input recv 2 处理 IO端数据传输时间较长形成的阻塞 网络传输过程,文件读写过程 非阻塞IO : 通过IO事件的属性,使其变成非阻塞状态,(让一些条件阻塞函数不再阻塞) 非阻塞IO往往和循环判断一起使用 s.setblocking(False) 将套接字设置为非阻塞状态(默认为阻塞状态) 超时检测: 将原本阻塞函数,设置一个最长阻塞时间,如果条件时间内达成则正常运行,如果仍然阻塞则被视为超时,继续向下运行或产生异常 s.settimeout(sec) 设置套接字超时时间 IO多路复用 :同时监控多个IO事件,当哪个IO事件准备就绪,就执行哪个IO事件,以此形成可以同时操作多个IO的并发行为,避免一个IO阻塞,造成所有IO都无法执行 IO准备就绪:是一种IO必然发生的临界状态 IO多路复用的编程实现: 1 将IO设置成为关注IO 2 将关注IO提交给内核监视 3 处理内核给我们反馈的准备就绪的IO 具体:select --> windows linux unix poll -->linux unix epoll -->linux unix select 模块: import select rs,ws,xs = select(rlist,wlist,xlist[,timeout]) 功能: 监控IO事件,阻塞等待IO事件发生 参数: rlist :列表, 存放我们监控等待处理的IO事件 wlist :列表,存放我们要主动操作的IO事件 xlist :列表: 我们要关注出错处理的IO事件 timeout: 超时时间 返回值 : rs 列表 rlist中准备就绪的IO ws 列表 wlist中准备就绪的IO xs 列表 xlist中准备就绪的IO 注意: 1 wlist中如果有IO事件则select立即返回到ws 2 在处理IO过程中不要处理一个客户端长期占有服务端,使服务端无法运行到select 的情况 3 IO多路复用占用计算机资源少,IO效率高 POLL 1 创建POLL对象 p= select.poll() 2 添加注册事件 p.register(s,事件) 关注S的所有IO事件
事件常量 | 意义 |
---|---|
POLLIN | 有数据读取 |
POLLPRT | 有数据紧急读取 |
POLLOUT | 准备输出:输出不会阻塞 |
POLLERR | 某些错误情况出现 |
POLLHUP | 挂起 |
POLLNVAL | 无效请求:描述无法打开 |
3 阻塞等待IO发生 events = poll.poll() 功能 :阻塞等待IO发生 返回值 :events是一个列表,列表中的每个元素都是一个元组,代表一个发生的IO事件 例子 --> (s.fileno() , event) ( 就绪文件描述符, 对应的IO事件) 使用 :需要通过文件描述符(fileno)找到对应的IO对象,然后来操作这个IO对象 4 处理具体的IO epoll方法 使用方法 : 基本与poll方法相同 * 将生产对象 poll() 改为 epoll() * 将所有poll对象事件改为epoll对象事件 区别: epoll 的效率要比 poll 和select 高 epoll 的触发方式更多 EPOLLET : 边缘触发 优点: 没有 fd 数量限制,取决于系统内存的大小,一般来说 1GB 就可以有 10W个 内核和用户控件使用同一块内存,mmap技术,没有用户态和内核态之间的拷贝,提高效率 无需遍历所有,仅仅只需要遍历已经就绪的 fd 即可 工作原理:
1 在调用 epoll_create 之后,内核就已经创建了一个 eventpoll 红黑树结构体,一个 list 双向链表,在内核态准备接受存储需要监控的 fd。
2 在调用 epoll_ctr 之后,直接向内核态的 eventpoll 进行 add/mod/del 对应的 fd,对于新添加进来的 fd,
重复的 fd 可以通过 eventpoll 红黑树识别出来,而不需要再次从用户态拷贝到内核态这个过程
3 同时 epoll 还维护了一个双向的 list 链表, 在epoll_ctr执行的时候,除了会向eventpoll 红黑树添加修改外,
还会在内核中断函数处理程序中注册一个回调函数,告诉内核,当这个 fd 就绪之后,将他放到 list 里面去。
4 在 epoll_wait 调用的时候,就是观察这个双向 list 是否有数据,有就直接处理即可
本地套接字 linux 文件 b (块设备文件) c(字符设备文件) d(目录) - (普通文件) l(链接) s(套接字) p(管道) 作用 :用于本地不同的程序间进行通信 创建流程 : 1 创建本地套接字 sockfd = socket(socket.AF_UNIX,socket.SOCK_STREAM) 2 绑定本地套接字文件 * 选定文件位置和名称 * sockfd.bind(path) 3 监听 listen() 4 消息收发 recv() send() os.path.exists(path) 功能 : 检测一个文件是否存在 参数 :文件路径 返回 : 存在返回 True 否则返回False 删除文件: os.remove(path) os.unlink(path) 功能 :删除一个文件 参数 :目标文件