【linux 多线程并发】多任务调度器,调度策略时间片轮转,先进先出,多种实时任务的策略,内核级最高优先级调度策略

任务调度器

专栏内容

  • 参天引擎内核架构
    本专栏一起来聊聊参天引擎内核架构,以及如何实现多机的数据库节点的多读多写,与传统主备,MPP的区别,技术难点的分析,数据元数据同步,多主节点的情况下对故障容灾的支持。

  • 手写数据库toadb
    本专栏主要介绍如何从零开发,开发的步骤,以及开发过程中的涉及的原理,遇到的问题等,让大家能跟上并且可以一起开发,让每个需要的人成为参与者。
    本专栏会定期更新,对应的代码也会定期更新,每个阶段的代码会打上tag,方便阶段学习。

开源贡献

个人主页我的主页
管理社区开源数据库
座右铭:天行健,君子以自强不息;地势坤,君子以厚德载物.

前言

现代的CPU都是多core处理器,而且在intel处理器中每个core又可以多个processor,形成了多任务并行处理的硬件架构,在服务器端的处理器上架构又有一些不同,传统的采用SMP,也就是对称的多任务处理架构,每个任务都可以对等的访问所有内存,外设等,而如今在ARM系列CPU上,多采用NUMA架构,它将CPU核分了几个组,给每个组的CPU core分配了对应的内存和外设,CPU访问对应的内存和外设时速度最优,跨组访问时性能会降底一些。

随着硬件技术的持续发展,它们对一般应用的性能优化能力越来越强,同时对于服务器软件的开发,提出更高要求,要想达到极高的并发和性能,就需要充分利用当前硬件架构的特点,对它们进行压榨。那么,我们的应用至少也是要采用多任务架构,不管是多线程还是多进程的多任务架构,才可以充分利用硬件的资源,达到高效的处理能力。

当然多任务框架的采用,不仅仅是多线程的执行,需要对多任务下带来的问题进行处理,如任务执行返回值获取,任务间数据的传递,任务执行次序的协调;当然也不是任务越多处理越快,要避免线程过多导致操作系统夯住,也要防止任务空转过快导致CPU使用率飙高。

本专栏主要介绍使用多线程与多进程模型,如何搭建多任务的应用框架,同时对多任务下的数据通信,数据同步,任务控制,以及CPU core与任务绑定等相关知识的分享,让大家在实际开发中轻松构建自已的多任务程序。

概述

现代操作系统都是多任务的系统,它们都会有一个任务调度器的功能,在操作系统课程上,我们也学过各种任务调度算法,在实际实现中会依据各种应用场景实现多套不同的调度策略。

调度器介绍

多任务的调度是一项非常复杂的事情,linux的历史版本中,经常会对调度做一些优化,这里简单介绍一下linux的调度器。

在CPU中一般会有一个以上的core,每个core又可以分多个processor,常见的就是intel i5,i7的CPU, 在linux 下,可以通过 cat /proc/cpuinfo 查看,每个’core id’看对应几个processor。

实际运行的程序任务数量远远大于这些处理器的数量的,所以操作系统中一般会有一个调度器的模块,通过一定的方法,让各个任务都有机会在CPU上执行,常见的有时间片轮转,先来先服务,优先级抢占等策略;操作系统为了应对不同的使用场景,也制定了一系统策略供应用者选择。

linux调度器策略,有一些是给内核任务用的,有一些是留给用户任务,目前对这些策略分了五大类,这五类之间优先级是固定的,按优先级从高到低,分别为 Stop,Deadline,Realtime,CFS,Idle,每种类型下可能会有多种调度策略,下面简单分享一下。

在调度器中会维护一个任务的优先级队列,当产生任务时,会根据任务的优先级,将它插入到相同优先级的任务队列的末尾,当有高优先级任务时,会抢占低优先级任务。

而当一个任务时间片或周期到时,主动释放CPU后,但任务还没有完成,此任务仍然会重新插入到相同优先级的任务队列末尾,如果它是当前最高优先级任务时,它会被立即调度运行。

Stop-task scheduling 分类

在linux 内核代码中如下描述

// SPDX-License-Identifier: GPL-2.0
/*
 * stop-task scheduling class.
 *
 * The stop task is the highest priority task in the system,it preempts
 * everything and will be preempted by nothing.
 *
 * See kernel/stop_machine.c
 */
 

Stop scheduling class是优先级最高级别的调度,它可以抢占任何任务的资源,同时它不能被抢占,直到它自己完成或释放CPU。

这一特性决定它只能被内核线程使用,主要处理一些CPU切换的任务,也就是调度器的管理工作,比如通过top命令,可以看到有 migration/1,这里的数字是CPU core的意思,将任务在不同core之间迁移的调度。

deadline scheduling 分类

该分类下有一种处理策略 SCHED_DEADLINE,这是在linux 3.14版本中引入的,它是用户线程优先级最高的处理级别,使用GEDF (Global Earliest Deadline First) 和 CBS (Constant Bandwidth Server) 两种算法的结合。

SCHED_DEADLINE 策略的任务,是以任务截止时间为调度周期,当该任务占用CPU时,会抢占比它优先级低的任务(比如后面大类下的策略任务),直到任务的截止时间到期,或者任务完成才会释放CPU。

此类策略主要用于多媒体处理,如音视频的编解码处理任务,和其它预设任务期限的处理。

在linux中,使用sched_setattr进行设置。

Realtime(RT) scheduling 分类

此分类下有两种调度策略可选,每种策略下还可以指定任务的优先级,优先级范围为 1-99,数字越大优先级越高;

当然此大类下的任务的优先级都高于后面介绍的大类的任务,同时优先级也低于前面两个大类的任务。

  • SCHED_FIFO: First in-first out scheduling
    这种策略相对简单,相同优先级的任务先入队的,先进行调度运行,直到更高优先级任务抢占,或者任务完成为止,或者自己释放CPU。

  • SCHED_RR: Round-robin scheduling
    此种策略是前一种的增强,运行周期最大为系统定义的时间片,超过时间片就会被调度到队列中,时间片可以通过sched_rr_get_interval函数进行查看。

这两种策略都可以用pthread_attr_setschedpolicy进行设置。

completely fair (CFS) scheduling 分类

正如分类名称,完全公平的调度,这一大类主要用于用户线程,创建线程时默认策略就是SCHED_OTHER;

此大类下有三种调度策略可选,它们的优先级必须设置为0,它们使用另一权重 nice 的设置,调整同类策略任务的优先级,nice值范围为-20 - 19,值越小权重越大,也就是优先级越高。

  • SCHED_OTHER: Default Linux time-sharing scheduling

默认创建线程的策略,在内核中的命名是SCHED_NORMAL,也就是用户线程最常用的一种分时调度策略。每个任务的可用时间片由nice值来决定,当nice值低时,有更多的时间来运行,当nice值高时,运行的时间相比就会少一些;

  • SCHED_BATCH:Scheduling batch processes

主要运行一些非交互式的批处理任务,这些任务需要持续运行一段时间,它们是计算密集性,不适合频繁的调度。

此策略下的任务通常在没有SCHED_OTHER策略的任务时,才进行调度运行。

  • SCHED_IDLE: Scheduling very low priority jobs

此类型策略对应的任务优先级最低,通常用于系统中没有其它任务时,才进行调度运行,它的nice 值对本身的优先级没有影响。

Idle scheduling 分类

SCHED_IDLE是有区别的,在此分类下暂时没有策略可选,它是一种优先级最低的调度类型,目前它不用于用户级的线程调度,只用于内核调度器在CPU空闲时的任务 swapper/1,数字代表core编号,此时没有任务,CPU处于一种节能模式。

总结

多任务操作系统,如Windows和Linux,允许多个程序同时运行,为现代计算提供了强大的支持。采用多任务操作系统的原因为了提高计算机的效率和响应速度。在单任务操作系统中,计算机只能一次完成一个任务,这导致效率低下。而多任务操作系统通过同时处理多个任务,提高了工作效率。例如,在编辑文档的同时下载文件或听音乐,大大增强了用户的体验。总之,多任务操作系统满足了现代社会的多元化需求,为人们提供了便捷、高效的工作与生活方式。

结尾

非常感谢大家的支持,在浏览的同时别忘了留下您宝贵的评论,如果觉得值得鼓励,请点赞,收藏,我会更加努力!

作者邮箱:study@senllang.onaliyun.com
如有错误或者疏漏欢迎指出,互相学习。

原文地址:https://blog.csdn.net/senllang/article/details/135323184

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


linux常用进程通信方式包括管道(pipe)、有名管道(FIFO)、信号(signal)、消息队列、共享内存、信号量、套接字(socket)。管道用于具有亲缘关系的进程间通信,有名管道的每个管道具有名字,使没有亲缘关系的进程间也可以通信。信号是比较复杂的通信方式,用于通知接受进程有某种事件发生,除
Linux性能观测工具按类别可分为系统级别和进程级别,系统级别对整个系统的性能做统计,而进程级别则具体到进程,为每个进程维护统计信息。

按实现原理分,可分为基于计数器和跟踪以及剖析。含义如下:

计数器:内核维护的统计数据,通常为无符号整型,用于对发生的事件计数,比如,网络包接收计数器,磁
本文详细介绍了curl命令基础和高级用法,包括跳过https的证书验证,详细追踪整个交互过程,可用于调用网络后端接口,诊断http和https网络服务故障。
本文包含作者工作中常用到的一些命令,用于诊断网络、磁盘占满、fd泄漏等问题。命令包括ping、fping、tcpdump、lsof、netstat、/proc/$pid/fd、du、grep、traceroute、dig。
linux的平均负载表示运行态和就绪态及不可中断状态(正在io)的进程数目,用uptime查看到负载很高,既有可能是CPU利用率高,也可能是大量在等待io的进程导致,用mpstat查看每个CPU的使用情况,查看CPU的使用率或者CPU花在等待io的时间,接着用pidstat定位具体的进程
CPU上下文频繁切换会导致系统性能下降,切换分为进程切换、线程切换及中断切换,进程切换的开销较大,除了需要保存寄存器和程序计数器中的值还需保存全局变量、栈等到内存中,以便下次运行恢复,而同一进程中的线程切换开销会小很多,只需更新寄存器和线程独有的栈,共享资源如打开的文件、全局变量等无需切换,当硬件中
1.top命令 作用:该命令可以按CPU使用.内存使用和执行时间对任务进行排序,常用来监控系统中占用CPU或内存较高的程序及CPU和内存的负载。 默认视图: 当想看系统负载时,可观察汇总的%CPU中的us用户进程和sy系统进程是否占用CPU很高,相加接近100%就说明占用很高了,有些程序可能得不到及
文章浏览阅读1.8k次,点赞63次,收藏54次。Linux下的目录权限!!!粘滞位!!!超详解!!!
文章浏览阅读1.6k次,点赞44次,收藏38次。关于Qt的安装、Windows、Linux、MacBook_mack book 安装qt
本文介绍了使用shell脚本编写一个 Hello
文章浏览阅读1.5k次,点赞37次,收藏43次。【Linux】初识Linux——了解操作系统的发展历史以及初次体验Linux编程环境
文章浏览阅读3k次,点赞34次,收藏156次。Linux超详细笔记,个人学习时很认真的记录的,觉得好的麻烦点个赞。
文章浏览阅读6.8k次,点赞109次,收藏114次。【Linux】 OpenSSH_9.3p1 升级到 OpenSSH_9.5p1(亲测无问题,建议收藏)_openssh_9.5p1
文章浏览阅读3.5k次,点赞93次,收藏78次。初识Linux中的线程,理解线程的各种概念,理解进程地址空间中的页表转换,介绍pthread线程库并理解线程库!
文章浏览阅读863次。出现此问题为Linux文件权限问题,解决方案为回到引擎目录执行命令。输入用户密码后运行./UnrealEditor。_increasing per-process limit of core file size to infinity.
文章浏览阅读2.9k次。使用文本编辑器:打开CSV文件,并使用文本编辑器(如Notepad++、Sublime Text、Visual Studio Code等)来查看文件的字符编码格式。通常在编辑器的底部状态栏或设置中可以找到当前编码的显示。请注意,上述方法并非绝对准确,特别是当文件没有明确的编码标识时。因此,如果你发现CSV文件在不同的工具或方法中显示不同的编码格式,可能需要进行进一步的分析和判断,或者尝试使用不同的编码转换方法。该命令将输出文件的MIME类型和编码信息。使用命令行工具:在命令行中,你可以使用。_shell读取csv文件逐行处理
本文介绍了如何在Linux系统中升级gcc版本,以便更好地支持C++11及以上版本的新特性。通过升级gcc,可以提升编译器的功能和性能,获得更好的开发体验。详细的步骤和方法请参考原文链接。
文章浏览阅读4.4k次,点赞6次,收藏19次。Mosquitto是一个开源的MQTT消息代理服务器。MQTT是一个轻量级的、基于发布/订阅模式的消息传输协议。 mosquitto的安装使用比较简单,可以方便的来进行一些测试。_linux mosquitto
文章浏览阅读7.2k次,点赞2次,收藏12次。Linux中,用于根目录下有一个.ssh目录,保存了ssh相关的key和一些记录文件。_~/.ssh/
文章浏览阅读4.5k次,点赞5次,收藏18次。首先需要安装 snmp ,使用下面的命令进行安装安装完毕之后,使用下面的命令查看是否安装成功当命令行显示如图即为安装成功。_snmp工具