1 引言

　　随着计算机应用的日益普及，用户对计算机的处理能力的需求也在成指数级增长。为了满足用户的需求，处理器生产厂商也采用了诸如超流水，分支预测，超标量，乱序执行，缓存等技术提高处理器的性能，但是这些技术的采用也增加了微处理器的复杂性，带来了诸如材料，功耗，光刻，电磁兼容性等一系列问题。因此处理器设计人员开始寻找新的途径来提高处理器的性能。Intel公司于2002年底推出了超线程技术，通过共享处理器的执行资源，提高CPU的利用率，让处理单元获得更高的吞吐量。

　　2 超线程技术背景

　　传统的处理器内部存在着多种并行操作方式。①ILP(Instruction Level Paramllelism,指令级并行)：既同时执行几条指令，单CPU就能完成。但是传统的单CPU处理器只能同时执行一个线程，很难保证CPU资源得到100%的利用，性能提高只能通过提升时钟频率和改进架构。②TLP（Thread Level Paramllesim，线程级并行）：可以同时执行多个线程，但是需要多处理器系统的支持，通过增加CPU的数量来提高性能。

　　超线程微处理器将SMT（Simultaneous Multi-Threading,同时多线程技术）引入Intel体系结构，支持超线程技术的操作系统将一个物理处理器视为两个逻辑处理器，并且为每个逻辑处理器分配一个线程运行。物理处理器在两个逻辑处理器之间分配高速缓存，执行单元，总线等执行资源，让暂时闲置的运算单元去执行其它的线程代码，从而最大限度的提升CPU资源的利用率。

　　Superscalar粗粒度多线程细粒度，细粒度多线程以及同时多线程的执行时空图的比较。不同颜色表示不同程序的指令，白色表示空闲，同一横行中的指令在同一时刻执行。我们可以看出的同时多线程的系统利用率最高,系统的吞吐量也最高。

　　Intel 超线程技术通过复制、划分、共享Intel的Netburst微架构的资源让一个物理CPU中具有两个逻辑CPU。（1）复制的资源：每个逻辑CPU都维持了一套完整的体系结构状态，包括通用寄存器，控制寄存器，高级可编程寄存器（APIC），以及一些机器状态寄存器，体系结构状态对程序或线程流进行跟踪，从软件的角度，一旦体系结构状态被复制了，就可以将一个物理CPU视为两个逻辑CPU。（2）划分的资源：包括重定序（re-order)缓冲，Load/Store缓冲，队列等 。划分的资源在多任务模式总分给两个逻辑CPU使用，在单任务模式时合并起来给一个逻辑CPU使用。（3）共享的资源：包括cache，执行单元等，逻辑CPU共享物理CPU的执行单元进行加，减，取数等操作。

　　在线程调度时，体系结构状态对程序或线程流进行跟踪，各项工作（包括加、乘、加载等）由执行资源（处理器上的单元）负责完成。每个逻辑处理器可以单独对中断做出响应。第一个逻辑处理器可以跟踪一个线程，同时第二个逻辑处理器跟踪另一个线程。例如，当一个逻辑处理器在执行浮点运算时，另一个逻辑处理器可以执行加法运算和加载操作。

　　对于拥有超线程技术的CPU可以同时执行处理两个线程，它可以将来自两个线程的指令同时发送到处理器内核执行，处理器内核采用乱序指令调度并发执行两个线程，以确保其执行单元在各时钟周期均处于运行状态。传统的双处理器系统，每个处理器有一套独立的体系结构状态和处理器执行资源。每个处理器上只能同时执行一个线程。支持超线程的双处理器系统，每个处理器有两套独立体系结构状态，可以独立的响应中断。

　　3 Linux超线程感知调度优化

　　Linux从2.4.17开始支持超线程技术，传统的Linux O(1)调度器不能区分物理CPU和逻辑CPU，因此不能充分利用超线程处理器的特性。Ingo Monlar编写了“HT-aware scheduler patch”，针对超线程技术对O(1)调度器进行了调度算法优化，首先优先安排线程在空闲的物理CPU的逻辑CPU上运行，避免资源竞争带来的性能下降，并且在线程调度时考虑到了在两个逻辑CPU之间进行线程迁移的开销远远小于物理CPU之间的迁移开销以及逻辑CPU共享cache等资源的特性。这些优化的相关算法被Linux的后期版本吸收，具体如下：

　　（1）共享运行队列

　　在SMP (Symmetrical Multi-Processing，对称多处理)环境中，O(1)调度器为每个CPU分配了一个运行队列，避免了多CPU共用一个运行队列带来的资源竞争。Linux会将超线程CPU中的两个逻辑CPU视为SMP的两个独立CPU,各维持一个运行队列，但是这两个逻辑CPU共享cache等资源，没有体现超线程CPU的特性，因此引入了共享运行队列的概念。HT-aware scheduler patch在运行队列struct runqueue结构中增加了nr_cpu和cpu两个属性，nr_cpu记录物理CPU中的逻辑CPU的数目，cpu则指向同属CPU（同一个物理CPU上的另一个逻辑CPU）的运行队列。

　　在Linux中通过调用sched_map_runqueue( )函数实现两个逻辑CPU的运行队列的合并，sched_map_runqueue( )首先会查询系统的CPU队列，通过phys_proc_id(记录逻辑CPU所属的物理CPU的ID)判断当前CPU的同属逻辑CPU，如果找到同属逻辑CPU，则将当前CPU运行队列的cpu属性指向同属逻辑 CPU的运行队列。

　　

　　

　　（2）支持“被动的”负载均衡

　　用中断驱动的均衡操作必须针对各个物理 CPU，而不是各个逻辑 CPU。否则可能会发生：一个物理 CPU 运行两个任务，而另一个物理 CPU 不运行任务；现有的调度程序不会将这种情形认为是“失衡的”。在调度程序看来，似乎是第一个物理处理器上的两个 CPU 运行 1-1 任务，而第二个物理处理器上的两个 CPU 运行 0-0 任务。

　　在2.6.0之前，Linux只有通过load_balance( )函数进行CPU之间负载均衡，当某个CPU负载过轻而另一个CPU负载较重时，系统会调用load_balance( )函数从重载CPU上迁移线程到负载较轻的CPU上，只有系统最繁忙的CPU的负载超过当前CPU负载的 25% 时才进行负载平衡。找到最繁忙的CPU（源CPU）之后，确定需要迁移的线程数为源CPU负载与本CPU负载之差的一半,然后按照从 expired 队列到 active 队列、从低优先级线程到高优先级线程的顺序进行迁移。

　　在超线程系统中进行负载均衡时，如果也是将逻辑CPU等同于SMP环境中的单个CPU进行调度，这样可能会出现将线程迁移到同一个物理CPU的两个逻辑CPU上，从而导致物理CPU的负载过重。

　　2.6.0之后Linux开始支持NUMA(Non-Uniform Memory Access Architecture)体系结构。进行负载均衡时除了考虑单个CPU的负载 ，还考虑了 NUMA 下各个节点的负载情况。

　　Linux的超线程调度借鉴NUMA的算法，将物理CPU当作NUMA中的一个节点，并且将物理CPU中的逻辑CPU映射到该节点，通过运行队列中的node_nr_running属性记录当前物理CPU的负载情况。

　　Linux实现了balance_node( )函数进行物理CPU之间的负载均衡。物理CPU间的负载平衡作为 rebalance_tick() 函数中的一部分在 load_balance( ) 之前启动，避免出现一个物理CPU 运行 1-1 任务，而第二个物理处理器上的运行 0-0 任务情况。balance_node( ) 先调用 find_busiest_node( ) 找到系统中最繁忙的节点，然后在该节点和当前 CPU 组成的 CPU集合中进行 load_balance( )，把最繁忙的物理CPU中的线程迁移到当前CPU上。然后rebalance_tick( )函数再调用load_balance（工作集为当前的物理CPU中的所有逻辑CPU）进行一次逻辑CPU之间的负载均衡。

　　（3）支持“主动的”负载均衡

　　当一个逻辑 CPU 变成空闲，可能造成一个物理 CPU 的负载失衡。例如：系统中有两个物理CPU，一个物理CPU上运行一个任务并且刚刚结束，另一个物理CPU上正在运行两个任务，此时出现了一个物理CPU空闲而另一个物理CPU忙的现象。

　　Linux中通过active_load_balance( )函数进行主动的负载均衡，active_load_balance( )函数用于在所有的逻辑CPU中查询该CPU的忙闲情况，如果发现由于超线程引起的负载不平衡（一个物理CPU的两个逻辑CPU都空闲，另一个物理CPU的两个逻辑CPU都在运行两个线程），则唤醒一个需要迁移的线程，将它从一个忙的物理CPU迁移到一个空闲的物理CPU上。

　　active_load_balance( )通过调用cpu_rq( )函数得到每一个逻辑CPU上的运行队列。如果运行队列上的当前运行线程为idle线程则说明当前逻辑CPU为空闲，如果发现一个物理CPU两个逻辑CPU都为空闲，而另一个物理CPU中的两个逻辑CPU的运行队列为繁忙的情况，则说明存在超线程引起的负载不均衡。这时当前CPU会唤醒迁移服务线程（migration_thread）来完成负载均衡的线程迁移。

　　（4）支持超线程感知的任务挑选

　　在超线程处理器中由于cache资源为两个逻辑处理器共享，因此调度器在选取一个新任务时，必须确保同组的任务尽量共享一个物理CPU，从而减少cache 失效的开销，提高系统的性能，而传统的调度器只是简单地为逻辑CPU选取一个任务，没有考虑物理CPU的影响。

　　Linux进行线程切换时会调用schedule( )函数进行具体的操作，如果没有找到合适的任务schedule（）函数则会调度idle线程在当前CPU上运行，在超线程环境中Linux调度idle线程运行之前会查询其同属CPU的忙闲状况，如果同属CPU上有等待运行的线程则会调用一次load_balance( )函数在两个同属CPU之间作一次负载均衡，将等待运行的线程迁移到当前CPU上，保证优先运行同属CPU上的任务。

　　（5）支持超线程感知的CPU唤醒

　　传统的调度器只知道当前CPU，而不知道同属的逻辑CPU，在超线程环境下，一个逻辑 CPU 正在执行任务，其上的一个线程被唤醒了 ，但它的同属逻辑CPU是空闲的，则应该在同属逻辑CPU上运行刚刚唤醒的任务。

　　Linux通过wake_up_cpu( )函数来实现CPU唤醒，在try_to_wakeup,pull_task,move_task_away加入了wake_up_cpu( )函数的相应调用点。wake_up_cpu（）首先查询当前CPU是不是空闲的，如果当前CPU为空闲，则调用resched_cpu( )函数启动调度器，将唤醒的线程调度上当前CPU执行 。如果当前CPU不是空闲，则查找其同属逻辑CPU，如果同属逻辑CPU是空闲的，则将唤醒的线程调度上同属逻辑CPU上执行。如果同属逻辑CPU也不为空闲，则再比较唤醒的线程和当前CPU上运行的线程的优先级，如果唤醒的线程的优先级高，或者优先级相等但是时间片多，则进行线程切换，在当前CPU上调度执行唤醒的线程。如果上述条件都不满足，最后比较唤醒的线程和当前CPU的同属逻辑CPU上运行的线程的优先级，如果唤醒的线程的优先级高，或者优先级相等但是时间片多，则在同属逻辑CPU上调度唤醒的线程

　　4 性能测试

　　Linux-2.6.0 HT-aware scheduler patch实现了上述的超线程调度优化，这里根据linux-2.6.0 HT-aware scheduler patch对这几种调度优化进行了性能测试。

　　测试硬件环境：Xeon 2.2G处理器（支持超线程）×4，2G SDRAM内存。

　　Benchmark：(1) volanomark是一个纯java的benchmark，专门用于测试系统调度器和线程环境的综合性能，它建立一个模拟Client/Server方式的Java聊天室，通过获取每秒平均发送的消息数来评测宿主机综合性能（数值越大性能越好）。Volanomark测试与Java虚拟机平台相关，本文使用Sun Java SDK 1.4.2作为测试用Java平台，Volanomark版本2.5.0.9。(2) LMBench： 是一个用于评价系统综合性能的多平台开源benchmark，,我们对其进行了修改实现了 lat_thread_ctx接口,用来测试线程的切换开销。

　　表4表明开启超线程后volanomark在Linux-2.6.0平台下平均吞吐量提高了25.5％。由于Linux的O(1)内核调度器实现比较好的SMP负载均衡算法，所以在超线程环境下整个系统的性能也有比较好的提升。

　　Linux在进行了超线程调度优化后，在支持超线程的平台上的获得的性能加速比。在Linux-2.6.0加入HT-aware scheduler patch后volanomark的平均吞吐提高了 8.5％，分别实现支持主动负载均衡，被动的负载均衡，CPU唤醒和任务挑选的相关代码后，吞吐量分别提高了1.8.%,.2.5%,2.3%和2.1％。

　　我们使用Lmbench创建了10~150个线程,测试在不同的负载条件下线程的切换开销。表一的数据显示HT-aware scheduler patch可以将线程的切换开销减少3%～7%。数据显示在轻负载情况下，系统可以获得更多的加速比。因为被动的负载均衡以及主动的负载均衡只有在系统有CPU空闲时才能发挥比较好的作用。

　　

表一：线程切换开销

　　

　　5 相关工作和展望

　　采用支持超线程技术的Linux可以获得较大的性能提升。但是其调度算法还要根据实际的应用进一步研究。在文献[7]中，提出“Symbiosis”概念用来衡量多个线程在SMT环境中同时执行的有效性。在文献[8]中提出了线程敏感的调度算法，用一组硬件性能计数器计算在两个逻辑CPU上运行不同作业子集的执行信息，利用这些信息来预测不同作业子集的执行性能，并选择具有最好预测性能的作业子集调度上同一个物理CPU执行。文献[9]中主要研究适合SMT 结构并考虑作业优先级的调度器。研究结果表明，这些调度算法能有效提高超线程系统的性能。

　　Intel的超线程技术是其企业产品线中的重要特征，并将会集成到越来越多的产品中，它标志着Intel微处理器一个新的时代：从指令级并行到线程级并行，这样使微处理器运行模式与多线程应用的运行模式更加接近，应用程序可以充分利用线程级和指令级并行进行优化。随着超线程处理器的发展可能会出现操作系统使用处理器系统中硬件性能监视器估算系统在某一个时间段的某些性能指标，然后利用这些性能指标来指导线程的调度策略。

欢迎访问最专业的网吧论坛,无盘论坛,网吧经营,网咖管理,网吧专业论坛https://bbs.txwb.com

关注天下网吧微信,了解网吧网咖经营管理，安装维护: