NUMA(Non-Uniform Memory Access Architecture)系统在市场上的应用越来越广泛，许多厂商都成功推出了基于 NUMA 架构的服务器，本文重点讨论了当前 Linux 的 NUMA 技术，主要包括:存储管理、NUMA 调度和用户层的 API，并在 SGI 的 Altix 350 系统上进行了 NUMA 基本测试，对进行 Linux NUMA 技术的研究具备参考价值。

一、引言

随着科学计算、事务处理对电脑性能需要的不断提高，SMP(对称多处理器)系统的应用越来越广泛，规模也越来越大，但由于传统的 SMP 系统中，任何处理器都共享系统总线，因此当处理器的数目增大时，系统总线的竞争冲突加大，系统总线将成为瓶颈，所以现在 SMP 系统的 CPU 数目一般只有数十个，可扩展能力受到极大限制。NUMA 技术有效结合了 SMP 系统易编程性和 MPP(大规模并行)系统易扩展性的特点，较好解决了 SMP 系统的可扩展性问题，已成为当今高性能服务器的主流体系结构之一。现在外国著名的服务器厂商都先后推出了基于 NUMA 架构的高性能服务器，如 HP 的 Superdome、SGI 的 Altix 3000、IBM 的 x440、NEC 的 TX7、AMD 的Opteron 等。随着 Linux 在服务器平台上的表现越来越成熟，Linux 内核对 NUMA 架构的支持也越来越完善，特别是从 2.5 开始，Linux 在调度器、存储管理、用户级 API 等方面进行了大量的 NUMA 优化工作，现在这部分工作还在不断地改进，如新近推出的 2.6.7-RC1 内核中增加了 NUMA 调度器。本文主要从存储管理、调度器和 CpuMemSets 三个方面展开讨论。

二、NUMA 存储管理

NUMA 系统是由多个结点通过高速互连网络连接而成的，如图 1 是 SGI Altix 3000 ccNUMA 系统中的两个结点。

图 1 SGI Altix3000 系统的两个结点

NUMA 系统的结点通常是由一组 CPU(如，SGI Altix 3000 是 2 个Itanium2 CPU)和本地内存组成，有的结点可能更有I/O子系统。由于每个结点都有自己的本地内存，因此全系统的内存在物理上是分布的，每个结点访问本地内存和访问其他结点的远地内存的延迟是不同的，为了减少非一致性访存对系统的影响，在硬件设计时应尽量降低远地内存访存延迟(如通过 Cache 一致性设计等)，而操作系统也必须能感知硬件的拓扑结构，优化系统的访存。

现在 IA64 Linux 所支持的 NUMA 架构服务器的物理拓扑描述是通过 ACPI(Advanced Configuration and Power Interface)实现的。ACPI 是由 Compaq、Intel、Microsoft、Phoenix 和 Toshiba 联合定制的 BIOS 规范，他定义了一个很广泛的配置和电源管理，现在该规范的版本已发展到 2.0，3.0 版本正在定制中，具体信息能够从 http://www.acpi.info 网站上获得。ACPI 规范也已广泛应用于 IA-32 架构的至强服务器系统中。

Linux 对 NUMA 系统的物理内存分布信息是从系统 firmware 的 ACPI 表中获得的，最重要的是 SRAT(System Resource Affinity Table)和 SLIT(System Locality Information Table)表，其中 SRAT 包含两个结构:

Processor Local APIC/SAPIC Affinity Structure:记录某个 CPU 的信息;

Memory Affinity Structure:记录内存的信息;

SLIT 表则记录了各个结点之间的距离，在系统中由数组 node_distance[ ] 记录。Linux 采用 Node、Zone 和页三级结构来描述物理内存的，如图 2 所示，

图 2 Linux 中 Node、Zone 和页的关系

2.1 结点

Linux 用一个 struct pg_data_t 结构来描述系统的内存，系统中每个结点都挂接在一个 pgdat_list 列表中，对 UMA 体系结构，则只有一个静态的 pg_data_t 结构 contig_page_data。对 NUMA 系统来说则很容易扩充，NUMA 系统中一个结点能够对应 Linux 存储描述中的一个结点，具体描述见 linux/mmzone.h。 

typedef struct pglist_data {

            　　zone_t node_zones[MAX_NR_ZONES];

            　　zonelist_t node_zonelists[GFP_ZONEMASK 1];

            　　int nr_zones;

            　　struct page *node_mem_map;

            　　unsigned long *valid_addr_bitmap;

            　　struct bootmem_data *bdata;

            　　unsigned long node_start_paddr;

            　　unsigned long node_start_mapnr;

            　　unsigned long node_size;

            　　int node_id;

            　　struct pglist_data *node_next;

            　　} pg_data_t;

下面就该结构中的主要域进行说明:

文章整理：西部数码--专业提供域名注册、虚拟主机服务
http://www.west263.com
以上信息与文章正文是不可分割的一部分,如果您要转载本文章,请保留以上信息，谢谢!