嵌入式系统超标量体系CPU的高效软件优化技术

张云

（国电南京自动化股份有限公司，南京 211100）

引 言

公司基于超标量体系结构的某款PowerPC芯片开发出了电力系列自动化装置，它对实时性要求很高。但软件的运行效率低，这就需要我们针对该芯片的超标量体系结构特点进行软件优化。实践中，在针对性优化后进行对比实验，装置软件运行效率大大提高，实际效果良好。

1 超标量体系结构PowerPC芯片特点

1.1 超标量体系结构芯片

PowerPC芯片属于超标量体系结构。超标量体系结构是一种微处理器设计模式，它能够在一个时钟周期内执行多条指令。在超标量体系结构设计中，处理器或指令编译器判断指令能否独立于其他顺序指令而执行，或是依赖于另一指令，必须按顺序执行。然后处理器使用多个执行单元并行执行两个或更多独立指令。

1.2 PowerPC芯片特点

1.2.1 流水线机制

该芯片一条指令，可简单分为取指、译码、执行，提交4个时钟周期操作。同一周期，CPU的不同部件可并行执行多条指令的不同操作，从而达到指令并行，提高CPU的吞吐率。

1.2.2 总线频率

该芯片的主频达到400MHz，但访问内存的总线频率是100MHz，只有主频的1／4。由此可见，当访问内存数据时，其运行时间比执行计算程序慢多了。当系统大量访问内存时，系统运行速度会明显下降。

1.2.3 16KB的指令Cache和16KB的数据Cache

PowerPC芯片中指令Cache和数据Cache中访问指令和数据的速度与主频一样。同样，当读取指令和数据时在Cache中读取的速度约是内存中读取速度的4倍。

（1）指令Cache运作机制

每次指令运行时若指令未在指令Cache中，即指令Cache未命中，则一次从内存中读出待执行的连续32字节（32字节相当于8个浮点数）指令到指令Cache。同时将指令Cache中最久未访问的代码淘汰出Cache。32字节相当于3～5条普通C语言代码。

（2）数据Cache运作机制

每次访问数据时，若数据未在数据Cache中，即数据Cache未命中，则一次从内存中读出连续32字节数据到数据Cache。同时将数据Cache中最久未访问的数据淘汰出Cache。

2 从超标量流水线机制的角度进行优化

2.1 超标量流水线机制对程序效率的分析

从前面的流水线机制可以看到，若指令能达到尽可能的并行，程序运行效率会明显提高。这就需要优化代码，让编译器优化成并行指令。

2.2 从提高指令并行和流水线不被打断的角度进行优化

要提高指令并行，主要就要提高代码并行可能性。防止流水线不被打断，就是要尽量避免跳转。

2.2.1 循环体代码并行执行的优化

代码举例1：

该代码循环体代码之间因为存在相关数据，导致代码无法被CPU并行执行，需要避免类似代码。

代码举例2：

该代码循环体代码之间不存在相关，能被CPU并行执行。CPU执行时代码如下：

2.2.2 代码顺序执行避免跳转的优化

跳转的语句主要有if＿else结构、switch＿case结构、循环结构等。

if＿else结构可以将选择概率最大的语句放到if语句之后。因为取指时，紧接着if语句的指令会被取到。这样发生跳转的次数降低，流水线被中断的概率降低。

尽量降低循环嵌套层数和循环次数，这样发生跳转的次数也降低。

2.2.3 避免小段程序代码循环的优化

比如2～3句的小循环，可以适当展开。一是可以提高循环内指令并行的可能性。二是可以减少跳转次数。循环体代码超过10句普通C语言代码，可以不要展开。

3 从指令Cache的角度进行优化

3.1 指令Cache对程序效率的分析

从前面分析可知，若程序取指环节能从指令Cache中读取，而不是每次都从内存中读取，则能显著提高程序执行速度。

3.2 从提高指令Cache命中的角度进行优化

①尽量使程序顺序执行。

②避免大量相似的代码重复实现、分散调用。

③尽量将相同的代码在一个地方循环执行，提高指令Cache的命中率。不要分散执行，导致多次读取同一段代码到指令Cache中。

3.2.1 多个相似函数的优化

代码举例3：

优化为

这样相同的代码一次即可从内存读到Cache中，另外2次指令都是从Cache中读取。

3.2.2 大函数拆分的优化

由于函数体较大，超出了指令Cache的大小，导致第1次循环结束、第2次循环开始时，函数体前面内容已经被调出Cache。同样代码又重新从内存中读取到Cache中，如此反复，实际的结果是函数体Func代码被三次从内存中读取到Cache中，导致效率大大降低。

代码举例4：

被优化为：

将函数体Func分成几个单独的子函数：Func1、Func2、Func3，然后分别循环。这样Func1循环时，由于代码量较小，整个函数体都在Cache中。Func2、Func3类似。这样的结果是，函数体Func1、Func2、Func3都只从内存被读一次到Cache中。

4 从数据Cache的角度进行优化

4.1 数据Cache对程序效率的分析

从前面分析可知，在程序取操作数环节，若能从数据Cache中读取操作数，而不是每次都从内存中读取则能提高程序执行速度。

4.2 从提高数据Cache命中的角度进行优化

①访问数据时，最好是对同一段数据在一个地方集中访问。

②访问数据时，最好是根据数据的顺序依次访问。比如对数组的访问，最好是按数组成员依次访问，效率较高。

③为了使程序能够连续访问数据，需要调整数据结构、重构代码使得数据结构和程序配合，提高数据Cache的命中率。

4.2.1 数组连续访问的优化

代码举例5：

被优化为：

这样优化后，数据每次访问都是连续的。

4.2.2 将不连续数据访问重构为连续访问的优化

代码举例6：

被优化为：

5 软件优化实验结果

5.1 优化对比实验

在自动化装置的主要消耗资源的实时扫描任务中进行了代码分析，并按上述可能优化措施进行了优化。优化前实时扫描任务占用资源为系统CPU总资源的52%。代码优化后实时扫描任务占用CPU资源只有系统总资源的31%。

对比可以看出，系统效率提高了40%，效果是非常明显的。

结 语

虽然CPU的标称性能指标非常高，但其有专用的体系结构，对一般开发者的编程开发方式而言并不是完全匹配，导致发挥不出CPU的潜力。所以有针对性的根据CPU的体系结构特点进行分析，并采取针对性的优化措施，才能真正发挥其性能，满足嵌入式强实时性要求。

［1］John L Hennesy，David A Patterson.计算机系统结构：一种定量的方法［M］.北京：清华大学出版社，2002.