隨著RISC-V這一革命性的開源指令集架構(gòu)在全球范圍內(nèi)的迅速普及，它為半導體行業(yè)帶來了前所未有的機遇與挑戰(zhàn)。在此大背景下，芯來科技和華東師范大學SOLE實驗室攜手合作，致力于在RISC-V處理器上進行深入的LLVM/CLANG編譯器優(yōu)化以及程序性能優(yōu)化和調(diào)優(yōu)。

我們不僅優(yōu)化了LLVM編譯器的多個關(guān)鍵環(huán)節(jié)，提升了代碼生成效率和執(zhí)行性能，還針對視頻編解碼、性能測試等應(yīng)用場景進行了深入分析和優(yōu)化，提高了相關(guān)軟件的執(zhí)行效率。

此次合作在RISC-V處理器上實現(xiàn)了一定程度的性能提升，同時，我們也希望能夠為RISC-V性能優(yōu)化領(lǐng)域的同仁們提供一些有益的借鑒和參考。我們相信，通過持續(xù)的技術(shù)創(chuàng)新和開放的合作精神，我們可以共同推動這一領(lǐng)域的發(fā)展和進步。下面是我們本次合作的主要成果。

一、MCPPass冗余指令的刪除優(yōu)化

在LLVM-17.x版本當中，生成的RISC-V端代碼會出現(xiàn)冗余數(shù)據(jù)搬運指令無法刪除的問題，詳情如下圖所示。在兩個紅框顯示的vmv指令當中，v0以及v8寄存器的值都沒有得到改變，但LLVM最終生成的RISC-V代碼依然會對這兩個值進行重復搬運。

冗余vmv指令無法在LLVM/Clang中消除的示例

經(jīng)過核查，出現(xiàn)該問題的根因是LLVM的Machine Copy Propagation Pass對寄存器使用的Def-Use記錄不當所導致。經(jīng)過對該問題進行修復后，該工作已經(jīng)提交到了LLVM的上游倉庫。該優(yōu)化亦應(yīng)用到了LLVM多個后端的代碼生成當中，如RISC-V、X86以及AMDGPU的后端代碼生成當中。

二、RVV的低精度數(shù)據(jù)向量化取余以及右移代碼生成優(yōu)化

C語言會采用Promotion Rule來保證混合精度或者是低精度數(shù)據(jù)運算結(jié)果的準確性，當遇到低精度數(shù)據(jù)如int8或者int16類型的數(shù)據(jù)進行逐元素（Element-Wise）取余或者是算術(shù)右移操作時，會先將相應(yīng)的數(shù)據(jù)提升至32位，再將結(jié)果進行截斷至原來的精度以保證運算結(jié)果的正確性。然而，取決于RVV 1.0指令集動態(tài)調(diào)整元素大小的特性，該過程需要一系列的vsetvli類指令進行操作。

考慮到相關(guān)的計算溢出結(jié)果以及指令的行為在RVV 1.0指令集中已經(jīng)得到明確定義，在LLVM編譯器生成相關(guān)代碼時可以進行下圖所示的優(yōu)化：

Element-wise vrem.vv優(yōu)化前

Element-wise vrem.vv優(yōu)化后

Element-wise vsra.vv優(yōu)化前

Element-wise vsra.vv優(yōu)化后 這些優(yōu)化不僅可以從指令的語義上保證計算結(jié)果的正確性，而且能有效地避免頻繁復雜的數(shù)據(jù)精度提升與下降操作，這些優(yōu)化工作亦被提交到了LLVM的上游倉庫當中。

三、FFMPEGX264編解碼熱點采集分析

RISC-V Vector 1.0向量化指令集可以被用于視頻編解碼應(yīng)用的加速處理當中，而FFMPEG作為最常見的音視頻處理軟件之一，在其關(guān)鍵核心且可向量化函數(shù)當中，大部分亦都利用RVV 1.0匯編或者Intrinsic進行了重寫。盡管如此，如何針對其常用的x264編解碼功能進行編譯優(yōu)化機會的探索，依然是提高其執(zhí)行效率的一個重要手段。

我們采集對比了GCC 14.1與LLVM/Clang 17.2編譯出來的FFMPEG，在進行x264視頻編解碼時的熱點函數(shù)，詳情下圖所示。根據(jù)結(jié)果可以看到，熱點函數(shù)都聚集在了libx264的x264_piexel_sad類函數(shù)之上。

FFMPEG X264編碼熱點分析（GCC）

FFMPEG X264編碼熱點分析（LLVM/Clang）

x264_pixel_sad類函數(shù)聲明

而這類x264_piexel_sad函數(shù)本質(zhì)上就是一系列的abs函數(shù)的處理，這類函數(shù)的定義可以如上圖所示。

以16x16的迭代大小為例子，下面的圖分別對比了LLVM/Clang以及GCC在該函數(shù)上生成代碼的細致區(qū)別（開啟-O3）。

x264_piexel_sad_16x16函數(shù) GCC生成代碼

x264_piexel_sad_16x16函數(shù) LLVM/Clang生成代碼

可以看到，在默認O3的選項下，GCC生成的代碼對于這類核心函數(shù)的處理效率遠不如LLVM/Clang。這是因為GCC默認采用LMUL=1（向量化分組大小為1）的大小進行代碼生成，即其生成的RVV代碼采用的LMUL大小不能高于1。在探索到這些根因后，可以采用GCC最新14.1版本中所提供的-mrvv-max-lmul=dynamic選項對這類生成的代碼進行改進，采用該選項優(yōu)化后的代碼如下圖所示：

LMUL設(shè)置為dyanamic時GCC生成的代碼

此時，GCC在此處生成的代碼執(zhí)行效率已經(jīng)能夠和LLVM/Clang相匹配。因此，我們在采用GCC編譯的FFMPEG進行x264視頻編解碼時，為了更高的核心代碼執(zhí)行效率，建議將GCC動態(tài)調(diào)整LMUL大小的編譯選項進行開啟。

四、CoreMark的JumpThreading優(yōu)化

Coremark是評估CPU性能常見的一個測試程序，但是采用LLVM/Clang編譯器編譯優(yōu)化coremark程序跑分效果遠遠比不上GCC，因此我們分析了Coremark程序的熱點函數(shù)，發(fā)現(xiàn)可以通過Jump Threading技術(shù)來進行優(yōu)化，Jump Threading是一種專門用于控制流程圖（CFG）優(yōu)化的一種編譯優(yōu)化技術(shù)，它會在執(zhí)行分支前遇到確定變量的值時，直接執(zhí)行確認值在分支以后的路徑，即采用無條件的跳轉(zhuǎn)替代條件跳轉(zhuǎn)，詳情如下圖所示：

優(yōu)化前的CFG

優(yōu)化后的CFG

該優(yōu)化會對CFG路徑中變量的值進行掃描遍歷，并尋找到可以利用無條件跳轉(zhuǎn)替換條件判斷的路徑，并進行基本塊的克隆與路徑的替換?？紤]到該掃描過程較為耗時，LLVM中默認的Jump Threading優(yōu)化采取較為輕量級的掃描方式。通過在芯來編譯工具鏈的LLVM/Clang中引入一系列更為激烈的Jump Threading掃描優(yōu)化手段后，將采用Clang編譯的CoreMark并運行在芯來N300模擬器上的跑分提升約18%。

LLVM/Clang調(diào)優(yōu)前CoreMark跑分

引入額外Jump Threading優(yōu)化后的CoreMark跑分

五、SPECCPU2006的編譯選項調(diào)優(yōu)

SPEC CPU 2006 INT是業(yè)界常用的CPU性能基準測試套件，為了提高SPEC CPU 2006 INT的測試跑分，常常需要找到更適合的編譯選項來對編譯器進行調(diào)優(yōu)，以獲得更好的SPEC分數(shù)。然而，考慮到目前大部分的最佳跑分配置都是利用業(yè)界專用編譯器，如Intel的ICC編譯器以及AMD的AOCC編譯器等進行跑分。對于RISC-V指令集架構(gòu)平臺，這類專用的編譯器并不能夠適用。同時，假如采用Ref測試集來進行編譯選項的調(diào)優(yōu)，則需要消耗大量的測試時間。

為了加速調(diào)優(yōu)，我們采用了一種更為靈活且快捷的基于Qemu仿真器的動態(tài)指令計數(shù)對比的編譯選項調(diào)優(yōu)方法。下圖展示了采用GCC-13對SPEC CPU2006 INT的TEST測試集進行選項調(diào)優(yōu)的結(jié)果。

SPEC CPU 2006 INT動態(tài)指令數(shù)目調(diào)優(yōu)結(jié)果

經(jīng)過精心調(diào)優(yōu)的編譯選項在SPEC CPU2006 INT的多項測試程序中顯著降低了動態(tài)指令的數(shù)量。進一步地，我們在FPGA開發(fā)板上進行了實際的性能對比測試。結(jié)果表明，這種基于動態(tài)指令計數(shù)的調(diào)優(yōu)方法不僅有效，而且在資源受限的開發(fā)板或仿真CPU主頻受限的FPGA環(huán)境中，為編譯選項的優(yōu)化提供了一種切實可行的策略。這一發(fā)現(xiàn)為在類似條件下的性能提升開辟了新的探索路徑。

此次合作是雙方在技術(shù)研究和應(yīng)用開發(fā)領(lǐng)域共同努力的成果，它體現(xiàn)了我們團隊在探索和實踐過程中的專注與努力。同時，我們對于能夠參與到產(chǎn)學研合作這一推動技術(shù)革新的重要力量中來而深感榮幸。相信通過這樣的合作模式，我們能夠與業(yè)界同仁共同學習、相互啟發(fā)，為整個技術(shù)社區(qū)的發(fā)展貢獻綿薄之力。

審核編輯：彭菁