一直以來，圍繞CUDA打造的軟件生態(tài)，是英偉達在GPU領(lǐng)域最大的護城河，尤其是隨著目前AI領(lǐng)域的發(fā)展加速，市場火爆，英偉達GPU+CUDA的開發(fā)生態(tài)則更加穩(wěn)固，AMD、英特爾等廠商雖然在努力追趕，但目前還未能看到有威脅英偉達地位的可能。
最近一家英國公司Spectral Compute推出了一款方案，可以為AMD的GPU原生編譯CUDA源代碼，目前正在RNDA2、RDNA3上進行規(guī)模測試。這或許可以打破CUDA與英偉達GPU的生態(tài)壁壘？
SCALE編譯器
Spectral Compute據(jù)稱花了7年時間開發(fā)SCALE，SCALE不依賴英偉達的代碼，而是通過一些開源LLVM組件等，建立了其CUDA兼容的工具鏈，讓SCALE在多個平臺之間能高度兼容。
其實在以往也有一些其他GPU硬件兼容CUDA的方式，比如AMD支持的ZLUDA推出的開源移植項目，通過重新編譯二進制代碼，就能夠讓CUDA庫在AMD自家的ROCm上運行，令AMD GPU適配CUDA生態(tài)。
但SCALE的特性在于，可以避免代碼移植的步驟，開發(fā)人員可以使用單一版本的代碼庫，因為SCALE本身與CUDA的源代碼兼容，這大大提高了可用性。
Spectral Compute的CEO Michael Sondergaard表示：我們相信，只需要編寫一次代碼，就可以在任何硬件平臺上運行它，對于CPU代碼來說，這已經(jīng)實現(xiàn)很多年了，那為什么GPU不行呢？我們著手通過彌合主流的CUDA編程語言和其他GPU硬件供應(yīng)商之間的兼容性差距，來直接解決這個問題。
Michael 還提到：“應(yīng)該構(gòu)建一個圍繞GPU的開源生態(tài)系統(tǒng)，類似目前CPU所享有的生態(tài)環(huán)境，同時確保不同平臺間的互聯(lián)互通?！彼J為，通過SCALE可以彌合CUDA與其他硬件供應(yīng)商之間的兼容性鴻溝，從而打破市場上存在的壁壘。
據(jù)介紹，SCALE是一種通用并行GPU工具包，其功能與英偉達的CUDA工具包相仿，它能夠在編譯CUDA代碼的同時，為非英偉達 GPU生成相應(yīng)的二進制文件，這樣就徹底避免了對翻譯層的依賴。
目前，SCALE已經(jīng)在多種軟件中成功運行，比如Blender、Llama-cpp、XGboost、FAISS、GOMC、STDGPU、Hashcat和NVIDIA Thrust等專業(yè)軟件，這些軟件已經(jīng)可以在RDNA2和RDNA3的AMD GPU上正常使用CUDA。
不過SCALE本身不是開源的，但用戶可以通過免費的軟件許可使用這個功能，這或許是為了規(guī)避英偉達針對CUDA兼容而出臺的EULA條款。
其他廠商兼容CUDA的努力
市場上其實并不缺乏CUDA的挑戰(zhàn)者，包括AMD的ROCm，開放標準聯(lián)盟Khronos Group聯(lián)合旗下成員打造出的SYCL編程語言等，而英特爾也與SYCL深度綁定，希望打破CUDA的統(tǒng)治。
當然，對于AMD和英特爾這樣的巨頭而言，他們有資本去嘗試構(gòu)建一個新的生態(tài)，但對于更多的初創(chuàng)公司和中小規(guī)模公司而言，兼容就是成本最低的路線。
比如國內(nèi)的GPU初創(chuàng)公司摩爾線程，基于MUSA的統(tǒng)一架構(gòu)推出了多款GPU產(chǎn)品，并打造了軟件開發(fā)平臺，包括AI開發(fā)平臺、MUSA SDK、MT Smart Media和MTVerse XR等。
而這套生態(tài)架構(gòu)可以充分兼容現(xiàn)有的軟件生態(tài)，能借助MUSIFY工具實現(xiàn)代碼零成本遷移到MUSA平臺，也包括對CUDA生態(tài)的兼容。
在2021年的時候，在一個名為Vortex的RISC-V GPU項目上，也實現(xiàn)了對CUDA軟件工具包的支持。
在這個項目中，研究人員設(shè)計并實現(xiàn)了一條流水線，旨在全面支持從CUDA到增強版RISC-V GPU架構(gòu)的代碼遷移。這條流水線以CUDA源代碼為起點，目標是在強化的RISC-V GPU架構(gòu)上直接運行這些代碼。具體而言，流水線分為以下幾步：首先將CUDA源代碼轉(zhuǎn)換為NVVM中間表示（IR），接著把NVVM IR轉(zhuǎn)化為SPIR-V IR，隨后利用POCL將SPIR-V IR轉(zhuǎn)譯成針對RISC-V的二進制文件，最終在增強后的RISC-V GPU上執(zhí)行這些二進制文件。
寫在最后
盡管CUDA生態(tài)目前是英偉達GPU的最大優(yōu)勢之一，但從這些廠商的努力可以看到，其他GPU硬件也正在有越來越多的方法兼容CUDA，有機會從英偉達手中奪得一些市場份額。但AI領(lǐng)域的龍頭效應(yīng)越來越強，能夠挑戰(zhàn)英偉達的GPU廠商可能機會越來越小了。
