中科馭數(shù)（北京）科技有限公司（以下簡(jiǎn)稱“中科馭數(shù)”）在北京發(fā)布了關(guān)于DPU（指數(shù)據(jù)處理器芯片）的一套核心技術(shù)，包括國(guó)內(nèi)首顆量產(chǎn)全功能DPU芯片K2Pro，以及基于該芯片的自研芯片架構(gòu)和專用的指令集技術(shù)。
該公司表示，之所以發(fā)布一整套技術(shù)而非單顆芯片，是因?yàn)樗鼈兿嗷ヒ蕾?、相互增?qiáng)，共同構(gòu)成了一個(gè)高效、靈活且功能強(qiáng)大的DPU解決方案。
中科馭數(shù)已完成三代DPU芯片的迭代研發(fā)
中科馭數(shù)成立于2018年，是一家專注于DPU芯片研發(fā)設(shè)計(jì)的企業(yè)，目前已經(jīng)完成三代DPU芯片的迭代研發(fā)，并成功實(shí)現(xiàn)規(guī)?；逃?。2019年，中科馭數(shù)研發(fā)了第一代DPU芯片K1，這是業(yè)界首顆數(shù)據(jù)庫(kù)和持續(xù)數(shù)據(jù)處理融合加速的芯片。
K1能夠應(yīng)用在大數(shù)據(jù)以及數(shù)據(jù)計(jì)算密集型的場(chǎng)景，如金融計(jì)算、數(shù)據(jù)中心、5G等相關(guān)的計(jì)算場(chǎng)景。這顆芯片的重要意義在于驗(yàn)證了中科馭數(shù)KPU芯片架構(gòu)的可行性。據(jù)介紹，K1已進(jìn)入金融計(jì)算行業(yè)，在風(fēng)控、極速交易等業(yè)務(wù)場(chǎng)景中實(shí)現(xiàn)應(yīng)用。
KPU是中科馭數(shù)基于“軟件定義加速器”技術(shù)路線自主研發(fā)的敏捷異構(gòu)眾核的芯片架構(gòu)。目前中科馭數(shù)已經(jīng)研發(fā)了5個(gè)應(yīng)用領(lǐng)域80余類(lèi)功能核，其中包括網(wǎng)絡(luò)協(xié)議處理核、大數(shù)據(jù)處理核等重要的自研技術(shù)組件。KPU中不同的功能核可以通過(guò)軟件定義進(jìn)行自由配置，大大降低芯片的設(shè)計(jì)成本，同時(shí)KPU每個(gè)功能核都是面向特定的功能，因此能做到性能最優(yōu)。
2022年12月，中科馭數(shù)發(fā)布了第二代DPU芯片K2，采用28nm制程工藝，支持網(wǎng)絡(luò)、存儲(chǔ)、虛擬化等功能卸載，是當(dāng)時(shí)國(guó)內(nèi)首顆功能較完整的ASIC形態(tài)的DPU芯片。K2可達(dá)到1.2μs超低時(shí)延，支持最高200G網(wǎng)絡(luò)帶寬。K2基于中科馭數(shù)自研的KPU芯片架構(gòu)，可廣泛適用于金融計(jì)算、高性能計(jì)算、數(shù)據(jù)中心、云原生、5G邊緣計(jì)算等場(chǎng)景。
基于DPU芯片核心技術(shù)，中科馭數(shù)還研發(fā)了超低時(shí)延DPU網(wǎng)卡、RDMA加速卡、數(shù)據(jù)查詢加速DPU卡以及面向金融計(jì)算領(lǐng)域的極速風(fēng)控、極速行情等解決方案。
近日，中科馭數(shù)正式推出第三代DPU（數(shù)據(jù)處理器）芯片K2-Pro。K2-Pro是國(guó)內(nèi)首顆量產(chǎn)全功能DPU算力芯片，專為未來(lái)數(shù)據(jù)中心和云原生環(huán)境定制優(yōu)化。該芯片基于自主研發(fā)的KPU架構(gòu)，集網(wǎng)絡(luò)、存儲(chǔ)、安全及計(jì)算等多業(yè)務(wù)卸載功能于一體。
在數(shù)據(jù)處理方面，K2-Pro的包處理速率翻倍至80Mpps，在網(wǎng)絡(luò)密集型應(yīng)用中能提供更高的吞吐量和更低的延遲。它強(qiáng)化了對(duì)復(fù)雜業(yè)務(wù)的支持，集成多種硬件卸載引擎，如網(wǎng)絡(luò)卸載、流表卸載、存儲(chǔ)卸載及RDMA網(wǎng)絡(luò)卸載等。采用PPP、NP內(nèi)核及P4可編程架構(gòu)，實(shí)現(xiàn)業(yè)務(wù)與同構(gòu)算力、異構(gòu)算力靈活擴(kuò)展，用戶可以根據(jù)實(shí)際需求動(dòng)態(tài)調(diào)整和優(yōu)化系統(tǒng)配置。
在處理復(fù)雜任務(wù)時(shí)，K2-Pro較上一代芯片能耗降低30%，實(shí)現(xiàn)低功耗運(yùn)行。K2-Pro可應(yīng)用于超低延遲網(wǎng)絡(luò)、數(shù)據(jù)中心、金融計(jì)算、大數(shù)據(jù)處理、高性能計(jì)算等場(chǎng)景，提升算力基礎(chǔ)設(shè)施效率，減少能耗浪費(fèi)，降低成本。
與K2-Pro DPU芯片同時(shí)發(fā)布的還有軟件開(kāi)發(fā)平臺(tái)HADOS3.0，它擁有驅(qū)動(dòng)、計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)、安全等不同層次的API數(shù)量高達(dá)2765個(gè)，適配了8款CPU平臺(tái)以及10大主流操作系統(tǒng)，是業(yè)內(nèi)適配最完全、在國(guó)內(nèi)實(shí)際落地部署最多的DPU軟件平臺(tái)之一。
還有聯(lián)合行業(yè)內(nèi)眾多合作伙伴共同打造的馭云高性能云底座解決方案，將云計(jì)算體系中的基礎(chǔ)設(shè)施層面完全下沉，為集群提供網(wǎng)絡(luò)轉(zhuǎn)發(fā)、存儲(chǔ)服務(wù)、安全防護(hù)、管理調(diào)度等能力，可為云計(jì)算提供高性能、高吞吐、高安全的算力底座。
DPU在人工智能發(fā)展中的重要作用
DPU的概念最初由美國(guó)公司Fungible在2016年提出，旨在優(yōu)化和提升數(shù)據(jù)中心效能。DPU被認(rèn)為是數(shù)據(jù)中心繼CPU和GPU之后的“第三顆主力芯片”，主要用于云計(jì)算、數(shù)據(jù)中心這種大規(guī)模算力場(chǎng)景。
最初，DPU是為了加速網(wǎng)絡(luò)數(shù)據(jù)包處理而設(shè)計(jì)的，以降低主機(jī)CPU的負(fù)載。隨著人工智能和大數(shù)據(jù)分析的發(fā)展，DPU的功能逐漸擴(kuò)展到加速各種數(shù)據(jù)處理任務(wù)，包括深度學(xué)習(xí)推理、存儲(chǔ)加速和安全加密等。
DPU被定位為以數(shù)據(jù)為中心構(gòu)造的專用處理器，采用軟件定義技術(shù)路線支撐基礎(chǔ)設(shè)施層資源虛擬化，支持存儲(chǔ)、安全、服務(wù)質(zhì)量管理等基礎(chǔ)設(shè)施層服務(wù)。
DPU的有著廣泛多樣化的應(yīng)用場(chǎng)景，如，在數(shù)據(jù)中心中，DPU可以加速網(wǎng)絡(luò)數(shù)據(jù)包處理、存儲(chǔ)加速和安全加密等任務(wù)。在邊緣設(shè)備上部署DPU可以加速本地?cái)?shù)據(jù)處理，減少與云端的通信延遲，并提高隱私和安全性。DPU可以用于加速深度學(xué)習(xí)模型的推理過(guò)程，從而實(shí)現(xiàn)實(shí)時(shí)的人工智能應(yīng)用。在圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理等場(chǎng)景中，DPU可以提供高性能的計(jì)算能力，滿足實(shí)時(shí)性要求。
DPU的發(fā)展有著非常重大的價(jià)值，隨著計(jì)算任務(wù)的日益密集，以CPU為中心的傳統(tǒng)數(shù)據(jù)中心架構(gòu)面臨性能提升的瓶頸。在大型數(shù)據(jù)中心，流量處理大約占用20%至30%的計(jì)算資源。而DPU最直接的作用是作為CPU的卸載引擎，接管網(wǎng)絡(luò)虛擬化、硬件資源池化等基礎(chǔ)設(shè)施層服務(wù)，從而釋放寶貴的CPU資源以運(yùn)行上層應(yīng)用，實(shí)現(xiàn)數(shù)據(jù)為中心的業(yè)務(wù)和基礎(chǔ)設(shè)施操作的分離。
中科馭數(shù)創(chuàng)始人鄢貴海介紹說(shuō)：“如果把CPU比作大腦、GPU比作肌肉，那么DPU就相當(dāng)于神經(jīng)中樞。DPU負(fù)責(zé)數(shù)據(jù)在各種CPU和GPU之間高效流通，決定了系統(tǒng)是否能協(xié)同工作。將CPU處理效率低下、GPU處理不了的負(fù)載卸載到專用DPU，能夠提升計(jì)算系統(tǒng)效率、降低整體系統(tǒng)成本。
事實(shí)上，在目前火熱的AIGC應(yīng)用方面，AI大模型的訓(xùn)練往往同時(shí)使用數(shù)千或數(shù)萬(wàn)個(gè)GPU芯片，整個(gè)服務(wù)器集群規(guī)模超10萬(wàn)，此時(shí)DPU可以支持超大規(guī)模組網(wǎng)算力互連，并可支持100G+的超高帶寬，是AI產(chǎn)業(yè)發(fā)展的加速器。
寫(xiě)在最后
DPU的發(fā)展歷程經(jīng)歷了從網(wǎng)絡(luò)數(shù)據(jù)包處理到數(shù)據(jù)中心全方位數(shù)據(jù)處理能力的轉(zhuǎn)變，其技術(shù)不斷演進(jìn)，功能逐漸豐富，應(yīng)用場(chǎng)景日益廣泛。隨著云計(jì)算、大數(shù)據(jù)和人工智能等技術(shù)的快速發(fā)展，DPU將在未來(lái)數(shù)據(jù)中心中扮演更加重要的角色。
