近日，中科馭數(shù)（北京）科技有限公司（以下簡稱“中科馭數(shù)”）在北京發(fā)布了關于DPU（指數(shù)據(jù)處理器芯片）的一套核心技術，包括國內首顆量產全功能DPU芯片K2Pro，以及基于該芯片的自研芯片架構和專用的指令集技術。
該公司表示，之所以發(fā)布一整套技術而非單顆芯片，是因為它們相互依賴、相互增強，共同構成了一個高效、靈活且功能強大的DPU解決方案。
中科馭數(shù)已完成三代DPU芯片的迭代研發(fā)
中科馭數(shù)成立于2018年，是一家專注于DPU芯片研發(fā)設計的企業(yè)，目前已經(jīng)完成三代DPU芯片的迭代研發(fā)，并成功實現(xiàn)規(guī)?；逃谩?019年，中科馭數(shù)研發(fā)了第一代DPU芯片K1，這是業(yè)界首顆數(shù)據(jù)庫和持續(xù)數(shù)據(jù)處理融合加速的芯片。
K1能夠應用在大數(shù)據(jù)以及數(shù)據(jù)計算密集型的場景，如金融計算、數(shù)據(jù)中心、5G等相關的計算場景。這顆芯片的重要意義在于驗證了中科馭數(shù)KPU芯片架構的可行性。據(jù)介紹，K1已進入金融計算行業(yè)，在風控、極速交易等業(yè)務場景中實現(xiàn)應用。
KPU是中科馭數(shù)基于“軟件定義加速器”技術路線自主研發(fā)的敏捷異構眾核的芯片架構。目前中科馭數(shù)已經(jīng)研發(fā)了5個應用領域80余類功能核，其中包括網(wǎng)絡協(xié)議處理核、大數(shù)據(jù)處理核等重要的自研技術組件。KPU中不同的功能核可以通過軟件定義進行自由配置，大大降低芯片的設計成本，同時KPU每個功能核都是面向特定的功能，因此能做到性能最優(yōu)。
2022年12月，中科馭數(shù)發(fā)布了第二代DPU芯片K2，采用28nm制程工藝，支持網(wǎng)絡、存儲、虛擬化等功能卸載，是當時國內首顆功能較完整的ASIC形態(tài)的DPU芯片。K2可達到1.2μs超低時延，支持最高200G網(wǎng)絡帶寬。K2基于中科馭數(shù)自研的KPU芯片架構，可廣泛適用于金融計算、高性能計算、數(shù)據(jù)中心、云原生、5G邊緣計算等場景。
基于DPU芯片核心技術，中科馭數(shù)還研發(fā)了超低時延DPU網(wǎng)卡、RDMA加速卡、數(shù)據(jù)查詢加速DPU卡以及面向金融計算領域的極速風控、極速行情等解決方案。
近日，中科馭數(shù)正式推出第三代DPU（數(shù)據(jù)處理器）芯片K2-Pro。K2-Pro是國內首顆量產全功能DPU算力芯片，專為未來數(shù)據(jù)中心和云原生環(huán)境定制優(yōu)化。該芯片基于自主研發(fā)的KPU架構，集網(wǎng)絡、存儲、安全及計算等多業(yè)務卸載功能于一體。
在數(shù)據(jù)處理方面，K2-Pro的包處理速率翻倍至80Mpps，在網(wǎng)絡密集型應用中能提供更高的吞吐量和更低的延遲。它強化了對復雜業(yè)務的支持，集成多種硬件卸載引擎，如網(wǎng)絡卸載、流表卸載、存儲卸載及RDMA網(wǎng)絡卸載等。采用PPP、NP內核及P4可編程架構，實現(xiàn)業(yè)務與同構算力、異構算力靈活擴展，用戶可以根據(jù)實際需求動態(tài)調整和優(yōu)化系統(tǒng)配置。
在處理復雜任務時，K2-Pro較上一代芯片能耗降低30%，實現(xiàn)低功耗運行。K2-Pro可應用于超低延遲網(wǎng)絡、數(shù)據(jù)中心、金融計算、大數(shù)據(jù)處理、高性能計算等場景，提升算力基礎設施效率，減少能耗浪費，降低成本。
與K2-Pro DPU芯片同時發(fā)布的還有軟件開發(fā)平臺HADOS3.0，它擁有驅動、計算、存儲、網(wǎng)絡、安全等不同層次的API數(shù)量高達2765個，適配了8款CPU平臺以及10大主流操作系統(tǒng)，是業(yè)內適配最完全、在國內實際落地部署最多的DPU軟件平臺之一。
還有聯(lián)合行業(yè)內眾多合作伙伴共同打造的馭云高性能云底座解決方案，將云計算體系中的基礎設施層面完全下沉，為集群提供網(wǎng)絡轉發(fā)、存儲服務、安全防護、管理調度等能力，可為云計算提供高性能、高吞吐、高安全的算力底座。
DPU在人工智能發(fā)展中的重要作用
DPU的概念最初由美國公司Fungible在2016年提出，旨在優(yōu)化和提升數(shù)據(jù)中心效能。DPU被認為是數(shù)據(jù)中心繼CPU和GPU之后的“第三顆主力芯片”，主要用于云計算、數(shù)據(jù)中心這種大規(guī)模算力場景。
最初，DPU是為了加速網(wǎng)絡數(shù)據(jù)包處理而設計的，以降低主機CPU的負載。隨著人工智能和大數(shù)據(jù)分析的發(fā)展，DPU的功能逐漸擴展到加速各種數(shù)據(jù)處理任務，包括深度學習推理、存儲加速和安全加密等。
DPU被定位為以數(shù)據(jù)為中心構造的專用處理器，采用軟件定義技術路線支撐基礎設施層資源虛擬化，支持存儲、安全、服務質量管理等基礎設施層服務。
DPU的有著廣泛多樣化的應用場景，如，在數(shù)據(jù)中心中，DPU可以加速網(wǎng)絡數(shù)據(jù)包處理、存儲加速和安全加密等任務。在邊緣設備上部署DPU可以加速本地數(shù)據(jù)處理，減少與云端的通信延遲，并提高隱私和安全性。DPU可以用于加速深度學習模型的推理過程，從而實現(xiàn)實時的人工智能應用。在圖像識別、語音識別、自然語言處理等場景中，DPU可以提供高性能的計算能力，滿足實時性要求。
DPU的發(fā)展有著非常重大的價值，隨著計算任務的日益密集，以CPU為中心的傳統(tǒng)數(shù)據(jù)中心架構面臨性能提升的瓶頸。在大型數(shù)據(jù)中心，流量處理大約占用20%至30%的計算資源。而DPU最直接的作用是作為CPU的卸載引擎，接管網(wǎng)絡虛擬化、硬件資源池化等基礎設施層服務，從而釋放寶貴的CPU資源以運行上層應用，實現(xiàn)數(shù)據(jù)為中心的業(yè)務和基礎設施操作的分離。
中科馭數(shù)創(chuàng)始人鄢貴海介紹說：“如果把CPU比作大腦、GPU比作肌肉，那么DPU就相當于神經(jīng)中樞。DPU負責數(shù)據(jù)在各種CPU和GPU之間高效流通，決定了系統(tǒng)是否能協(xié)同工作。將CPU處理效率低下、GPU處理不了的負載卸載到專用DPU，能夠提升計算系統(tǒng)效率、降低整體系統(tǒng)成本。
事實上，在目前火熱的AIGC應用方面，AI大模型的訓練往往同時使用數(shù)千或數(shù)萬個GPU芯片，整個服務器集群規(guī)模超10萬，此時DPU可以支持超大規(guī)模組網(wǎng)算力互連，并可支持100G+的超高帶寬，是AI產業(yè)發(fā)展的加速器。
寫在最后
DPU的發(fā)展歷程經(jīng)歷了從網(wǎng)絡數(shù)據(jù)包處理到數(shù)據(jù)中心全方位數(shù)據(jù)處理能力的轉變，其技術不斷演進，功能逐漸豐富，應用場景日益廣泛。隨著云計算、大數(shù)據(jù)和人工智能等技術的快速發(fā)展，DPU將在未來數(shù)據(jù)中心中扮演更加重要的角色。
