近日，IBM在Hot Chips2024大會上公布了即將推出的IBM Telum? II處理器和IBMSpyre?加速器的架構細節(jié)。這些新技術旨在大幅擴展下一代IBMZ大型主機系統(tǒng)的處理能力，通過新的AI集成方法，加速企業(yè)對傳統(tǒng)AI模型和大語言AI模型的協同使用。
此次IBM發(fā)布的主要創(chuàng)新技術包括IBM Telum II處理器、IO加速單元、IBM Spyre加速器。Telum II處理器和IBM Spyre加速器將由三星晶圓代工（Samsung Foundry）生產，采用其高性能、高能效的5納米工藝節(jié)點。
具體來看，Telum II處理器配備八個運行頻率達5.5GHz的高性能內核，每個內核配備36MB二級高速緩存，片上高速緩存容量增加40%（總容量達360MB）。每個處理器抽屜的虛擬L4高速緩存為2.88GB，相比上一代增加40%。集成的AI加速器可實現低延遲、高吞吐量的交易中AI推理，例如增強金融交易期間的欺詐檢測，并且每塊芯片的計算能力是上一代的四倍。TelumII芯片中集成了最新的I/O加速單元DPU。在設計上，其I/O密度提高50%，可大幅提高數據處理能力，進一步提高IBMZ的整體效率和可擴展性。
Spyre加速器是一款專為復雜AI模型和生成式AI用例提供可擴展功能的企業(yè)級加速器。它有高達1TB的內存，可在普通IO抽屜的八塊卡上串聯工作，以支持大型主機的整體AI工作負載，同時每塊卡的功耗不超過75W。每塊芯片由32個計算內核組成，支持int4、int8、fp8和fp16數據類型，適用于低延遲和高吞吐量的AI應用。
IBM主機和Linux ONE產品管理副總裁Tina Tarquinio表示，TelumII處理器和Spyre加速器旨在提供安全、節(jié)能、高性能的企業(yè)計算解決方案。這些多年研發(fā)的創(chuàng)新成果將被引入下一代IBMZ平臺，幫助客戶大規(guī)模利用大語言模型和生成式AI技術。
據IBM指出，作為IBM下一代IBM Z和IBM Linux ONE平臺的中央處理器，Telum II處理器預計在2025年向IBM Z和Linux ONE客戶提供。IBM Spyre加速器仍在技術預覽階段，預計也將于2025年推出。
根據摩根士丹利最近發(fā)布的一份研究報告預測，在未來幾年，生成式AI的電力需求將以每年75%的速度激增，其2026年的能耗或將與西班牙2022年的全年能耗相當。業(yè)界人士認為，支持適當規(guī)模的基礎模型和針對AI工作負載的混合架構越來越重要。
封面圖片來源：拍信網
