CXL®記憶體擴展控制器晶片

生成式AI、大語言模型等資料密集型應用的爆發,讓資料中心面臨前所未有的記憶體壓力——頻寬不足使算力閒置,容量受限約束模型規模,傳統擴展方式則成本高、利用率低。在不重構系統架構下實現記憶體的高效擴展、共享與池化,已成為釋放AI算力潛力的關鍵。

瀾起科技推出的CXL®記憶體擴展控制器 (MXC) 正是為此而生。該晶片符合CXL Type 3規範,為CPU及CXL設備提供高頻寬、低延遲互連,支援跨主機記憶體池化與共享,簡化軟體堆疊並降低TCO。MXC可靈活部署於記憶體擴展卡 (AIC)、背板或EDSFF記憶體模組,大幅擴展記憶體容量與頻寬,滿足AI及資料密集型應用對記憶體資源的迫切需求。

澜起科技官方网站建设
MXC在主流伺服器中的應用
CXL技術

CXL(Compute Express Link)是面向資料中心與AI伺服器的新一代高速互連技術。其基於PCIe物理層構建,透過快取一致性的互連協定,實現處理器與記憶體資源的解耦、擴充與共享。針對生成式AI、大型語言模型等工作負載,CXL藉由突破傳統伺服器的記憶體容量與頻寬限制,支援更大規模模型部署、更高效的資料存取以及更靈活的資源排程,從而緩解「記憶體牆」問題,提升推論與訓練效率。

突破記憶體容量限制,支援大規模模型部署
突破記憶體容量限制,支援大規模模型部署
隨著大語言模型參數規模不斷增長,單機記憶體容量往往成為模型部署的主要瓶頸。CXL可透過記憶體擴充設備為伺服器提供額外記憶體空間,使系統能夠容納更大規模的模型參數、KV Cache及推論資料,降低模型分片與跨節點通訊帶來的效能損耗。
實現記憶體池化與共享,提升資源利用率
實現記憶體池化與共享,提升資源利用率
CXL支援建構共享記憶體池,將記憶體資源從單台伺服器中解耦出來,按需分配給不同運算節點。對於生成式AI集群,這種方式能夠避免部分伺服器記憶體不足而其他伺服器記憶體閒置的問題,提高整體資源利用率,並增強系統的彈性擴充能力。
構建分層記憶體體系,優化推論效能與成本
構建分層記憶體體系,優化推論效能與成本
CXL可與MRDIMM、HBM等技術協同構建分層記憶體體系,將熱點資料存放於高頻寬本地記憶體中,而將大容量模型參數與低頻存取資料存放於CXL擴充記憶體中。在確保關鍵資料存取效能的同時,大幅提升系統可用記憶體容量,從而提高生成式AI推論吞吐量,降低整體運行成本。
核心優勢
高頻寬、低延遲
高頻寬、低延遲
符合CXL Type 3規範,為CPU及CXL協議設備提供高速互連,顯著提升資料密集型應用的回應速度。
支持記憶體擴充與記憶體池化
支持記憶體擴充與記憶體池化
突破單機實體記憶體容量上限,將分散的記憶體資源匯聚成統一池進行動態分配,實現按需擴充與跨節點共享,顯著提升記憶體利用率及系統靈活性。
彈性部署、高可擴充性
彈性部署、高可擴充性
可靈活適配記憶體擴展卡(AIC)、背板或EDSFF記憶體模組,大幅擴展記憶體容量與頻寬,滿足AI、大語言模型等場景對記憶體資源的快速增長需求。
高相容性與生態適配
高相容性與生態適配
相容主流CPU架構及標準DDR記憶體介面、PCIe介面,無需改動主機板及韌體即可部署,降低用戶遷移與整合的門檻。
效能指標
  • CXL速率CXL速率

    高達64 GT/s

  • DDR速率DDR速率

    高達8000 MT/s

  • 延遲指標延遲指標

    約100 ns

  • 合規性合規性

    列入CXL聯盟合規供應商清單

典型應用場景

記憶體擴展
當AI大模型或記憶體資料庫的規模突破單機記憶體上限時,傳統方案往往需要更換更高規格、更多數量的伺服器,成本高昂且靈活性差。瀾起科技的MXC晶片可部署於記憶體擴展卡 (AIC) 或EDSFF記憶體模組,為伺服器提供TB級別的記憶體容量擴展,無需改動CPU或主機板設計。這意味著使用者可以在現有伺服器架構上,以更低的成本滿足大語言模型推論、即時數據分析等場景對超大記憶體容量的迫切需求。

記憶體池化
在雲端運算和多租戶環境中,各台伺服器的記憶體資源往往難以共享,導致一部分伺服器記憶體閒置浪費,而另一部分卻嚴重不足。瀾起科技的MXC晶片支援CXL協定下的跨主機記憶體池化,可將多台伺服器的記憶體資源整合為統一的記憶體池,並按需動態分配給不同的CPU或加速器。這大大提高了整體記憶體利用率,減少了記憶體資源閒置,同時簡化了軟體堆疊,幫助資料中心顯著降低總體擁有成本(TCO)。

產品列表
產品型號
描述
CXL標準
DDR標準
應用
封装
文件
M88MX6852 Type 3 CXL記憶體擴展控制器晶片 CXL 1.1/2.0/3.2;
CXL 1 x8 port 或 2 x4 ports;
最高支援速率:64 GT/s
JEDEC DDR5 記憶體AIC擴展卡;
EDSFF記憶體模組
1211-ball FCBGA Product Brief下载
M88MX5891/5851 Type 3 CXL記憶體擴展控制器晶片 CXL 1.1/2.0;
CXL 1 x8 port;
最高支持速率:32 GT/s
JEDEC DDR4/DDR5 記憶體AIC擴展卡;
EDSFF記憶體模組
767-ball FCCSP;
716-ball FCCSP
Product Brief下载
如您對產品感興趣,請聯絡我們