CXL®内存扩展控制器芯片

生成式AI、大语言模型等数据密集型应用的爆发,正让数据中心面临前所未有的内存压力——带宽不足导致算力闲置,容量受限制约模型规模,而传统扩展方式成本高、利用率低。在不重构系统架构的前提下,实现内存的高效扩展、共享与池化,已成为释放AI算力潜力的关键。

澜起科技推出的CXL®内存扩展控制器 (MXC) 正是为此而生。该芯片符合CXL Type 3规范,可为CPU及CXL协议设备提供高带宽、低延迟互连,支持跨主机的内存池化与共享,从而简化软件栈并降低数据中心总体拥有成本 (TCO)。MXC可灵活部署于内存扩展卡 (AIC)、背板或EDSFF内存模组,能够大幅扩展内存容量与带宽,充分满足AI及各类数据密集型应用对内存资源的迫切需求。

澜起科技官方网站建设
MXC在主流服务器中的应用
CXL技术

CXL (Compute Express Link) 是面向数据中心和AI服务器的新一代高速互连技术,其基于PCIe物理层构建,通过缓存一致性的互连协议,实现处理器与内存资源的解耦、扩展和共享。对于生成式AI、大语言模型等工作负载,CXL通过突破传统服务器的内存容量和带宽限制,支持更大规模模型部署、更高效的数据访问以及更灵活的资源调度,从而缓解“内存墙”问题,提升推理和训练效率。

突破内存容量限制,支持大规模模型部署
突破内存容量限制,支持大规模模型部署
随着大语言模型参数规模不断增长,单机内存容量往往成为模型部署的主要瓶颈。CXL可通过内存扩展设备为服务器提供额外内存空间,使系统能够容纳更大规模的模型参数、KV Cache和推理数据,降低模型分片和跨节点通信带来的性能损耗。
实现内存池化与共享,提升资源利用率
实现内存池化与共享,提升资源利用率
CXL支持构建共享内存池,将内存资源从单台服务器中解耦出来,按需分配给不同计算节点。对于生成式AI集群,这种方式能够避免部分服务器内存不足而其他服务器内存闲置的问题,提高整体资源利用率,并增强系统的弹性扩展能力。
构建分层内存体系,优化推理性能与成本
构建分层内存体系,优化推理性能与成本
CXL可与MRDIMM、HBM等技术协同构建分层内存体系,将热点数据存放在高带宽本地内存中,而将大容量模型参数和低频访问数据存放在CXL扩展内存中。在保证关键数据访问性能的同时,大幅提升系统可用内存容量,从而提高生成式AI推理吞吐量,降低整体运行成本。
核心优势
高带宽、低延迟
高带宽、低延迟
符合CXL Type 3规范,为CPU及CXL协议设备提供高速互连,显著提升数据密集型应用的响应速度。
支持内存扩展与内存池化
支持内存扩展与内存池化
突破单机物理内存容量上限,将分散的内存资源汇聚成统一池进行动态分配,实现按需扩展与跨节点共享,显著提升内存利用率和系统灵活性。
灵活部署、高可扩展性
灵活部署、高可扩展性
可灵活适配内存扩展卡(AIC)、背板或EDSFF内存模组,大幅扩展内存容量与带宽,满足AI、大语言模型等场景对内存资源的快速增长需求。
高兼容性与生态适配
高兼容性与生态适配
兼容主流CPU架构及标准DDR内存接口、PCIe接口,无需改动主板及固件即可部署,降低用户迁移和集成的门槛
性能指标
  • CXL速率CXL速率

    高达64 GT/s

  • DDR速率DDR速率

    高达8000 MT/s

  • 延迟指标延迟指标

    约100 ns

  • 合规性合规性

    列入CXL联盟合规供应商清单

典型应用场景

内存扩展
当AI大模型或内存数据库的规模突破单机内存上限时,传统方案往往需要更换更高规格、更多数量的服务器,成本高昂且灵活性差。澜起科技的MXC芯片可部署于内存扩展卡 (AIC) 或EDSFF内存模组,为服务器提供TB级别的内存容量扩展,无需改动CPU或主板设计。这意味着用户可以在现有服务器架构上,以更低的成本满足大语言模型推理、实时数据分析等场景对超大内存容量的迫切需求。

内存池化
在云计算和多租户环境中,各台服务器的内存资源往往难以共享,导致一部分服务器内存闲置浪费,而另一部分却严重不足。澜起科技的MXC芯片支持CXL协议下的跨主机内存池化,可将多台服务器的内存资源整合为统一的内存池,并按需动态分配给不同的CPU或加速器。这大大提高了整体内存利用率,减少了内存资源闲置,同时简化了软件栈,帮助数据中心显著降低总体拥有成本 (TCO) 。

产品列表
产品型号
描述
CXL标准
DDR标准
应用
封装
文件
M88MX6852 Type 3 CXL内存扩展控制器芯片 CXL 1.1/2.0/3.2;
CXL 1 x8 port 或 2 x4 ports;
最高支持速率:64 GT/s
JEDEC DDR5 内存AIC扩展卡;
EDSFF内存模组
1211-ball FCBGA Product Brief下载
M88MX5891/5851 Type 3 CXL内存扩展控制器芯片 CXL 1.1/2.0;
CXL 1 x8 port;
最高支持速率:32 GT/s
JEDEC DDR4/DDR5 内存AIC扩展卡;
EDSFF内存模组
767-ball FCCSP;
716-ball FCCSP
Product Brief下载
如您对产品感兴趣,请联系我们