• 财讯网
  • 主页 > 热点资讯 > 正文

    快资讯丨半导体行业快报:大模型如雨后春笋 算力需求促CXL加速渗透半导体

    2023-06-20 20:28:36  |  来源:华金证券股份有限公司  |  编辑:  |  


    (相关资料图)

    事件点评

    2023 年6 月19 日,腾讯云在北京召开行业大模型及智能应用技术峰会,首次公布腾讯云行业大模型研发进展,依托腾讯云TI 平台打造行业大模型精选商店,为客户提供MaaS 一站式服务,助力客户构建专属大模型及智能应用。随着大数据AI/ML等应用爆发,内存与算力间技术发展差距逐步加大,成为制约计算系统性能主要因素。

    CXL 有望突破内存墙及IO 墙瓶颈,极高兼容性+内存一致性优势显著。当前主流计算系统数据处理方案依赖冯诺依曼架构(数据存储与数据处理分离体系),为满足速度及容量需求,现代计算系统通常采取高速缓存(SRAM)、主存(DRAM)、外部存储(NAND Flash)三级存储结构。越靠近运算单元存储器速度越快,但受功耗、散热、芯片面积等因素制约,相应容量越小。如SRAM 响应时间为纳秒级,DRAM 为100 纳秒量级,NAND Flash 为100 微秒级,当数据在高速缓存/主存/外部存储三级传输时,后级响应时间及传输带宽将拖累整体性能,形成“存储墙”。IO 墙产生于外部存储中,当数据量庞大需借助外部存储,并用网络IO 访问数据。IO 方式访问使访问速度成数量级下降,拖累整体性能。

    CXL(Compute Express Link),作为一种全新互联技术标准,可保证CPU 与GPU、FPGA 或其他加速器间实现高速高效互联,满足高性能异构计算要求,且维护CPU 内存空间及连接设备内存间一致性,可突破内存墙及IO 墙瓶颈,缩减整体响应时间。

    CXL1.1 三种协议直连带来容量及带宽拓展,CXL2.0 加入Switch 层引入内存池化技术,CXL3.0 共享内存时代有望到来。CXL1.1 支持CXL.io,CXL.cache,CXL.mem 协议。CXL.io 为PCIe5.0 增强版本,运行于PCIe 总线物理层,CXL.cache 用于一致主机缓存访问,CXL.mem 用于主机内存访问,三种方法构成连接主机与设备新基础路线。CXL2.0 在CXL1.1 基础上,增加热插拔(HotPlug)、安全升级、持久内存(Persistent Memory)、Telemetry、RAS 支持及Switch 等功能。加入Switch 层,实现多设备连接到一个root port,且当设备内存不足时,CXL 技术能够让设备在内存池里寻找内存空间。在该框架下,跨系统设备实现共享内存池成为可能。CXL3.0 建立于PCI-Express 6.0 之上(CXL1.0/1.1 和2.0 版本建立于PCIe5.0 之上),其带宽提升两倍,且简单化部分复杂的标准设计,确保易用性。

    CXL 技术发展前景可期,国内外芯片大厂加速布局。2021 年10 月,Rambus发布CXL 2.0 控制器。2022 年5 月,澜起科技发布全球首款CXL 内存扩展控制器芯片(MXC)。2022 年5 月,美满电子宣布将收购先进CXL 技术领先开发商Tanzanite。2022 年8 月,Microchip 推出基于CXL 新型SMC 2000 系列智能存储控制器,使CPU、GPU 及SoC 利用CXL 接口连接DDR4 或DDR5存储器。2022 年8 月,SK 海力士推出首款CXL 存储器样品,有望于2023 年量产;10 月,全行业率先研发出首款将计算功能与CXL 存储器相结合CMS;2023 年1 月,三星电子展示其512GB CXL 内存扩展器;AMD 预计将于2023  年推出支持CXL1.1 接口新品。

    建议关注CXL 技术相关标的:澜起科技、神州数码、得润电子等? 风险提示:AI 大模型发展不及预期;算力需求不及预期;CXL 技术发展不及预期。

    关键词:

    上一篇:热消息:2023年下半年宏观经济展望:在希望的原野上    下一篇:最后一页