三星最新愿景：将 AI 系统的响应速度提升 10 倍

在“AI基础设施峰会”于加州圣克拉拉会议中心举办的9月16日活动中，据韩媒《The Chosun Daily》报道，AI内存的未来成为焦点议题。

半导体企业在峰会上公布了新的产品路线图。三星电子计划通过上月推出的下一代AI内存zHBM，使AI加速器的响应速度提升10倍。

三星电子美国公司（DSA）存储产品规划高管金仁东（音译）表示：“现有对话式AI系统每秒为每位用户处理100个词元（Tokens），我们的目标是跃升至每秒1000个词元，以支持智能体应用。”

zHBM将HBM直接垂直堆叠在AI加速器上，金仁东将其比喻为“在酒店客房里安装一部直达一楼大堂的专用电梯”。该设计可使性能最高达到HBM5的8倍，能效达到其3倍。

三星同时宣布，计划从2028年起提供三维存储方案zNAND-O的样品。

常被视为高带宽内存（HBM）补充方案的CXL（Compute Express Link）技术，在峰会上遭到部分与会者的质疑。

据IT之家查询，CXL是下一代内存互连标准，允许计算设备连接更多内存以扩展服务器容量，并支持不同服务器共享内存。AI加速器通过CPU访问这些内存。

部分半导体行业人士看好CXL技术，认为其普及后有望缓解HBM价格高、供应不足的问题。即使减少HBM用量，服务器也能保持相近性能，从而大幅降低搭建成本。

OpenAI研究员丹尼尔·莫里斯（负责AI加速器设计）对此持保留态度：“就AI模型的实际运行而言，我找不到CXL能用在哪里。如果一定要找一个用途，那就是存放大型AI模型中很少用到的冷数据。外界对它抱有期待，但我至今没有看到专门面向模型运行的实际应用。”

英特尔AI片上系统（SoC）架构负责人维迪娅·蒂亚加拉詹指出：“用CXL整合内存确实有益，但它补充的是辅助存储，无法替代HBM。GPU之间通过CXL传输数据，速度远远比不上HBM。”这意味着，CXL恐怕难以取代HBM。主导HBM市场的三星电子和SK海力士，有望继续保持良好的发展势头。