高通7月30日发布关于HBC、HBM与片上SRAM的比较文章,把容量、带宽、功耗与成本作为共同观察维度。文章认为,AI推理中的部分任务受到数据搬运限制,并介绍了将计算靠近存储安排的HBC思路。

.com9.1.78关注这类比较时,首先区分架构原理与厂商对结果的判断。不同方案确实改变了数据的位置和传输方式,但它们能够形成怎样的系统收益,还取决于模型、工作负载和平台配置,不能只凭路线名称作结论。

.com9.1.78处理器与存储模块测试场景
.com9.1.78 · 处理器与存储模块测试场景

模型保存在何处,决定数据怎样到达计算

片上存储强调让数据靠近计算单元,HBM路线则通过处理器周边的堆叠存储组织容量与带宽。HBC进一步讨论让合适的计算在存储附近进行。它们并不是同一种器件简单扩大后的版本,而是对数据与计算关系的不同安排。

这种安排影响了需要跨越哪些接口。数据可能在器件内部使用,也可能经过片间或设备间连接后再参加运算。比较时说明所讨论的边界,有助于理解某个带宽指标测量了哪一段路径,以及还遗漏了哪些系统环节。

容量和带宽需要同时满足应用要求

容量不足时,模型和相关数据可能需要被分散组织;带宽不足时,已经保存的数据也未必能及时参与计算。两者回答不同问题,所以不能把可容纳更大模型,直接理解为每个任务都能以相同比例加速。

分散到更多资源之后,还需要协调数据放置、任务划分和通信。局部器件的能力可以较强,完整系统仍可能受到连接或调度限制。因此,较有解释力的比较应展示组合方式,而不是仅罗列单颗器件的数值。

模型上下文和运行方式也会改变需求。工作集合较稳定的任务,与持续增长的数据访问,可能对存储有不同要求。评价一种架构之前,先交代应用需要保存和移动什么,通常比直接问哪种技术更先进更有帮助。

.com9.1.78计算芯片实验室调试场景
.com9.1.78 · 计算芯片实验室调试场景

功耗与成本要落到相同服务条件下

一套系统的资源投入,不仅包括计算部件,还涉及内存、连接、封装和运行维护。若不同方案采用不同模型或响应要求,它们得到的结果就不完全具有可比性。相同服务目标,是讨论效率差别的必要起点。

能耗也应覆盖相同范围。如果一项结果只测量局部部件,另一项结果包含完整平台,就需要明确这一差别。否则,看似直观的对比可能混合了不同边界,难以说明实际部署时会出现什么变化。

架构选择需要保留适用范围与证据

高通把近存计算视为减轻数据搬运的一条路线,这可以作为理解其方案的出发点。与此同时,其他存储组织也有各自擅长的任务。对某种负载表现良好的方案,不必因此被推断为所有工作类型的统一答案。

后续测试更应说明模型结构、上下文、并发方式和运行条件,并记录在这些条件变化时系统怎样响应。能够解释优势从哪里出现,也能够说明它在何处减弱,通常比一个不附条件的性能排名更有工程价值。

评价过程中还可以同时记录软件适配与资源组织的要求。若某项能力依赖特殊的任务安排,就应把这一条件与结果一起保留,帮助后续团队理解复制该结果需要做什么。

从这一视角看,HBC、HBM与SRAM的讨论,可以帮助把注意力从孤立峰值转向完整的数据路径。真正需要比较的,是应用要求与架构组织是否匹配,以及这种匹配能否在实际系统中持续得到验证。