ai时代推动存储器的创新与发展-凯发88


导    读

在摩尔定律逐渐放缓,ai时代又迎来数据指数级增长的这一背景下,新的计算机架构、新的材料和新的结构都将迎来革命性变化,以适应ai时代所带来的巨大数据量。

性能和功耗对于计算来说是两个重要的衡量指标,以云计算为例,云计算需要尽可能高的计算性能,而训练时则需要将大量数据转移到机器学习加速器附近,相应地,需要为机器学习加速器提供较大的片上 sram 缓存并辅以大型片外 dram 阵列——这就要求使用持续的电源。用电量对云服务提供商非常重要,因为 ai 时代的数据会呈指数级增长,而电网功率有限且成本高昂。

江苏时代全芯存储科技股份有限公司(amt)研发的新一代pcram相变存储器的功耗和成本比 dram 更低,而性能则比固态硬盘和机械硬盘更高,可成为云计算架构的首选方案。在ai时代存储器与计算引擎的关系将越来越密切,最终存储器可能成为ai计算引擎本身,突破传统的计算架构,实现存储计算一体化!

内 容 摘 取

在以前的计算时代中,大型机/小型机、pc/服务器和智能手机/平板计算机均受益于摩尔定律的进步,伴随着 2d 微缩,产品的性能、功耗和面积/成本(也称“ppac”)得以同步提升。

虽然 ai 时代的各类应用正在蓬勃发展,但摩尔定律却放缓了脚步;因此,行业需要在 2d 微缩以外取得突破,以全新方式推动 ppac 的提升。具体而言,我们需要新的计算架构、新材料、新结构(特别是节省面积的 3d 结构),以及用于芯片堆栈和异构设计的高级封装。

ai 时代的架构变化正在对逻辑和存储器产生影响。机器学习的算法大量地使用通用逻辑中极为复杂的矩阵乘法运算,这推动了加速器及其存储器的转变。ai 计算包含两种明显不同的存储器任务:第一种是存储计算的中间结果;第二种是存储与训练模型相关的权重。

性能和功耗对于云计算和边缘计算都十分重要,而存储器方面的创新能够为此提供助力。一种使用现有存储器技术的方法是“近存储器”,其中大量工作存储器被压缩并放置在物理上与逻辑存储器紧密相邻的位置,通过高速界面连接。例如,3d 堆栈和硅通孔技术正愈发受到欢迎。作为这些应用中的“工作存储器”,sram 和 dram 的一个主要缺点在于它们是易失性存储器,需要持续供电来保存数据(如权重)。


图 1. ai 时代推动半导体创新的复兴之路

云计算需要尽可能高的计算性能,而训练时则需要将大量数据转移到机器学习加速器附近,相应地,需要为机器学习加速器提供较大的片上 sram 缓存并辅以大型片外 dram 阵列——这就要求使用持续的电源。用电量对云服务提供商非常重要,因为 ai 时代的数据会呈指数级增长,而电网功率有限且成本高昂。pcram 的功耗和成本比 dram 更低,而性能则比固态硬盘和机械硬盘更高,因此成为云计算架构的首选方案。

当摩尔定律的指数级发展速度逐渐减缓,ai 时代将迎来数据上的指数级增长。这种压力已经在推动着架构、材料、3d 结构以及用于芯片堆栈和异构集成的先进封装不断创新。存储器与 ai 计算引擎的关系越来越紧密,最终,存储器可能成为 ai 计算引擎本身。



文:应用材料公司

mahendra pakala

排版:张乐辰




2019年08月13日

ai时代推动存储器的创新与发展

上一篇

下一篇

ai时代推动存储器的创新与发展