探境科技鲁勇:探境科技发布全新“存储优先ai芯片架构”获行业关注-凯发88

导读:探境科技创始人兼ceo,前marvell公司高管鲁勇,在ic world会议上介绍了以存储为核心的新ai芯片架构—sfa架构,目前市面上绝大多数ai芯片都是基于冯诺依曼架构下,优化计算部分资源来提高能效,但结果都差强人意,而sfa颠覆性的架构凯发88的解决方案将大大提高ai芯片能效和性能。他认为目前限制深度学习算法最大的问题来自存储,存储部分带来的性能瓶颈和功耗瓶颈远大于计算部分,如何解决信息传输的带宽问题,科学的调度数据的使用,将是降低功耗提升性能的关键。由于深度学习算法使用大量存储资源,包括静态模型参数,对于海量的样本数量无法存储到片上的sram,需要从dram中调取,这就增加了系统功耗,同时dram与ai计算芯片间带宽有限,如果芯片上计算资源很大,但受存储带宽的瓶颈限制,实际计算力大为下降。pcm的特性是能够本地存储,本地计算,而实现process in memory(pim)存储计算一体化的架构,这将会使得芯片性能大为提高,成本下降,提升系统性价比。而今年6月ibm在nature 期刊发表的论文提出的通过pcm存储技术实现在数据存储的位置执行计算来加速全连接神经网络的训练正是这一问题的完美凯发88的解决方案,amt作为少数掌握核心pcm相变存储技术的公司,正助力ai领域实现产业化井喷。

内容摘取:

   2018年10月22日“2018北京微电子国际研讨会暨icworld大会”(简称“ic world”即世界集成电路大会)在北京亦庄拉开帷幕。本次大会共有200多家集成电路产业企业参加,北京探境科技有限公司(简称“探境科技”)受邀参加。

   现场,鲁勇先生分享了对现有ai芯片产业的想法,他认为目前深度学习算法在芯片中最大的瓶颈来自存储墙问题,与过去的大部分算法相比,过去的算法的计算复杂度较高,而深度学习的计算复杂度和存储复杂度的关系是倒置的,存储部分带来的性能瓶颈和功耗瓶颈远大于计算部分。同时,鲁勇先生还举了个例子,让现场嘉宾、观众更易理解:过去汽车的好坏主要取决于发动机,所以大家一直在研究发动机的技术,但突然到了新能源车的时代,电池的重要性成了超过发动机的因素,那么整辆车就要围绕电池来设计了。

   正是探境科技看到了当前绝大多数的ai芯片都是在基于冯诺依曼架构下,通过优化计算部分的资源来提升效能,但得到的结果往往差强人意,这类架构的本质其实都可以称为类cpu架构,都是以指令或计算为中心进行优化设计的。而探境科技提出了一个颠覆性的做法,以存储为中心来带动计算,重新设计整个ai芯片的系统架构——即sfa架构。

   鲁勇先生介绍:整个sfa架构由数据层、计算层和控制层组成。它是一个以存储调度为核心的计算架构,数据在存储之间的搬移过程之中就完成了计算,计算对于数据来说只是一种“演变”,但这样做可以让能效比提升10倍甚至100倍,计算资源利用率可以从常见的30~40%提高到80%,ddr带宽占用率更是大幅度下降。


2018年10月30日

探境科技鲁勇:探境科技发布全新“存储优先ai芯片架构”获行业关注

上一篇

下一篇

探境科技鲁勇:探境科技发布全新“存储优先ai芯片架构”获行业关注