设为首页 收藏本站 English

当前位置: 金骏机械网 >> 最新文章

存算1体AI芯片活节螺丝NOR闪存架构如何焕发新活力

发布时间:2019-08-01 11:46:13

存算1体AI芯片活节螺丝,NOR闪存架构如何焕发新活力?

[ 导读 ] 作为1种传统的、非前沿的存储技术,NOR闪存架构有怎样的充气机特点和优势,能够使得这些企业对其投入资源和人力,进行相应的低功耗A五菱配件I芯片和系统研发呢?

随着物联网时期的到来,海量的数据蜂拥而至。特别是各种利用终端和边沿侧需要处理的数据愈来愈多,而且对处理器的稳定性,和功耗提出了愈来愈高的要求,这样,传统的计算体粉碎机组系和架构的短板就显得越发灌装机械突出,未来,具有更高效力和更低功耗的计算系统1定会大行其道。

在这样的背景下,存算1体(Computing In Memory,内存内计算)AI芯片应运而生。目前,很多国际上的领先企业和研究机构正在致力于各种新型奥数家教存储器的研究,其中1个很大的驱动力就是希望能够实现具有更高效力的存算1体系统,而在这其中,AI的融入也是1大趋势。这些使得计算+存储+AI的融会发展成了1大方向。

不但是在国际上,最近几年,我国本土的1些企业和科研院所也在致力于这方面的研究工作。近日,合肥恒烁半导体科技公司与中国科大团队用时两年共同研发的基于NOR闪存架构的存算1体AI芯片系统演示顺利完成。

据悉,该芯片是1款具有边沿兼容电池计算和推理能力的AI芯片,能实接收器时检测通过摄像头拍摄的人脸头像并给出计算几率,可广泛利用于森林防火中的人脸辨认与救济、心电图的实时监测、人工智能在人脸辨认上的硬件解决方案等。而这也是我国本土企业在基于NOR闪存架构的存算1体AI芯片领域的又1次突破。

作为1种传统的、非前沿的存储技术,NOR闪存架构有怎样的特点和优势,能够使得这些企业对其投入资源和人力,进行相应的低功耗AI芯片和系统研发呢?

存算1体的优势

在谈基于NOR闪存架构AI芯片的特点和优势之前,先来看1下存算1体芯片的优势及其能够解决的主要问题。

目前来看,不论是PC还是超算,处理器和存储芯片都是分离的,这就是冯诺依曼50多年前确立的计算架构。随着技术的发展,存储计算分离的架构瓶颈愈来愈明显。

1般芯片的设计思路是增加大量的并行计算单元,比如上千个AI卷积单元,这样,需要调用的存储资源也在增大,但是,在传统的计算架构当中,存储1直是有限且稀缺的资源,随着运算单元的增加,每一个单元能够使用的存储器的带宽和大小将逐步减小,而随着人工智能时期的到来,这类矛盾显得越发突出,特别是对物联网来讲,网络的每层,现有权重和每一个AI训练示例的元素都被加载到处理器的寄存器中,然后相乘,并将结果写回到存储器中。这样,性能瓶颈就不是在计算1侧了,而是处理器和存储器阵列之间的带宽。存储器和处理器之间的这类分离是冯·诺依曼架构的定义特点之1,并且存在于几近所有现代计算系统中。

这类“存储墙”的高起正在阻碍着AI产业的发展,可以说,存储器是AI芯片发展的最大瓶颈。

在很多AI推理运算中,90%以上的运算资源都消耗在数据搬运的进程中。芯片内部到外部的带宽,和片上缓存空间限制了运算的效力。因此,在业界雕刻刀具和学术界,愈来愈多的人认为存算1体化是未来的趋势,可以很好地解决“存储墙”问题。

如果能够让计算和内存更紧密地结合在1起,乃至是在内存内进行计算,就能够大幅提升数据的传输效力,同时节省更多的电能,由于在内存和计算之间不再需要来回太屡次数,1切处理进程都再同1芯片内完成了。

分类

为了应对物联网和存算1体的利用需求,各种新型的、传统的存储技术和器件纷纭登场,想在这些新兴利用方面尽可能地发挥出自己的才华。

过去50年中,SRAM、DRAM和Flash已成为存储器的主力,这些存储结构在往更小的几何结构微缩的进程中都存在问题,很重要的缘由在于它们都是平面结构,而新的存储技术,如基于电阻开关的存储技术是金属层结构,消除许多制造问题。但是,由于DRAM和Flash技术已非常成熟,本钱又很低。所以,它们在存算1体方面仍然有独到的优势,也正在被1些企业所采取

目前来看,新型的存储技术主要包括相变存储器(PCM)、铁电存储器(FeRAM)、磁阻RAM(MRAM)、电阻RAM(RRAM或 ReRAM)、自旋转移力矩RAM(STT-RAM)、导电桥RAM(CBRAM),和氧化物电阻存储器(OxRAM)等。基于这些的存算1体研究或多或少地表面都在进行着,相应的成果也常常见诸于报端。以上这些都是新技术,目前来看,它们的主要问题就是本钱,和生态系统的完全度,还需要1些发展时间才能成气候。

而从存储与计算的结合方式来看,存算1体又可以分为两大类:1是在DRAM中植入逻辑计算单元转鼓,被称为内存内处理或近数据计算,这类方式非常合适云真个大数据和神经网络训练等利用;2是存储和计算完全结合在1起,存储器件也即计算单元,如采取基于NOR闪存架构的存算1体AI芯片,其主要特点是能耗低、运算效制冰机力高、速度快且本钱低,这类情势比较合科技木适边沿侧的神经网络推理等利用。

NOR食玩闪存架构的优势

基于石油钻杆NOR男裤闪存架构的存算1体AI芯片,利用NOR Flash的摹拟特性,可直接在存储单元内进行全精度矩阵卷积运算(乘加运算)。规避了数据在ALU和存储器之间来回传输的瓶颈,从而使功耗大幅下降、提高了运算效力。

其Flash存储单元可以存储神经网络的权重参数,同时还可以完成和此权重相干的乘加法运算,从而将乘加法运算和存储融会到了1个Flash单元里面。例如,100万个Flash单元可以存储100万个权重参数,同时还可以并行完成油炉1冷冻机00万次乘加法运算。

在这语音室样的芯片里面,深度学习网络可以被映照到多个Flash阵列,这些Flash阵列不但可以存储数据按摩器,其深度学习网络同时还能完成AI推理,注意,这个进程是不需要额外逻辑计算电路的,1切处理都在这1块芯片内完成。相比于传统的冯诺依曼架构深度学习芯片,这类的运算效力非常高,而且本钱低廉,由于省去了DRAM、SRAM和片上并行计算单元,从而简化了系统设计。

目前来看,这类基于NOR闪存架构的存算1薄膜开关体AI芯片,其主要利用领域就是对本钱和运算效力(特别是功耗)敏感的利用,如边沿侧的低功耗、低本钱语音辨认等。而随着人工智能和物联网的发展,它还可以拓展更多的利用场景。

结语

不管是新型存储技术,还是以NOR闪存为代表的老油墨助剂牌技术,在发展存算1体AI芯片方面,都需要不断完善生态系统建设,才能使全部产业发展起来。

因此,除存铠装电缆储和计算技术本身以外,行业相干的接狐皮制品口标准跟进特别重要布娃娃,特别是对以存储为基础的新型梳棉机利用来讲,更加重要。另外,由于芯片内部集中了愈来愈多的功能块,片内总线和片内网络系统成了1个新的课题,目前,这方面的研究和新技术愈来愈遭到业界的重视,新的技术和IP也陆续推出。

友情链接