为什么存算一体化越来越受到关注?今年1月,在阿里达摩院发布的2020十大科技趋势中,其中一个是,计算存储一体化突破AI算力瓶颈。
根据该趋势预判,冯诺伊曼架构的存储和计算分离,已经不适合数据驱动的人工智能应用需求,频繁的数据搬运导致的算力瓶颈以及功耗瓶颈已经成为对更先进算法探索的限制因素。类似于脑神经结构的存内计算架构将数据存储单元和计算单元融合为一体,能显著减少数据搬运,极大提高计算并行度和能效。计算存储一体化在硬件架构方面的革新,将突破AI算力瓶颈。当前,有不少科研团队和芯片企业投入到存储一体芯片的研发中,并且时常传出新进展,比如,上个月,瑞士洛桑联邦理工学院设计出了一种兼具逻辑运算和数据存储功能的计算机芯片,近日有消息显示,知存科技已经研发了三款存算一体芯片,并且其中一款已小批量生产。
存算一体,即在存储器颗粒本身进行算法嵌入,在存储颗粒内实现计算。众所周知,我们当前的计算机采用冯诺依曼体系结构,计算和存储功能是分离的,分别由中央处理器CPU和存储器完成。CPU和存储器通过总线互连通信,CPU从存储器读出数据,完成计算,然后将结果写回存储器。冯诺依曼架构以CPU为咳心,其他部件都是为CPU服务。但是,因为处理器和存储器工艺、封装各不相同,两者的性能差距随着时间不断拉大,存储器数据访问速度跟不上CPU的数据处理速度,导致了“存储墙”问题越来越严重。
数据显示,从 1980年到 2000年,处理器和存储器的速度失配以每年50%的速率增加。通过不断的探索,业界认为,存算一体技术可以达到弱化或消除“存储墙”问题。关于存储墙的问题,知存科技创始人兼CEO王绍迪近日在某活动上的讲述更为形象,他说:计算本身消耗的功耗并不多,但数据从内存搬到计算单元会消耗将近1000倍的计算功耗。可见,存算一体可以完美的避开搬运产生的极大功耗,事实上,与传统技术相比,存算一体还有运算效率高、速度快和成本低的特点,非常受市场需求端看好。
虽然从应用端来看,存算一体芯片会给很多行业、设备带来更高效的运算和更低的功耗,但是其技术的实现却没有那么容易,事实上,很多团队已经在这个领域钻研很多年,才蕞终取得一些进展。知存科技创始人兼CEO王绍迪就透露,该公司的创始团队研发存算一体八年,流片次数接近20次。虽然当前知存科技已经有芯片进行小批量生产,但是从开发的时间来看,投入是相当大的,可见技术实现的不容易。不过虽然困难,是所谓,市场需求推动技术进步,在科学界和企业界不断努力研发下,未来发展还是值得期待。事实上,当前已经不少技术和产品初见成效。
就在上个月,有报道称,瑞士洛桑联邦理工学院的工程师设计了一种兼具逻辑运算和数据存储功能的计算机芯片。就如上文所言,现在的主流计算机,处理器和存储芯片都是分离的,一直沿用冯诺依曼五十多年前确立的架构,在工作的时候,两个单元之间需要频繁地交换数据,消耗很大一部分时间和能量。根据报道,这个研究组首次使用一种只有3个原子厚的平面材料——二硫化钼(MoS2),进行创新设计,集逻辑运算和存储功能为一体,大幅减少传统设计中数据交换的损耗。该团队主要研究员Andras Kis说:“该款芯片可以减少存储单元和处理单元之间数据传输的能量消耗,缩短了运算时间,缩小芯片占用的空间。”可以预见,这款芯片如果蕞后能够实现商用,将会为制造体积更小、更节能、处理速度更快的电脑,以及人工智能的发展铺平道路。
另外,密歇根大学卢伟教授及其团队在去年也成功研发出过一款基于忆阻器阵列的通用 AI 芯片,忆阻器即同时兼备记忆和电阻的功能,是神经形态计算实现的关键。根据报道,这款新型 AI 芯片将所有存储计算功能集成在同一芯片上,真正实现了存算一体化,而且可以通过编程应用于多种人工智能算法,进一步提高计算速度,并减少能量损耗。卢伟教授当时在接受媒体采访的时候表示,这种新型 AI 芯片很适合切入的一个应用场景是基于推理的边缘计算场景。
知存科技成立于2017年10月,专注研发基于存算一体先进技术的人工智能芯片。根据管网介绍,该公司的创始成员来自国际上蕞早研发存算一体技术的专+团队,并在2016年实现了铨球第1款存算一体AI芯片。当前,知存科技已经完成研发了两款智能语音芯片:WTM1001和WTM2101,其中WTM1001是铨球第1个存算一体芯片产品,并且已经进入小批量生产阶段。WTM2101预计明年Q1进行正式的小批量试产。另外该公司还有一款面向视觉应用的芯片WTM3213,正在研发。在存算一体技术的推进过程中,知存科技可谓是走在前列,凭借优xiu的技术实力,成立三年时间,公司已经过得数亿元融资,加入芯片量产。
闪亿半导体成立于2017年7月,是闪易半导体的全资子公司。据管网介绍,闪易半导体是一家研发高性能、低功耗、低成本的存算一体化AI芯片的集成电路公司,团队成员分别毕业于清华大学和北京大学,分别在中美两国的电路设计生产、人工智能开发企业担任研发负责人。该公司表示,计划在三年内完成第1代语音产品在家电和物联网领域的推广和量产,同时设计和开发好第2代产品,用于图像识别及安防领域。闪亿半导体于2019年10月发布了其首款存算一体化芯片产品,该公司负责人鲁辞莽当时表示,这款芯片在运行效率上能提高超过10TOPS/W,成本可以比传统AI芯片方案下降超一半。
据合肥日报报道,NOR Flash厂商恒烁半导体与中国科大团队在2019年7月完成了历时两年研发的基于NOR闪存架构的存算一体AI芯片系统演示。根据报道,这是一款具有边缘计算和推理的AI芯片,能实时检测通过摄像头拍摄的人脸头像并给出计算概率,准确且稳定。可广泛应用于森林防火中的人脸识别与救援、心电图的实时监测、人工智能在人脸识别上的硬件解决方案等。据研发团队成员之一、中国科大博士陶临风介绍,相较于传统芯片,存算一体人工智能芯片具有能耗低、运算效率高、速度快和成本低的特点。恒烁半导体目前存算一体方面暂时还无更多进展,不过公司一直在积极推动存算一体AI芯片商用。
根据上述各家推出的芯片,存算一体芯片的优势基本体现在,低能耗、高效率、成本低等优点,在音频、图像等人工智能领域有很好的应用,并且凭借其优势,在一些传统设备中可以有更多创新性的应用,虽然研发困难,但是市场需求看好,科学界和企业界都在持续积极研发,并逐渐取得突破性进展,存算一体芯片的发展未来值得期待。