近日,Meta在官网发布公告,为了满足未来十年AI算力急剧增长的需求,Meta开始大力布局下一代AI软硬件基础设施。其中包括首款自研第一代AI推理加速器芯片MTIA v1,并公布了各种技术细节。
Meta官网显示,MTIA是一种ASIC芯片,能够将不同电路组合在同一块芯片上,还可以并行执行一项或多项任务。第一代MTIA ASIC芯片于2020年开始设计,是一款AI推理加速器芯片,该芯片采用台积电7nm工艺制造,运行频率为800 MHz,在INT8精度下算力达102.4 TOPS,在FP16精度下算力达51.2 TFLOPS,热设计功率(TDP)为25W。
Meta副总裁兼基础设施负责人Santosh Janardhan在一篇博客文章中写道,MTIA是Meta针对推理性工作的内部定制加速器芯片,它提供了比CPU更高的计算能力和效率,能够为内部工作提供定制化服务,实现更好的性能、更低的延迟和更高的效率。
据了解,在过去的十年间,Meta花费了数十亿美元聘请顶级数据科学家来构建新型AI模型,努力布局生成式AI。一直到2022年,Meta主要采用的是CPU和专为加速AI算法而设计的芯片组合来维持其AI的运行,而该组合的任务效率通常会低于GPU。这也是为何Meta取消了原本打算在2022年大规模推广CPU和AI定制芯片的计划,转而订购了价值数十亿美元的英伟达GPU。为了能够与这些GPU相匹配, Meta对旗下的几个数据中心进行了颠覆性的重新设计,而这样也是Meta开发MTIA这款ASIC芯片的原因,预计这款这款芯片将于2025年正式推出。
免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。