日前消息,IBM总经理卡勒(Mukesh Khare)在旧金山的yi次半导体会议上接受采访时表示,公司新一代企业级AI数据平台Watson系统将考虑采用自行研发的AI芯片,这款芯片将由三星代工,三星也将导入Watson系统。
IBM使用自研AI芯片降低成本
IBM致力于AI芯片研究多年,去年11月,发布了一款AI处理器,名为人工智能单元(ArtificialIntelligent Unit,AIU),这是IBMshou个用于运行和训练深度学习模型的完整 SoC。IBM声称,其比通用CPU工作更快、更高效。但当时并没有透露这款芯片的制造商和用途。
此次,IBM总经理卡勒(Mukesh Khare)称,正考虑将这种芯片用于Watson系统,并交由于三星电子制造。IBM旧Watson系统面临的障碍之一是高昂的成本,IBM希望能解决这个问题,Khare表示,使用自家的芯片可以降低云服务成本,因为这些芯片非常节能。
这款AIU芯片是IBM研究院AI硬件中心投入五年开发出的结果。据悉,该芯片将采用5nm制程工艺,共有32个处理器he心和230亿个晶体管,在设计易用性方面,与普通显卡相当,能够介入任何带有PCI插槽的计算机或服务器。
一直以来,深度学习模型依赖于CPU加GPU协处理器的组合进行训练与运行。GPUzui初是为沉浸图形图像而开发,后来人们发现其在AI领域有着显著优势,因此GPU在AI训练领域占据了非常重要的位置。
IBM开发的这款AIU芯片并非图形处理器,它是专为深度学习模型加速设计的,针对矩阵和矢量计算进行了优化。在深度学习模型计算中,很多用到64位与32位高精度浮点运算。IBM认为,有些计算任务并不需要这样的精度,于是提出了近似计算。
IBM认为对于常见的深度学习任务,其实并不需要那么高的计算精度,就比如说人类大脑,即使没有高分辨率,也能够分辨出家人或者小猫。
在AIU芯片的设计中,近似计算发挥着重要作用。IBM使用混合8位浮点(HFP)计算,而非AI训练中常见的32位或16点浮点计算。由于精度较低,因此该芯片的运算执行速度可达到FP16的2倍,同时继续保持类似的训练效能。
Khare指出,IBM并不试图设计一款直接替代英伟达半导体的产品,英伟达的芯片在用大量数据训练AI系统方面ling先市场。相反,IBM的芯片旨在实现人工智能行业内部人士所说的“推理”的成本效益,即让已经训练好的人工智能系统应用于现实世界决策。
台积电主导AI芯片代工,三星之难
如今在AI芯片代工领域,台积电几乎占据主导地位。今年以来,随着ChatGPT等大模型火了,英伟达H100/A100、H800/A800等AI芯片需求爆炸,而这些AI芯片都由台积电7nm及以下制程代工。这也使得台积电相关制程工艺产能利用率大幅提升,营收增长。
今年6月初有消息称,台积电正在紧急订购封装设备,以满足英伟达AI芯片的需求。AI芯片需求大涨,让台积电赚得盆满钵满的同时,也让三星有了更多机会。7月5日消息,据台媒报道,由于台积电产能供应日益紧张,英伟达正在考虑将部分GPU 制造交给三星电子。
业内人士分析,三星从英伟达获得大额订单的可能性并不高,不过对于英伟达来说,只依赖台积电来满足所有AI芯片客户的需求存在风险,为了应对市场快速增长的需求,英伟达可能会选择与三星合作。
据知情人士透露,英伟达正在与三星就芯片代工事宜进行谈判,双方将基于zui先进的工艺进行性能验证讨论。或许,如果三星的3nm试验产品通过性能验证并且其2.5D 先进封装技术满足英伟达的要求,三星可能会从英伟达获得部分订单。不过这些都还没有定论。
小结
种种迹象显示,三星对于切入AI芯片代工领域的需求极为迫切。只不过如今台积电在这方面占据了极大的优势。三星要想破局,还有一定的难度。而IBM将其AI芯片(AIU)交由三星代工,对于三星来说将会是很好的开始。