GPU一卡难求,专家:至少等六个月!

时间:2023-05-30
    谷歌首席执行官将人工智能革命比作人类对火的驾驭. 现在,要是这个行业能够确保数字引火物为其提供燃料就好了。
    作为新一代人工智能系统生命线的先进芯片的短缺引发了一场锁定计算能力和寻找解决方法的竞赛。用于 AI 的图形芯片或 GPU 几乎全部由制造。但随着ChatGPT 的病毒式成功,对它们的需求激增远远超过了供应,ChatGPT 是一种能够以类似人类的方式回答问题的聊天机器人。
    “因为存在短缺,这与你认识的人有关,”Lamini 的联合创始人兼首席执行官 Sharon Zhou 说,Lamini 是一家帮助公司构建人工智能模型(如聊天机器人)的初创公司。“这就像大流行期间的卫生纸。”
    亚马逊网站和等云服务提供商微软可以向 ChatGPT 背后的公司 OpenAI 等客户提供的处理能力。AI 开发人员需要服务器容量来开发和操作他们日益复杂的模型,并帮助其他公司构建 AI 服务。
    即使是世界上联系最紧密的科技企业家也在努力确保产能。在 5 月 16 日关于 AI 的国会听证会上,OpenAI 首席执行官Sam Altman表示,由于处理器瓶颈,如果使用 ChatGPT 的人少一些会更好。
    “在这一点上,GPU 比药物更难获得,” Elon Musk在 5 月 23 日告诉华尔街日报CEO 委员会峰会。
    不过,成为马斯克有其好处。知情人士称,今年早些时候,急需甲骨文计算能力的初创公司突然被告知买家抢购了甲骨文的大部分备用服务器空间。知情人士说,初创公司被告知买家是马斯克,他正在打造自己的 OpenAI 竞争对手 X.AI。
    获得数以万计的高级图形芯片对于培训可以生成原始文本和分析的大型 AI 模型的公司来说至关重要。创始人说,如果没有它们,人工智能背后的大型语言模型的工作就会运行得慢得多。Nvidia 的高级图形芯片擅长同时进行大量计算,这对于 AI 工作至关重要。
    瑞银分析师估计,较早版本的 ChatGPT 需要大约 10,000 个图形芯片。马斯克估计更新版本需要 Nvidia 先进处理器的三到五倍。
    一些投资者正在梳理他们的网络以获得备用计算能力,而另一些投资者则在协调处理器和服务器容量的批量订单,这些处理器和服务器容量可以在他们的 AI 初创公司之间共享。据 AI 投资者和初创公司称,初创公司正在缩小他们的 AI 模型以提高效率,他们购买自己的带有相关图形芯片的物理服务器,或者转而使用甲骨文等不太受欢迎的云提供商,直到短缺问题得到解决。
    其他创始人只是乞求亚马逊和微软的销售人员获得更多权力。
    周说,她与一位前 Nvidia 工程师共同创立的 Lamini 拥有所需的芯片。她和接受《华尔街日报》采访的许多其他创始人拒绝确切说明他们是如何获得这些资产的。
    “业界对 GPU 的需求强劲,”OpenAI 发言人表示,并补充说该公司致力于确保其客户拥有所需的容量。
    甲骨文和马斯克没有回应置评请求。微软和亚马逊拒绝置评。
    Nvidia 最近表示,它正在扩大供应以满足不断增长的需求,但许多 AI 创始人预计短缺至少会持续到明年。对 Nvidia 产品的需求推动该公司股价上涨约 167%。芯片成本各不相同,但一些零售商以约 33,000 美元的价格出售 Nvidia 的高级 AI 芯片,尽管在需求旺盛的情况下它们可以在二级市场上获得更高的价格。
    一些公司正在封锁云容量,因为担心他们以后无法访问它们。“人们现在只是继续为它们付费,即使他们不需要它们,”Arthur 的首席执行官 Adam Wenchel 说,该公司开发工具来保护公司免受数据泄露等 AI 风险的影响。
    创始人和投资者表示,能够获得计算能力的公司仍需等待数周才能使用它。Perplexity AI 的首席执行官 Aravind Srinivas 说:“即使你已经预付了费用,也不意味着 GPU 会在第二天或一周内送到你这里来。”该公司构建了一个人工智能驱动的对话搜索工具。“你只需要等待。”
    服务器制造商及其直接客户表示,他们需要等待六个月以上才能获得 Nvidia 最新的图形芯片。Supermicro的首席执行官表示,该公司的图形芯片系统订单处于历史最高水平,该公司正急于增加制造能力。
    所有这些都为这些先进的芯片创造了二级市场,部分涉及大型加密公司,这些公司在繁荣时期购买芯片进行采矿,而现在在数字货币市场低迷的情况下不需要。
    AI研究公司Generally Intelligent的首席执行官邱侃君自去年以来一直在为自己的服务器购买先进的图形芯片,以渡过当前的短缺。一位风险投资家最近给她发消息,询问她是否有闲置产能可以出租给其他初创公司。秋还没有决定是否放弃她的芯片。
    与此同时,OpenAI 的奥特曼和其他员工一直在处理来自在其平台上构建人工智能服务的公司的投诉。
    为医生开发人工智能助手的 Nabla 的首席执行官兼创始人亚历克斯勒布伦表示,OpenAI 的软件可能需要长达两分钟的时间来响应查询。Nabla 使用 AI 自动生成笔记、推荐信和临床建议,其客户希望这些笔记能够立即生成。
    Lebrun 说,作为一种解决方法,Nabla 已经构建了一些更简单的模型来更快地生成材料的初稿,然后依靠最新版本的 ChatGPT 进行最终调整。“优秀的初创公司是那些学会如何解决所有这些限制的公司,”Lebrun 说,并补充说他直接向 Altman 提出了这些问题。
    Altman 和其他 OpenAI 代表告诉创始人,该公司正在与其最大的投资者和数据中心提供商微软合作解决这个问题。
上一篇:韩媒:韩国芯片对中国太依赖了
下一篇:汽车产业加速迈向智能网联电气化,车规中国芯力争据此集体突破并实现高质量发展

免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。