Nvidia 宣布推出一款个人超级计算机 Project Digits。它基于新型 Grace Blackwell 超级芯片 (GB10),旨在供人工智能研究和数据科学家使用桌面系统开发模型并运行推理。
它可以运行 2000 亿个参数的模型,这些模型可以无缝部署在加速云或数据中心基础设施上。当使用 ConnectX 网络连接两台计算机时,参数模型数量将增加到多达 4050 亿个。
该超级芯片在 FP4 精度下的 AI 计算性能高达 1pflop。其 Blackwell GPU 具有 CUDA 核心和第五代 Tensor 核心,通过 NVLink-C2 芯片间互连连接到 Grace CPU。
GB10 性能意味着超级计算机可以使用标准电源插座和运行基于 Linux 的 Nvidia DGX 操作系统的系统来部署在 DGX 云上。 Project Digits 超级计算机拥有 128GB 内存和高达 4TB 的 NVMe 存储。 Nvidia 创始人兼首席执行官黄仁勋在拉斯维加斯 CES 上的 Project Digits 发布会上表示:“在每位数据科学家、AI 研究人员和学生的办公桌上放置一台 AI 超级计算机,使他们能够参与并塑造 AI 时代。”
AI模型可以通过该公司的NeMo框架、Rapids库以及Pytorch、Python和Jupyter笔记本等运行框架进行微调。 Nvidia 还宣布了用于代理 AI 的新蓝图和 NIM 微服务(即在人类直接监督最少的情况下进行 AI 决策)。
免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。