美光已开始提供 8 高 24GB HBM3 Gen2 内存样品

    它基于美光的 1β (1-beta) DRAM 工艺节点构建，允许将 24Gb DRAM 芯片组装到行业标准封装尺寸内的 8 高立方体中。
    容量为 36GB 的 12 高堆栈将于 2024 年第一季度开始提供样品。
    该器件的性能功耗比和引脚速度改进可满足人工智能数据中心的极端功率需求。
    由于硅通孔 (TSV) 加倍、金属密度增加五倍而降低热阻以及节能数据路径设计等进步，功率效率得以提高。
    美光是台积电 3DFabric 联盟的合作伙伴，致力于帮助塑造半导体和系统创新的未来。
    作为 HBM3 Gen2 产品开发工作的一部分，美光与台积电之间的合作为 AI 和 HPC 设计应用的计算系统的顺利引入和集成奠定了基础。
    台积电已收到美光 HBM3 Gen2 内存样品，并正在与美光合作，对下一代 HPC 应用进行进一步评估和测试。
    美光 HBM3 Gen2 解决方案满足了生成式 AI 领域对多模式、数万亿参数 AI 模型日益增长的需求。每个立方体容量为 24GB，引脚速度超过 9.2Gb/s，大型语言模型的训练时间减少 30% 以上，从而降低 TCO。
    美光的产品使每天的查询量显着增加，从而能够更有效地使用经过训练的模型。美光 HBM3 Gen2 内存的每瓦性能可推动数据中心成本节省：
    对于安装 1000 万个 GPU 的情况，每个 HBM 立方体每节能 5 瓦，预计在五年内可节省高达 5.5 亿美元的运营费用。