Panmesia 推出基于 CXL 的内存扩展套件

　　韩国 CXL 专家 Panmnesia 推出了基于其 CXL 3.1 IP 的“基于 CXL 的 GPU 内存扩展套件”。
　　该套件由 CXL-GPU 和 CXL-内存扩展器组成。它可以将GPU内存容量从几十GB增加到TB级。通过利用该解决方案，用户可以显着降低构建人工智能基础设施所需的成本。
　　大规模人工智能服务，例如生成式人工智能，已经成为现代生活不可或缺的一部分。然而，这些应用程序通常需要超过数 TB（10^12 字节）的内存容量，远远超过 GPU 设备的内存容量，约为数十 GB（10^9 字节）。
　　为了弥补这一差距，服务器运营商通常在其人工智能基础设施中部署大量 GPU。虽然这种方法有助于满足内存需求，但它带来了巨大的成本负担，使其成为许多组织不太可行的解决方案。
　　Panmnesia 开发了一种利用其专有的 CXL IP 的解决方案来应对这一挑战。用户可以根据自己的计算工作负载需求来部署 GPU。如果需要额外的内存容量，他们可以连接 CXL 内存扩展器（内存高度密集型），而不是添加更多 GPU。
　　这种方法允许用户将用于传统GPU内存扩展的冗余GPU替换为内存扩展器，从而最大限度地减少计算资源的浪费，并显着降低AI基础设施成本。
　　Panmnesia 基于 CXL 的 GPU 内存扩展套件的经济高效内存扩展是通过基于 Panmnesia 专有技术 CXL 3.1 IP 的设计实现的。通过 CXL 将 CXL-Memory Expanders 连接到 CXL-GPU，创建集成内存空间。嵌入式 CXL IP 自动处理该统一内存空间的内存管理操作。
　　因此，GPU 可以使用简单的加载/存储指令访问内存扩展器的内存空间，就像访问其内部内存一样。这给用户造成了 GPU 系统内存容量扩大的错觉。
　　此外，由于 Panmnesia 优化了其 CXL 3.1 IP 的延迟，因此内存扩展显示出最小化的性能开销，同时降低了 AI 基础设施成本。 Panmnesia的CXL 3.1 IP实现了业界首个两位数纳秒延迟，比其他供应商的产品缩短了约三倍。