Broadcom 推出神经网络推理引擎

时间:2023-12-05
  Broadcom 在其新型软件可编程 Trident 5-X12 芯片中推出了一种新型片上神经网络推理引擎,称为 NetGNT(网络通用神经网络流量分析器)。
  NetGNT 并行工作以增强标准数据包处理管道。标准管道是单数据包/单路径,这意味着它在通过芯片端口和缓冲区采用特定路径时查看一个数据包。
  相比之下,NetGNT 是一个机器学习推理引擎,可以经过训练来寻找跨越整个芯片的不同类型的流量模式。
  例如,NetGNT 可以查找 AI/ML 工作负载中常见的称为“incast”的流量模式,其中许多数据包流几乎同时汇聚到同一端口并进行缓冲,从而导致拥塞。
  NetGNT 可以在这种模式开始时实时识别它,并调用拥塞控制技术来避免网络性能下降。由于 NetGNT 在硬件中以全线速运行,因此不会对吞吐量或延迟产生影响。
  Trident 5-X12 可软件编程、可现场升级,并提供 16.0 太比特/秒的带宽,是市场领先的 Trident 4-X9 的两倍。
  它还增加了对 800G 端口的支持,允许直接连接到 Broadcom 领先的 Tomahawk 5,该 5 用作最新计算和 AI/ML 数据中心的主干/结构。
  该芯片定位于支持 48x200G 下行链路端口和 8x800G 上行链路端口的 1RU 数据中心 ToR。
上一篇:和熠AMOLED高端显示模组项目正式开工
下一篇:鸿利智汇与九洲光电签订战略协议!

免责声明: 凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。