自拍偷拍 在线视频 NEO晓谕推出3D X-AI芯片:神经网罗性能提高100倍,功耗裁汰99%!
开头:芯智讯自拍偷拍 在线视频
免费视频7月19日音尘,在好意思国加利福尼亚州圣克拉拉举行的 FMS 2024(内存和存储的未来)会议上,NEO Semiconductor 首席试验官 Andy Hsu 晓谕,将推出 一款调动游戏规章的 3D DRAM——3D X-AI,具有 AI 处治功能,将数据存储和数据处治聚合在单个芯片中,将神经网罗(ANN)性能提高 100 倍,功耗裁汰 99%。
Andy Hsu暗意,基于NEO 的3D X-DRAM时代,3D X-AI模拟东谈主工神经网罗,包括用于权重数据存储的突触和用于数据处治的神经元,使其相称适合加快下一代AI芯片和期骗。3D X-AI 可替代高带宽内存 (HBM),有望权臣股东 AI 芯片假想和 AI 责任负载优化。
据先容,单个 3D X-AI 芯片包括 300 层 3D DRAM,容量为 128 Gb,以及 1 层神经网罗电路,具有 8,000 个神经元,每个芯片扶植高达 10 TB/s的 AI 处治轮廓量。使用 12 个堆叠 HBM 封装的 3D X-AI 芯片,只需一个 3D X-AI 芯片,即可将 3D X-AI 芯片的容量和性能提高 12 倍,达到 1,536 Gb (192 GB) 容量和 120 TB/s 的处治轮廓量。
“典型的东谈主工智能芯片使用基于处治器的神经网罗。这波及聚合高带宽内存来模拟用于存储权重数据的突触和图形处治单位 (GPU) 来模拟用于试验数学打算的神经元。性能受到HBM和GPU之间数据传输的浪漫,往返数据传输会裁汰AI芯片性能并加多功耗,“NEO首创东谈主兼首席试验官Andy Hsu说:“具有 3D X-AI 的 AI 芯片使用基于内存的神经网罗。这些芯片具有神经网罗功能,每个 3D X-AI 芯片中王人有突触和神经元。在试验 AI 操作时,它们用于大幅减少 GPU 和 HBM 之间数据传输数据的竭力于责任负载。咱们的 3D DRAM极地面提高了 AI 芯片的性能和可捏续性。”
剪辑:芯智讯-浪客剑自拍偷拍 在线视频