NEO宣布推出3D X-AI芯片：神经网络性能提升100倍，功耗降低99%！

7月19日消息，在美国加利福尼亚州圣克拉拉举行的 FMS 2024（内存和存储的未来）会议上，NEO Semiconductor 首席执行官 Andy Hsu 宣布，将推出 一款改变游戏规则的 3D DRAM——3D X-AI，具有 AI 处理功能，将数据存储和数据处理结合在单个芯片中，将神经网络（ANN）性能提高 100 倍，功耗降低 99%。

Andy Hsu表示，基于NEO 的3D X-DRAM技术，3D X-AI模拟人工神经网络，包括用于权重数据存储的突触和用于数据处理的神经元，使其非常适合加速下一代AI芯片和应用。3D X-AI 可替代高带宽内存 （HBM），有望显著推动 AI 芯片设计和 AI 工作负载优化。

据介绍，单个 3D X-AI 芯片包括 300 层 3D DRAM，容量为 128 Gb，以及 1 层神经网络电路，具有 8,000 个神经元，每个芯片支持高达 10 TB/s的 AI 处理吞吐量。使用 12 个堆叠 HBM 封装的 3D X-AI 芯片，只需一个 3D X-AI 芯片，即可将 3D X-AI 芯片的容量和性能提升 12 倍，达到 1,536 Gb （192 GB） 容量和 120 TB/s 的处理吞吐量。

“典型的人工智能芯片使用基于处理器的神经网络。这涉及结合高带宽内存来模拟用于存储权重数据的突触和图形处理单元 （GPU） 来模拟用于执行数学计算的神经元。性能受到HBM和GPU之间数据传输的限制，来回数据传输会降低AI芯片性能并增加功耗，“NEO创始人兼首席执行官Andy Hsu说：“具有 3D X-AI 的 AI 芯片使用基于内存的神经网络。这些芯片具有神经网络功能，每个 3D X-AI 芯片中都有突触和神经元。在执行 AI 操作时，它们用于大幅减少 GPU 和 HBM 之间数据传输数据的繁重工作负载。我们的 3D DRAM极大地提高了 AI 芯片的性能和可持续性。”

编辑：芯智讯-浪客剑

发布于：广东

相关推荐

NEO宣布推出3D X-AI芯片：神经网络性能提升100倍，功耗降低99%！
芯片功耗，走向拐点
Pico推出Neo 3系列VR一体机，搭载高通XR2芯片，售价2499元起
消息称新款苹果手表性能提升50% 、功耗减少 30%
芯片，全面走向3D
关注延迟、性能、功耗并重应用，「龙加智」推出实时AI计算平台
用稀疏化提升云AI芯片算力，「墨芯」获1亿元Pre-A轮投资
36氪首发| 加速产品商业化进程，3D视觉AI芯片研发商「埃瓦科技」完成亿元级A轮融资
潮科技 | 瑞士3D打印公司「exaddon」电化学沉积技术实现超高分辨率，纳米金属3D打印比头发小100倍的零件
2纳米芯片问世，芯片性能要起飞？

网址: NEO宣布推出3D X-AI芯片：神经网络性能提升100倍，功耗降低99%！ http://www.xishuta.com/newsview122496.html