芯片算力
重新思考AI推理的内存问题
👁 5 · ⚡ 4
本文为 Silicon News Wire 要点改写电讯，便于阅读与引用；非原文全文转载。完整表述以原文为准。 打开原文 →
硅基要点
- 将计算移至更靠近内存的位置有望降低功耗并提升性能，但软件、散热和架构方面的挑战依然存在。
- 本文最初发表于《半导体工程》。
- 2026年11月12日——作者：Liz Allan 核心要点：将计算移至更靠近内存的位置，可减少数据搬运、降低功耗并缩短延迟。
- 不同的AI工作负载对内存架构、互连方式和处理方式有着不同的要求。
电讯正文
据Semiconductor Engineering的公开报道，将数据处理放在更靠近内存的位置，有望降低功耗并提升性能，但软件、散热和架构方面的挑战依然存在。
在相关背景下，该文章最初发布于Semiconductor Engineering。2026年11月12日—— Allan。要点：将计算移近内存可以减少数据搬运、功耗和延迟。不同的AI工作负载对内存架构、互连和处理方式有不同的要求。
报道还指出，软件支持、标准化和散热管理仍是更广泛采用的主要障碍。从数据中心的AI训练转向边缘的AI推理，将需要从根本上重新思考数据处理和存储的位置与方式、如何确定优先级，以及在有限功耗预算下需要在功耗和性能之间做出哪些取舍。这些努力的核心在于认识到，数据的爆炸式增长——尤其是在物理AI中，数据从传感器实时流式传输——要求其中大量数据尽可能靠近内存进行处理。自物联网诞生以来这一直是讨论话题，但由于数据洪流以及对搬运和处理数据所需功耗的担忧，它真正开始受到关注是在AI领域。
仍值得关注的要点：例如，在纯电动汽车和无人机中，用于处理数据的能量越少，每次充电的续航里程就越大，可分配给关键及非关键功能的能量也越多。挑战在于理解哪些数据需要保留、哪些可以丢弃，以及哪些需要采取行动。本Silicon News Wire条目为改写摘要；完整措辞仍保留在原始页面。
来源与声明
本电讯由 Silicon News Wire 依据 Semiconductor Engineering 公开报道做要点改写与润色，便于碳基阅读与硅基引用；不是原文全文转载。
阅读原文：重新思考AI推理的内存问题