专家示警 散热将成为 AI 基建最大瓶颈之一 STCO 和 CPO 可望成解方
AI重点
业界专家警告，散热问题正日益成为人工智慧（AI）基础设施的最大瓶颈之一，但他们同时也表示，AI本身有可能会是这项问题的解决方案之一。
韩媒ETNews报导，韩国科学技术院（KAIST）教授金钟浩（音译）警告，随著愈来愈多系统半导体和记忆体采用3D堆叠技术，日益严峻的散热挑战可能阻碍AI发展。
记忆体将尤其可能面临到严峻挑战。金钟浩预期，除了堆叠DRAM的高频宽记忆体（HBM）外，堆叠NAND快闪记忆体的高频宽快闪记忆体（HBF），以及堆叠静态随机存取记忆体（SRAM）的高频宽SRAM（HBS），将成为AI时代下的下一代记忆体技术。
金钟浩表示，随著记忆体结构日益复杂，散热管理将需要新的方法，尤其是AI驱动的设计自动化。他以他自己实验室正在使用的「HBM设计AI代理」为例，该模型可帮助改善散热结构。他呼吁各界开发能够自主处理日益复杂的封装设计、推导出基于物理定律的最适方案，以及开发出高效散热架构的AI设计工具。
散热挑战已开始影响下一代的记忆体设计。路透报导，三星的zHBM直接将记忆体垂直堆叠在AI加速器上，其晶圆键合（wafer-bonding）技术可望实现比HBM5高十倍的记忆体密度、高三倍的能源效率，以及减少逾一半的热阻。
除了记忆体外，AI晶片不断提升的功耗也对散热系统造成了更大压力。TrendForce指出，辉达、超微和Google单一AI晶片的热设计功耗（TDP）已超过1瓩（kW），机柜级系统如今的功耗已达到数百kW。AI晶片采用液冷技术的普及率，预计将从去年的约33%上升至今年的53%，并在明年达到近60%。
首尔科技大学教授金成东（音译）也指出，热管理是先进半导体封装面临的一项重大挑战。他表示，AI产业对热管理的关注程度，正日益超越提升效能，主要方法包括共同封装光学（CPO）和设计技术协同优化（STCO）。
CPO可将电子讯号转换为光学讯号，比起传统的铜互联，除了可改善效能和能源效率外，还能减少发热。STCO则旨在优化包括热管理在内的整体系统效能。金成东并表示，业界正在加速推动STCO相关的技术研发和商业化。
