大模型呼唤大算力 先进封装成芯片发展新高地

2023-11-25 08:37:04 来源:上海证券报 作者:李兴彩

  训练ChatGPT5.0需要5万块英伟达H100芯片,高算力需求将助推半导体产业加快发展,而在“后摩尔时代”推动半导体产业发展的众多技术中,先进封装是最重要的一环。

  11月23日在上海临港举行的“2023中国临港国际半导体大会”上,来自台积电、长电科技、芯原股份等公司嘉宾及业界学者,围绕人工智能与半导体产业发展进行了热烈讨论。与会嘉宾认为,人工智能不仅将大幅加快半导体产业的成长,还将半导体封装技术的重要性提升至前所未有的高度,使其成为除先进制程技术之外,让摩尔定律又向前迈进的一大新技术。

  本土GPU大有可为

  “生成式AI的重要意义不亚于PC或者互联网乃至蒸汽机,是一个划时代颠覆式的应用。”对于大模型,台积电(中国)有限公司副总经理陈平在主题演讲中给予高度评价,他认为支持生成式AI发展的三大基础要素是大数据、大模型、大算力。

  中国半导体行业协会IC设计分会理事长、清华大学集成电路学院教授魏少军在主题演讲中强调,当前发展人工智能主要靠大算力,更加凸显出高算力、低功耗的AI计算芯片的重要性。

  “我们跟本土很多AI芯片公司都有合作,本土也已经出现可用于训练、且可规模供应AI芯片的公司。”商汤科技联合创始人、大装置事业群总裁杨帆透露,由于众所周知的原因,本土AI公司获取英伟达GPU芯片难度加大,但从另一角度,这也给了本土高算力芯片公司及相关产业提供了发展空间。

  近期也有A股公司披露跟本土AI芯片公司合作的案例。

  超讯通信11月21日晚公告,公司拟与沐曦集成电路(上海)有限公司(简称“沐曦”)签订附生效条件的《全国行业总代理商合作协议》,公司将在2024年和2025年以行业总代理商身份每年完成1万颗曦云C系列GPU产品的进货业绩目标,主要用于中国移动、中国电信、中国联通、中国能建、中国交通以及“东数西算”算力节点客户处。沐曦是国内致力于研发具有自主知识产权的高性能GPU的芯片公司。

  不同于英伟达提供通用GPU芯片,国内AI芯片公司更多致力于发展专用ASIC芯片、GPGPU芯片等专用芯片,且有多家获得了业界支持。比如,在专用ASIC芯片上,百度昆仑芯与国芯科技展开合作,弘信电子则选择牵手燧原科技。在GPGPU路径上,除了沐曦,海光信息也发布了DCU深算二号。此外,四川长虹、中贝通信、科大讯飞等披露采用华为AI芯片昇腾910B。

  杨帆认为,由于大量的数据需要在本地存储,未来AI应用一定是本地化的,产业侧需要大量本地算力资源,本土AI芯片和服务器需要在各地AI智能计算中心形成完整支撑,也需要人工智能公司配合提供更多的软件(算子)支撑。

  先进封装成发展新高地

  人工智能对算力的需求有多大?在本次大会上,杨帆在演讲中举例称,Chat GPT5.0的训练量对应到算力,约等效于5万块的英伟达H100芯片。

  一直以来,推动高算力芯片发展的主要动力是先进制程技术。但现在,人工智能对算力的需求,将芯片封装技术的重要性提升至前所未有的高度,甚至是与先进制程技术相并列的高度,而2.5D、3D封装技术备受业界重视。

  “满足未来AI在大算力芯片方面的需求,半导体还会沿着摩尔定律前进:一是在传统工艺制程微缩上继续前行;二是采用2.5D、3D封装技术。”陈平表示,英伟达GPU芯片采用的CoWoS封装,iPhone手机芯片采用的info封装都是2.5D封装技术,3D堆叠可提供更高的集成度、更大的带宽、更好的芯片性能。

  陈平解释称,生成式AI对芯片制造工艺提出两大挑战:一是大算力,需要在单位面积里集成更多的晶体管,提供更高的集成度、更高的芯片性能;二是能效比,如果在器件端能够降低20%至30%功耗,那对数据中心整体成本的影响是巨大的。

  “不一定都要靠最先进的3nm工艺。”魏少军认为,如果把逻辑层和存储器层异构集成(封装)在一起(即存算一体化),再加上软件定义芯片技术、近存计算技术等软件(配置计算资源),可以解决当前计算中的很多问题。

  “Chiplet封装将会是先进封装技术的重要发展方向,可以把不同类型的芯片和器件集成在一起,以实现更高性能、更低功耗和更好的可靠性。”对于先进封装,长电科技汽车电子事业部副总裁、总经理兼长电汽车电子上海有限公司总经理郑刚介绍,在Chiplet基础上,长电科技推出的XDFOI封装方案,在性能提升和成本优化方面为客户提供全方位解决方案;目前2D MCM(多芯片组件)方案已经非常成熟,硅槽和硅空方案已经开发完成,未来进一步开发CDIC方案可满足客户不同应用的需求。

  记者注意到,除长电科技外,国内几大封装公司也在近期披露了其2.5D、3D封装技术的相关进展。

  比如,通富微电称,公司大力开发扇出型、圆片级、倒装焊等封装技术并扩充产能,此外积极布局Chiplet、2.5D/3D等顶尖封装技术,形成了差异化竞争优势。甬矽电子表示,公司正积极布局2.5D/3D等先进封装领域,并与一些客户保持密切交流。

  英伟达H200芯片采用的HBM3e(高频宽存储器)技术也备受市场关注。HBM是将GPU、CPU用FCBGA基板合封,由于堆叠导致更多发热,所以封装材料和基板比较重要。

  联瑞新材近日接受机构调研时表示,公司部分封装材料客户是全球知名企业,公司已配套批量供应了low α的球硅和球铝。兴森科技在互动易披露,公司生产的FCBGA封装基板可用于HBM存储的封装,公司暂时未与英伟达合作。

  此外,Chiplet等先进封装也给了半导体IP、EDA公司发展新机会。芯和半导体介绍,其可为Chiplet提供一整套EDA解决方案,而芯原股份将在临港研发中心重点发展Chiplet业务。