人工智能技术的快速发展,正在为半导体产业带来新的成长动能。根据产业分析,人工智能相关应用将为2024年全球半导体销售额贡献约10%的成长。人工智能需要大量计算资源来训练模型和进行推理,这将推升对高效能计算芯片的需求,包括图形处理器(GPU)、应用专用集成电路(ASIC)、以及人工智能专用芯片,甚至相关的储存需求等等,随着人工智能在产业应用的不断普及,相关半导体需求也跟着水涨船高,成为驱动2024年业绩的主要动力。
图片来源 : shutterstock、达志影像
人工智能应用是由训练和推理建立起来的服务框架,需要庞大的计算能力,因此高速且并行处理能力强的GPU一直是企业建立人工智能服务的首选。目前主流的GPU厂商如NVIDIA和AMD都专门开发了人工智能加速功能,并推出了多款专为人工智能而设计的GPU产品。此外,为了提升人工智能模型的推理效能和降低功耗,也开发了许多人工智能专用芯片,如Google的TPU就是一例。这些专用芯片都针对人工智能运算进行了优化设计。
人工智能也需要大量储存空间来存放训练数据和模型,进而带动对内存和储存装置的需求,尤其是高带宽内存。训练大型人工智能模型需要处理海量数据,因此需要高速的内存才能顺利进行。此外,已训练好的大型模型也需要大容量的储存空间进行保存。例如,目前主流的HBM内存提供了极高的内存带宽,可满足人工智能训练与推理\的需求。大容量固态硬盘也被广泛用于储存大型人工智能模型。
从边缘运算到云端运算
随着相关技术的发展,各种人工智能应用也在快速增加。首先,在边缘运算应用方面,对实时性和低延迟有较高要求,芯片性能必须足够,这使得相关的半导体需求正在大幅提升。人工智能边缘运算将计算和分析运行于接近数据源的边缘设备中,减少了云端之间的数据传输,可实现更快速的分析和响应。例如,自驾车辆需要在车载设备本地实时分析图像和传感器数据来进行决策。另外,工业物联网中的各种传感器也需要在边缘进行实时分析。这些应用都需要高效能的边缘芯片来实现人工智能运算。
除了终端应用以外,生成式人工智能可以自动生成各种内容,也同样会导致对相关芯片的需求大增。根据KPMG的调查,生成式人工智能已成为半导体企业重视的新兴技术之一。随着像DALL-E、Stable Diffusion这样的生成式AI模型应用日益增多,使得能够加速AI运算的图形处理器(GPU)需求大幅增加,以满足这些模型训练和推理的计算需求。此外,人工智能芯片的专用化和异质整合也是重要趋势,除了增加相关模型的训练与推理效率以外,也能够有效降低成本。例如Google 的TPU就是人工智能专用芯片的代表,有效降低对主流GPU的需求。
台积电认为,随着人工智能在各个领域的应用日益增多,对半导体的需求也将持续扩大。根据IDC预测,2024年整合生成式AI的新款个人计算机将推出,这也将促进半导体在AI PC市场的销售。AMD看好人工智能将推升对其AI芯片的需求,预计2024年从AI芯片可获得逾20亿美元收入。NVIDIA的人工智能芯片需求甚殷,其新款H100 AI显卡的交货时间更长达52周。市调机构预测,到2025年,人工智能边缘计算市场规模将达上百亿美元。可见,人工智能市场前景可期,将可为半导体产业注入新的成长动能。
对半导体企业来说,要在AI芯片市场取得成功,就必须加强与人工智能公司的战略合作,以掌握市场动向;同时,在人才培养上下功夫,以确保在AI芯片技术上的领先优势。如果能抓住人工智能浪潮,半导体企业就能在新一轮的技术革新中站稳阵脚,并在激烈的市场竞争中占据有利地位。
驱动内存及储存需求
人工智能模型训练和推理过程中需要处理大量数据,这对内存和储存装置的需求提出了更高要求。为了加速训练和推理速度,需要高带宽、低延迟的内存。同时,存放大型训练数据和模型本身也需要大容量储存装置。随着人工智能模型规模不断扩大,训练数据量达到TB、PB级,内存和储存的需求更加强烈。
新型内存技术如HBM、HMC等堆栈式内存,可以为人工智能应用提供远超过DDR内存的内存带宽。NVMe、SCM等新型储存接口和技术也可以提供远高于SATA、SAS等传统接口的数据访问速度。储存系统方面,基于闪存的SSD正在快速取代传统的机械硬盘,提供了远超硬盘的读写速度。另外,储存类别的判别以及数据位置感知也很重要,可以让不同类型、不同存取频率的数据对应最适合的储存介质,进一步提升整体储存系统效能。
随着人工智能行业的发展,对高速、大容量内存和储存的需求将持续快速增加。这将推动相关技术的创新,也为内存和储存制造商带来新的市场机会。
先进制程技术发展
为了实现人工智能模型的高效训练和推理,需要使用先进的制程技术来提升芯片的计算密度和效能。人工智能应用对计算效能、功耗和成本的要求,正在推动半导体制程技术的发展。
先进制程如5奈米、3奈米制程可以大幅提高芯片的逻辑闸数和芯片密度,使单一芯片可以整合更多操作数件,从而提升人工智能芯片的运算效能。此外,先进制程也可以进一步降低芯片的能源消耗,这对电池供电的终端设备以及大规模数据中心都非常关键。除了制程节点的缩小外,新的材料和制程技术如EUV光刻也可以提高制程良率,降低成本。
另外,2.5D和3D堆栈封装技术可以将多个芯片垂直堆栈起来,使用硅贯通孔(TSV)进行垂直互连,大幅提升芯片间的带宽,这对内存和逻辑芯片的整合具有重要意义。而先进封装技术的运用,亦能推动人工智能芯片的异构整合,实现系统级设计的优化。
为降低人工智能系统成本,半导体企业也在持续改进制程技术以提高晶圆产能,同时优化芯片设计以提高单芯片闸数,降低单位成本。随着制程技术的不断创新,人工智能芯片的性价比也将越来越高。
为了满足相关应用的需求,台积电等半导体企业也将持续投入大量资源进行制程技术创新,以满足人工智能市场的需求。这将推动半导体技术取得重大突破,也将促进半导体产业的长期发展。
好消息~北美智权报有微信公众号了!
《北美智权报》内容涵盖世界各国的知识产权新闻、重要的侵权诉讼案例分析、法规解析,以及产业与技术新知等等。
立即关注北美智权微信公众号→ NAIP_IPServices
~欢迎读者分享与转发~ |
|
|
作者: |
林宗辉 |
现任: |
北美智权报资深编辑 |
学历: |
台湾大叶大学 |
经历: |
电子时报半导体资深分析师
MIT Techreview中文版研究经理
财讯双周刊撰述委员
美国波士顿Arthur wood投资顾问公司分析师 |
|
|
|