《AIGC行业全景篇:算力、模型与应用的创新融合-241108(38页).pdf》由会员分享,可在线阅读,更多相关《AIGC行业全景篇:算力、模型与应用的创新融合-241108(38页).pdf(38页珍藏版)》请在薪酬报告网上搜索。
1、Table_Yemei0行业研究深度报告2024 年 11 月 8 日Table_Title1AIGC 行业全景篇算力、模型与应用的创新融合 人工智能的发展历程与人工智能的发展历程与 AIGCAIGC 的市场机遇的市场机遇。人工智能的发展经历了三次浪潮,从最初的逻辑推理和专家系统,到机器学习和深度学习,人工智能技术不断演进。AIGC 利用生成式 AI 技术,创造出多样化的内容,展示出巨大的商业潜力。AIGC 产业链可划分为基础层、模型层和应用层。预计到 2030 年,AIGC 市场规模将增至 9810 亿美元,推动全球经济增长 4.9 万亿美元,累计产生的经济影响达到19.9 万亿美元。基础层
2、基础层:AIGC:AIGC 的快速发展推动算力需求激增,算力存储网络成为投资的主赛的快速发展推动算力需求激增,算力存储网络成为投资的主赛道。道。随着 AIGC 技术的快速发展,特别是基于 Transformer 的大模型对算力需求急剧增加,全球互联网巨头纷纷加大对 AIGC 基础设施的投资,以推动创新和保持竞争优势。GPU 系统、HBM 存储和高性能网络基础设施在 AIGC 计算中发挥着关键作用,满足了对高速并行计算的需求,成为硬件基础设施投资的主赛道。模型层:算法进步、性能成本优化与商业模式多元化的融合模型层:算法进步、性能成本优化与商业模式多元化的融合。AIGC 技术的进步得益于生成算法、
3、预训练模型和多模态技术的创新。在大语言模型的竞争中,性能和成本是两个核心要素,性能的提升和成本的降低使得 AIGC 的应用更加广泛。AIGC 公司通过订阅服务、API 接入等多元化商业模式来拓展收入渠道,从而增强自身的市场竞争力。随着企业逐渐认识到 AIGC 技术的潜力,预计 B2B 服务将在整体 AIGC 市场中占据主导地位。全球大语言模型市场将显著增长,OpenAI 凭借 ChatGPT 的成功在市场上处于领先地位,而科技巨头如微软、亚马逊和谷歌也正通过技术创新和产品整合来追赶。应用层:技术创新应用推动市场发展和行业变革应用层:技术创新应用推动市场发展和行业变革。AIGC 技术正推动 To
4、C 和 ToB领域的创新与多元化应用,覆盖 Chatbot、社交、游戏和内容创作等多个场景,并在企业层面提供提高效率、降低成本的解决方案。在电子设备领域,AIGC 技术引发革新,特别是在智能手机、汽车和人形机器人的智能化创新中表现突出。各类 AIGC 应用爆发式增长,其中 AI 广告市场份额最大,药物研发、网络安全和 IT服务市场增速最快。业务建议业务建议。随着市场需求的不断增长,AIGC 应用有望在多个行业实现突破,带来长远的发展机会,建议重点关注 AIGC 应用的长期机会。(本部分有删减,招商银行各行部请参照文末联系方式联系研究院)风险提示风险提示。(1)伦理道德的风险。(2)技术缺陷的风
5、险。(3)监管与法律的风险。(4)商业化不确定的风险。(5)市场竞争加剧的风险。(6)宏观经济波动的风险。Table_Author1胡国栋胡国栋招商银行研究院招商银行研究院行业行业研究员研究员:0755-83169269:相关研究报告相关研究报告敬请参阅尾页之免责声明行业研究深度报告1/3目 录1人工智能的发展历程与人工智能的发展历程与 AIGC 的市场机遇的市场机遇.11.1 人工智能产业发展历程,从图灵测试到生成式人工智能产业发展历程,从图灵测试到生成式 AI 的演进的演进.11.2 生成式生成式 AI 技术推动内容创作的变革与大语言模型的发展技术推动内容创作的变革与大语言模型的发展.31
6、.3 AIGC 产业链结构与未来市场增长展望产业链结构与未来市场增长展望.52 基础层:大模型的技术发展推动算力需求激增,算力存储网络成为投资的主赛道基础层:大模型的技术发展推动算力需求激增,算力存储网络成为投资的主赛道.72.1 AIGC 技术迅猛发展引发算力需求激增技术迅猛发展引发算力需求激增.72.2 互联网巨头加速互联网巨头加速 AIGC 投资,以推动创新和竞争投资,以推动创新和竞争.92.3 算力:算力:GPU 引领引领 AIGC 技术革新,市场需求持续增长技术革新,市场需求持续增长.102.4 存储:存储:HBM 凭借高带宽和低延迟推动凭借高带宽和低延迟推动 AIGC 计算计算.1
7、22.5 网络:高性能网络基础设施推动网络:高性能网络基础设施推动 AIGC 发展,高速率光模块需求激增发展,高速率光模块需求激增.153模型层:算法进步、性能成本优化与商业模式多元化的融合模型层:算法进步、性能成本优化与商业模式多元化的融合.183.1 生成算法、预训练模型与多模态技术催生生成算法、预训练模型与多模态技术催生 AIGC 的迅猛发展的迅猛发展.183.2 性能与成本:大语言模型竞争的核心驱动力性能与成本:大语言模型竞争的核心驱动力.213.3 AIGC 市场快速增长推动多元化商业模式与竞争格局演变市场快速增长推动多元化商业模式与竞争格局演变.234应用层:技术创新推动应用市场发
8、展和传统行业变革应用层:技术创新推动应用市场发展和传统行业变革.264.1 AIGC 技术加速技术加速 ToC 与与 ToB 领域的创新与多元化应用领域的创新与多元化应用.274.2 AIGC 技术驱动电子设备革新,大模型引领手机、汽车与机器人智能化创新技术驱动电子设备革新,大模型引领手机、汽车与机器人智能化创新.284.3 AIGC 应用市场正处于发展初期,竞争格局多元化且持续演变应用市场正处于发展初期,竞争格局多元化且持续演变.305业务建议与风险提示业务建议与风险提示.325.1 业务建议:优先关注产品成熟度高的细分领域和业务建议:优先关注产品成熟度高的细分领域和 AIGC 应用的长期机
9、会应用的长期机会.325.2 风险提示风险提示.32敬请参阅尾页之免责声明行业研究深度报告2/3图目录图图 1 1:人工智能发展历史时间线:人工智能发展历史时间线.1图图 2 2:人工智能技术发展经历三次浪潮:人工智能技术发展经历三次浪潮.2图图 3 3:人工智能技术路线关系图:人工智能技术路线关系图.2图图 4 4:AIGCAIGC 与大型与大型 AIAI 模型的关系模型的关系.3图图 5 5:大语言模型发展时间线:大语言模型发展时间线.4图图 6 6:AIGCAIGC 产业链生态体系产业链生态体系.5图图 7 7:2020-20322020-2032 年年 AIGCAIGC 市场规模市场规
10、模.6图图 8 8:2020-20322020-2032 年年 AIGCAIGC 硬件市场规模硬件市场规模.7图图 9 9:2020-20322020-2032 年年 AIGCAIGC 软件市场规模软件市场规模.7图图 1010:AIGCAIGC 大模型对算力需求持续快速增长大模型对算力需求持续快速增长.8图图 1111:海外互联网巨头资本支出飙升:海外互联网巨头资本支出飙升.9图图 1212:中国:中国 AIGCAIGC 市场资本支出预测市场资本支出预测.10图图 1313:全球:全球 AIGCAIGC GPUGPU 和和 ASICASIC 市场规模预测市场规模预测.12图图 1414:AI
11、GCAIGC GPUGPU 市场份额(市场份额(20232023 年)年).12图图 1515:HBMHBM 3D3D 堆叠与堆叠与 GPUGPU 封装架构封装架构.13图图 1616:HBMHBM 技术路线图技术路线图.13图图 1717:存储行业全球市场规模预测(:存储行业全球市场规模预测(2023-20292023-2029).14图图 1818:DRAMDRAM 全球市场份额(全球市场份额(20232023).14图图 1919:HBMHBM 全球市场规模全球市场规模.15图图 2020:HBMHBM 全球市场份额(全球市场份额(20232023).15图图 2121:AIGCAIGC
12、 发展推动数据中心向发展推动数据中心向 800G800G 以上速率发展以上速率发展.16图图 2222:全球光模块市场预测:全球光模块市场预测.17图图 2323:AIAI 集群光模块市场预测集群光模块市场预测.17图图 2424:预训练模型:预训练模型 BERTBERT 结构图结构图.20图图 2525:典型多模态大模型架构示意图:典型多模态大模型架构示意图.21图图 2626:大模型训练性能不断提升:大模型训练性能不断提升.22图图 2727:AIGCAIGC 训练硬件成本趋势训练硬件成本趋势.22图图 2828:AIGCAIGC 训练软件成本趋势训练软件成本趋势.22图图 2929:GP
13、TGPT APIAPI 推理成本快速下降推理成本快速下降.23图图 3030:AIGCAIGC 大模型长期潜在市场与收入结构预测大模型长期潜在市场与收入结构预测.25图图 3131:全球大语言模型市场规模预测:全球大语言模型市场规模预测.25图图 3232:中国大语言模型市场规模预测:中国大语言模型市场规模预测.25图图 3333:大语言模型市场份额(:大语言模型市场份额(20232023 年)年).26图图 3434:AIGCAIGC 推动大模型与电子设备智能化升级推动大模型与电子设备智能化升级.29图图 3535:特斯拉:特斯拉 FSDFSD 自动驾驶路径规划自动驾驶路径规划.30敬请参阅
14、尾页之免责声明行业研究深度报告3/3图图 3636:20242024 年全球主流人形机器人年全球主流人形机器人.30图图 3737:2022-20322022-2032 年年 AIGCAIGC 应用市场规模应用市场规模.31图图 3838:AIGCAIGC 应用市场份额(应用市场份额(20232023 年)年).32图图 3939:AIGCAIGC 产业链布局策略产业链布局策略.32表目录表表 1 1:LLM 模型对模型对 GPU 算力需求持续提升算力需求持续提升.8表表 2 2:英伟达主流:英伟达主流 GPU 产品性能对比产品性能对比.10表表 3 3:英伟达:英伟达 GPUGPU 与光模块
15、需求测算与光模块需求测算.16表表 4 4:全球:全球 TOP10TOP10 光模块厂商排名光模块厂商排名.17表表 5 5:主流生成算法模型主流生成算法模型.19表表 6 6:常见的:常见的 AIGC 应用场景应用场景.27表表 7 7:全球:全球 AIGC 应用排名(应用排名(2024 年年 9 月)月).28敬请参阅尾页之免责声明行业研究深度报告1/33AIGC 是一种基于生成式 AI 技术的新型内容创作方式。本篇报告围绕 AIGC的发展历程与市场机遇、算力基础设施的发展趋势、大模型算法与商业模式的融合以及 AIGC 应用市场的创新发展来分析 AIGC 产业链的相关机会,最后阐明商业银行
16、在 AIGC 赛道的业务机会与风险。1人工智能的发展历程与 AIGC 的市场机遇1.1 人工智能产业发展历程,从图灵测试到生成式 AI 的演进人工智能(Artificial Intelligence,AI)作为计算机科学的一个重要分支,旨在深入探讨智能的本质,创造出能够模拟人类思维与反应的智能机器。经过多年的不断进化,人工智能如今已演变为一门涵盖机器人技术、语言识别、图像识别、自然语言处理及专家系统等多个研究领域的综合性学科。人工智能的历史可以追溯到 20 世纪 50 年代。1950 年,被誉为“人工智能之父”的艾伦图灵(Alan Turing)提出了著名的图灵测试,借助“问”与“答”的方式来
17、评估机器是否具备智能。1956 年,约翰麦卡锡(JohnMcCarthy)在达特茅斯会议上首次正式提出“人工智能”这一术语,这一时刻标志着人工智能作为一门独立学科的诞生。图图 1 1:人工智能发展历史时间线:人工智能发展历史时间线资料来源:招商银行研究院人工智能的发展历程可以划分为三次浪潮,从最初的逻辑推理和专家系统,人工智能的发展历程可以划分为三次浪潮,从最初的逻辑推理和专家系统,到机器学习和深度学习,人工智能技术不断演进到机器学习和深度学习,人工智能技术不断演进。第一次浪潮(1950s-1970s)期间,研究主要集中在利用符号逻辑和推理来模拟人类智能,然而由于对技术能力的期望过高与实际进展
18、之间的落差,到 70 年代中期,人工智能进入了“第一次 AI 之冬”。在第二次浪潮(1980s-2000s)期间,随着计算能力的提升和知识表示技术的发展,专家系统在 80 年代兴起,能够模拟特定领域的专家决策能力。90 年代,机器学习这一分支迅速崛起,使计算机能够从数据中敬请参阅尾页之免责声明行业研究深度报告2/33学习并不断改进。第三次浪潮(2010s-至今)以来,现代人工智能技术广泛应用,如卷积神经网络(CNN)、递归神经网络(RNN)和生成对抗网络(GAN)等,特别是在自然语言处理(NLP)领域的突破,例如 BERT 和 GPT 系列模型,使得机器在理解和生成自然语言方面取得了显著进展。
19、机器学习是人工智能的一个重要分支,使计算机系统能够从数据中汲取知机器学习是人工智能的一个重要分支,使计算机系统能够从数据中汲取知识,进而做出预测或决策。识,进而做出预测或决策。该领域涵盖多个子领域,包括监督学习、无监督学习和强化学习等。监督学习通过利用带标签的训练数据来训练模型,使其能够对未见过的数据进行标签预测,常见算法有逻辑回归、支持向量机(SVM)、决策树和随机森林、神经网络等。无监督学习处理未标记的数据,旨在发现数据的内在结构或模式,常见的算法包括 K-均值聚类、层次聚类和主成分分析(PCA)等。强化学习通过与环境的交互学习如何采取行动,以实现长期奖励最大化,常见算法包括 Q 学习、S
20、arsa 和深度 Q 网络(DQN)等。机器学习的应用领域非常广泛,涵盖自然语言处理、计算机视觉、医疗健康、金融及推荐系统等多个领域。图图 2 2:人工智能技术发展经历三次浪潮:人工智能技术发展经历三次浪潮图图 3 3:人工智能技术路线关系图:人工智能技术路线关系图资料来源:infoDiagram、招商银行研究院资料来源:CSDN、招商银行研究院深度学习作为机器学习的一个重要分支,专注于利用深层神经网络解决复深度学习作为机器学习的一个重要分支,专注于利用深层神经网络解决复杂问题。杂问题。它受人脑生物神经网络的启发,构建了由许多简单神经元组成的系统。每个神经元负责接收输入信号,进行加权求和,并通
21、过激活函数生成输出。深度学习通过多层次的神经网络结构,能够自动提取数据的深层次特征。常见的算法包括前馈神经网络(FNNs)、卷积神经网络(CNNs)、循环神经网络(RNNs)以及 Transformer 等。深度学习的应用领域广泛,涵盖图像识别、语音识别、自然语言处理、生成模型、游戏与强化学习等,已成为当今人工智能技术的核心驱动力。敬请参阅尾页之免责声明行业研究深度报告3/33生成式生成式 AIAI(GenerativeGenerative AIAI)作为深度学习的一个重要分支,是一种能够)作为深度学习的一个重要分支,是一种能够基于用户请求创造原创内容的人工智能技术基于用户请求创造原创内容的人
22、工智能技术。它通过深度学习模型识别现有内容的模式和结构,这些模型在未标记的原始数据上进行训练,旨在发现并编码大量数据中的模式与关系,以理解自然语言请求并生成相应的新内容。生成式AI 的应用领域极为广泛,涵盖文本生成、图像合成、音乐创作以及语音合成等多个方面。1.2 生成式 AI 技术推动内容创作的变革与大语言模型的发展AIGC(Artificial Intelligence Generated Content)是一种利用生成式AI 技术自动创作内容的新型生产方式。与传统 AI 主要关注于识别和预测现有数据模式不同,AIGC 则专注于创造全新的、有创意的数据。其核心原理在于学习和理解数据的分布,
23、从而生成具有相似特征的新数据,能够生成文本、图像、音频、视频等多种形式的内容。图图 4 4:AIGCAIGC 与大型与大型 AIAI 模型的关系模型的关系资料来源:AIGC 的挑战和解决方案、招商银行研究院AIGCAIGC 涵盖了利用生成式涵盖了利用生成式 AIAI 技术生成的多种类型内容,而大型技术生成的多种类型内容,而大型 AIAI 模型则是模型则是实现实现 AIGCAIGC 的重要技术手段。的重要技术手段。生成式 AI 通过深度学习模型在大数据集上进行训练,以创造新的文本、图像和音乐等多样化的内容。AIGC 不仅包括生成式 AI算法,还涉及自然语言处理、计算机视觉(CV)和音频处理等核心
24、技术。在生成式 AI 的框架中,大型 AI 模型发挥着至关重要的作用,通常采用大量参数的神经网络架构,主要包括大语言模型(LLM)、大多模态模型(LMM)和大视觉模型(LVM)。其中,大语言模型是最为核心的类型,包含数十亿以上参数的深度神经网络语言模型,运用自监督学习方法,通过大量未标注的文本进行预训练,从而掌握语言的复杂结构。需要注意的是,并非所有的大语言模型都专敬请参阅尾页之免责声明行业研究深度报告4/33注于生成任务,有些模型(如 BERT)更适合理解任务,而其他模型(如 GPT系列)则更擅长生成任务。大语言模型的发展经历了基础模型、能力探索和突破发展三个阶段。大语言模型的发展经历了基础
25、模型、能力探索和突破发展三个阶段。2017年,Vaswani 等人提出的 Transformer 架构为大语言模型的演进奠定了坚实基础。自 2018 年以来,Google、OpenAI 和 Meta 等公司相继推出了多种大语言模型,如 OpenAI 的 GPT 系列、Google 的 Gemini 和 Meta 的 LLaMA 系列,推动了这一领域的迅猛发展。图图 5 5:大语言模型发展时间线:大语言模型发展时间线资料来源:A Survey of Large Language Models、招商银行研究院在基础模型阶段(在基础模型阶段(20182018 年至年至 20212021 年)年),研
26、究主要集中在语言模型本身,Google 的 BERT 和 OpenAI 的 GPT-1 标志着预训练语言模型时代的开启,模型参数量实现了数量级的提升,从 GPT-1 的 1.17 亿增加到 GPT-3 的 1750 亿,这使得大模型在自然语言任务中的表现极为出色。在能力探索阶段(在能力探索阶段(20192019 年至年至 20222022 年)年),研究者们探索如何在不针对单一任务进行微调的情况下,充分发挥大语言模型的能力,随后引入指令微调方案(Instruction Tuning),使模型在特定任务上的表现更加精准,同时保留了在其他任务上的泛化能力。在突破发展阶段(在突破发展阶段(20222
27、022 年年 1111 月至今)月至今),大语言模型向多模态持续进阶,模型能力不断扩展,从文本生成延伸到图像和视频生成。自 ChatGPT 于 2022年推出以来,它迅速在全球范围内引发了 AIGC 的广泛关注与应用热潮。以ChatGPT 为起点,一个大语言模型即可实现回答问题、文稿撰写、代码生成和敬请参阅尾页之免责声明行业研究深度报告5/33数学解题等多项能力,这在过去需要多个小模型才能分别实现。GPT-4 作为一款开创性的多模态模型,凭借其卓越的综合实力成为行业标杆,后续推出的GPT-4V、GPT-4-Turbo 和 GPT-4o 在性价比上不断提升。此外,Sora 文生视频模型能够根据文
28、本提示生成视频内容,并对现有图像或视频进行编辑和扩展。1.3 AIGC 产业链结构与未来市场增长展望AIAI 产业链可分为基础层、模型层和应用层三个层面。产业链可分为基础层、模型层和应用层三个层面。基础层提供 AI 运行所需的底层算力资源和数据资源,其中算力资源涵盖 AI 芯片、存储、网络、安全及基础设施软件,数据资源则包括 AIGC 模型训练和优化所需的大量高质量多模态数据,以及数据分类、标记和清洗过滤的技术手段。模型层负责开发和优化模型算法,包括通用 AIGC 模型、行业应用微调模型,以及监督学习、无监督学习和强化学习等训练模型。应用层则涵盖针对企业的专用模型应用和针对个人用户的个性化服务
29、,涉及文本、图像、音频、视频及多模态内容等多个应用服务方向。图图 6 6:AIGCAIGC 产业链生态体系产业链生态体系资料来源:招商银行研究院AIGCAIGC 技术展现出巨大的商业潜力,将成为全球经济增长的重要推动力。技术展现出巨大的商业潜力,将成为全球经济增长的重要推动力。根据 IDC 的研究,到 2030 年,与商业相关的 AI 解决方案每投入 1 美元,预计将为全球经济带来 4.60 美元的直接和间接经济效应。预计到 2030 年,企业在采用 AI、将 AI 融入现有业务运营,以及向企业和消费者提供 AI 产品和服务的支出,将推动全球经济增长 4.9 万亿美元,累计产生的经济影响达到
30、19.9 万敬请参阅尾页之免责声明行业研究深度报告6/33亿美元,占全球 GDP 的 3.5%。彭博情报预测,随着 ChatGPT 等 AIGC 应用的快速增长,AIGC 市场有望从 2022 年的 370 亿美元增长至 2032 年的 1.36 万亿美元,年均复合增长率达到 43%。此外,AIGC 在信息技术硬件、软件、服务和广告等领域的支出占比将从 2022 年的 1%提升至 2032 年的 12%。图图 7 7:2020-20322020-2032 年年 AIGCAIGC 市场规模市场规模资料来源:Bloomberg Intelligence、招商银行研究院受益于大模型算力需求,受益于大
31、模型算力需求,AIGCAIGC 硬件市场预计将迎来显著增长。硬件市场预计将迎来显著增长。随着 AIGC大模型参数量的快速增加、数据规模的扩展以及对长文本处理能力的提升,算力的需求持续上升。彭博情报预测,AIGC 硬件市场将从 2022 年的 350 亿美元增长至 2032 年的 6400 亿美元,这一增长趋势反映了 AIGC 技术在训练和推理两个关键环节对算力资源的强大需求。在训练阶段,AIGC 模型需要处理和分析庞大的数据集,这通常要求大量算力资源。预计训练硬件市场规模将从 2022 年的 320 亿美元增长到 2032 年的4710 亿美元,年均复合增长率为 31%。而在推理阶段,通常需要
32、较低功耗和成本的算力资源来满足用户终端的需求,预计推理硬件市场的增速将更高,从2022 年的 30 亿美元增长至 2032 年的 1690 亿美元,年均复合增长率达到 48%。受益于受益于 AIGCAIGC 对行业创新和效率的提升,对行业创新和效率的提升,AIGCAIGC 软件应用日益广泛。软件应用日益广泛。AIGC 技术正在改变影视、游戏、漫画和网络文学等领域,通过自动化和优化任务来提高生产效率并促进创意发展。例如,GitHub Copilot 基于 OpenAI 技术,向开发人员提供编码建议,从而减少编程时间,提高开发效率。集成 AIGC 助手正在成为软件行业的趋势,能够通过自动化和优化多
33、种任务增强用户的工作效率。彭博情报预测,AIGC 软件市场将从 2022 年的 10 亿美元增长至 2032 年的 3180亿美元,年均复合增长率高达 71%。敬请参阅尾页之免责声明行业研究深度报告7/33图图 8 8:2020-20322020-2032 年年 AIGCAIGC 硬件市场规模硬件市场规模图图 9 9:2020-20322020-2032 年年 AIGCAIGC 软件市场规模软件市场规模资料来源:Bloomberg Intelligence、招商银行研究院资料来源:Bloomberg Intelligence、招商银行研究院2 基础层:大模型的技术发展推动算力需求激增,算力存储
34、网络成为投资的主赛道2.1 AIGC 技术迅猛发展引发算力需求激增随着随着 AIGCAIGC 技术的迅猛发展,尤其是以技术的迅猛发展,尤其是以 TransformerTransformer 为基础的大模型,对为基础的大模型,对算力的需求激增。算力的需求激增。这些先进模型在训练和推理过程中,需要巨大的计算资源,包括高性能 GPU、高速存储以及高速通信网络。自 2017 年 Transformer 模型问世以来,它已成为构建大型语言模型的基石。该模型摒弃了传统的循环神经网络结构,通过自注意力机制处理序列数据,实现了对整个数据序列的并行处理,从而显著提升了训练和推理的效率。然而,这一技术进步也带来了
35、对更高算力的迫切需求,进而增加了模型训练和部署的成本。根据英伟达的数据显示,在引入 Transformer 模型之前,算力需求每两年增长约 8 倍;而采用 Transformer 模型后,这一数字飙升至每两年增长约 275倍。为了满足不断攀升的算力需求,数据中心正朝着超大规模的发展方向迈进,以提供更强大的计算能力和更优越的可扩展性。同时,AI 服务器集群也在快速迭代与升级,以确保能够满足日益增长的算力需求。根据根据 Scaling-lawScaling-law 法则,大语言模型的性能随着模型参数量、训练数据量法则,大语言模型的性能随着模型参数量、训练数据量和计算资源的增加而显著提升。和计算资源
36、的增加而显著提升。从大模型的算力需求来看,随着参数规模、Token 数量以及训练所需算力的同步增长,模型性能不断提升。以 GPT-4 为例,其参数量从 GPT-3 的约 1750 亿提升至约 1.8 万亿,增幅超过 10 倍;而训练数据集的规模也从 GPT-3 的几千亿 Token 扩大到 13 万亿 Token。这种规模上的提升使得 GPT-4 在处理复杂问题和生成自然语言文本方面的能力得到了极大的增强。敬请参阅尾页之免责声明行业研究深度报告8/33图图 1010:AIGCAIGC 大模型对算力需求持续快速增长大模型对算力需求持续快速增长资料来源:英伟达、招商银行研究院随着随着 AIGCAI
37、GC 大模型性能的显著提升,对计算资源的需求也呈现出指数级的大模型性能的显著提升,对计算资源的需求也呈现出指数级的增长。增长。以 GPT-4 为例,其训练过程需要约 2.15e25 FLOPS 的运算量,这通常需要动用约 25000 块 A100 GPU,且训练周期长达 90 至 100 天。此外,数据采集、模型优化和强化学习等环节的额外开销,使得整体成本变得更加高昂。根据斯坦福大学 2024 年发布的 AI 指数报告,AIGC 模型的训练成本正在急剧上升,GPT-4 的成本从 2022 年 GPT-3 的大约 430 万美元激增至 2023 年的 7835 万美元。随着模型的不断扩展和训练过
38、程的日益复杂,这些成本预计将继续攀升。表表 1 1:LLM 模型对模型对 GPU 算力需求持续提升算力需求持续提升模型模型参数规模参数规模(B B)TokenToken 规规模模(B)(B)训练量训练量Z Z FLOPSFLOPSGPGPU U类型类型GPUGPU 算力算力TFLOPS/sTFLOPS/sGPUGPU 利利用率用率训练训练时间时间GPUGPU数量数量GPT-3175300420H10016000.31 周1447OPT175300430H10016000.31 周1482LLaMA651400600H10016000.31 周2067LLaMA2342000400H100160
39、00.31 周1378LLaMA2702000800H10016000.31 周2756GPT-418001300021500H10016000.31 周107474资料来源:公开资料、招商银行研究院敬请参阅尾页之免责声明行业研究深度报告9/332.2 互联网巨头加速 AIGC 投资,以推动创新和竞争根据海外互联网巨头的资本开支计划,亚马逊、微软、谷歌和根据海外互联网巨头的资本开支计划,亚马逊、微软、谷歌和 MetaMeta 等公等公司正在持续增加对司正在持续增加对 AIGCAIGC 基础设施的大规模投资。基础设施的大规模投资。2021 至 2023 年间,这些公司的总资本支出达到 4670
40、亿美元,年均约 1550 亿美元。在 2024 年第二季度,资本支出达到 520 亿美元,同比增长 54%,主要用于数据中心的 AIGC 建设,以推动产品转型和技术升级。展望未来,预计在 2024 至 2027 年间,这四家公司将投入总额 8500 亿美元,年均 2125 亿美元,助力在竞争激烈的 AIGC 市场中保持领先地位并推动创新与增长。图图 1111:海外互联网巨头资本支出飙升:海外互联网巨头资本支出飙升资料来源:GeekWire、招商银行研究院从海外互联网巨头的管理层表态来看,针对从海外互联网巨头的管理层表态来看,针对 AIGCAIGC 领域的高额资本支出将领域的高额资本支出将持续一
41、段较长时期持续一段较长时期。Meta CEO 马克扎克伯格强调维持 AI 行业领头羊地位的紧迫性,并警告投资不足可能在未来 10 至 15 年内使 Meta 处于竞争劣势。谷歌 CEO 桑达尔皮查伊表示,公司倾向于超额投资,以确保抓住 AI 领域的收入机会,即使面临一定的资源过剩风险。亚马逊 CFO 布莱恩奥尔萨夫斯基预计,2024 年下半年资本支出将持续增长,主要投资用于满足 AIGC 及非生成式AI 技术的市场需求。微软 CFO 艾米胡德则宣布,将加大 AI 基础设施建设投入,预计在 2025 财年刷新资本支出记录,以应对不断攀升的 AIGC 和云服务产品需求。无论是在全球还是中国市场,无
42、论是在全球还是中国市场,AIGCAIGC 领域的投资都在迅速增长领域的投资都在迅速增长。IDC 数据显示,全球 AI 资本支出预计将从 2022 年的 1325 亿美元增长到 2027 年的 5124亿美元,年均复合增长率为 31.1%。在中国市场,AI 资本支出同样展现出强劲的增长势头,预计将从 2022 年的 128 亿美元增至 2027 年的 400 亿美元,年均复合增长率为 25.6%。中国将在亚太地区人工智能市场发展中继续发挥引领作用,其 AI 资本支出占亚太地区总支出的 50%。敬请参阅尾页之免责声明行业研究深度报告10/33图图 1212:中国:中国 AIGCAIGC 市场资本支
43、出预测市场资本支出预测资料来源:IDC、招商银行研究院2.3 算力:GPU 引领 AIGC 技术革新,市场需求持续增长当前,人工智能领域的 AI 芯片家族日益壮大,主要包括 GPU(图形处理器)、FPGA(现场可编程门阵列)、ASIC(专用集成电路)和 NPU(神经拟态芯片)。其中,GPU 和 FPGA 属于成熟的通用型 AI 芯片,而 ASIC 则为特定 AI场景定制,如谷歌的 TPU、亚马逊的 Trainium 和微软的 Maia。GPU 最初设计用于加速图形渲染和显示,广泛应用于游戏、视频制作和处理等领域。随着时间推移,因其在并行处理密集数据方面的卓越能力,GPU 逐渐成为 AI 领域的
44、重要推动力,尤其是在深度学习训练中。其核心性能指标包括算力、显存、功耗和互联能力,成为推动 AIGC 发展的核心力量。英伟达的英伟达的 GPUGPU 产品在产品在 AIGCAIGC 的发展历程中扮演了至关重要的角色,其成功的发展历程中扮演了至关重要的角色,其成功源于在硬件性能和软件生态方面的持续投入与创新源于在硬件性能和软件生态方面的持续投入与创新。在硬件领域,英伟达推出了 Volta、Turing、Ampere、Hopper 和 Blackwell 等系列架构,这些架构配备了专为深度学习设计的 CUDA Core 和 Tensor Core,显著提升了 AI 训练与推理的效率。CUDA Co
45、re 负责基础运算,其数量通常与 FP32 计算单元相对应;而 Tensor Core 则在 Volta 及后续架构中引入,专门用于张量计算,与深度学习框架(如 TensorFlow 和 PyTorch)结合使用,带来了十几倍的效率提升。除了硬件创新,英伟达还构建了全面的 GPU 软件生态系统,包括 CUDA、cuDNN和 TensorRT 等工具,大大简化了 AIGC 模型的开发和部署流程,使得 AIGC 技术的应用更加高效便捷。表表 2 2:英伟达主流:英伟达主流 GPU 产品性能对比产品性能对比敬请参阅尾页之免责声明行业研究深度报告11/33性能参数性能参数A100A100H100H10
46、0H200H200GB200GB200架构架构AmpereHopperHopperBlackwell发布时间发布时间2020202220232024FP649.7 TFLOPS34 TFLOPS34 TFLOPS40 TFLOPSFP64 Tensor Core19.5 TFLOPS67 TFLOPS67 TFLOPS90 TFLOPSFP3219.5 TFLOPS67 TFLOPS67 TFLOPS180 TFLOPSTF32 Tensor Core312 TFLOPS989 TFLOPS989 TFLOPS5 PFLOPSBFLOAT16 TensorCore624 TFLOPS1979
47、TFLOPS1979 TFLOPS10 PFLOPSFP16 Tensor Core624 TFLOPS1979 TFLOPS1979 TFLOPS10 PFLOPSFP8 Tensor Core-3958 TFLOPS3958 TFLOPS20 PFLOPSINT8 Tensor Core1248 TFLOPS3958 TFLOPS3958 TFLOPS20 PFLOPSGPU 内存内存80 GB80 GB141GB384GBGPU 内存带宽内存带宽2.04 Tbps3.35 Tbps4.80 Tbps16Tbps互联技术互联技术NVLink:600 GB/sPCIe Gen4:64GB/s
48、NVLink:900GB/sPCIeGen5:128GB/sNVLink:900GB/sPCIeGen5:128GB/sNVLink:1.8TB/sPCIeGen6:256GB/s资料来源:英伟达、招商银行研究院随着随着 AIGCAIGC 技术在多个行业中的广泛应用,对技术在多个行业中的广泛应用,对 GPUGPU 和和 ASICASIC 算力的需求持续算力的需求持续增加增加。全球数据中心 GPU 市场在近年来显著扩张,2023 年出货量达到 385 万颗,较 2022 年的 267 万颗增长了 44.2%。预计在经历 2023 年和 2024 年的大幅增长后,全球 AIGC GPU 和 ASI
49、C 市场将保持稳定增长。根据 Yole 的预测,该市场规模将从 2023 年的 505 亿美元增至 2029 年的 2330 亿美元,复合年均增长率达到 29.0%。英伟达作为英伟达作为 GPUGPU 市场的领导者,其产品在市场的领导者,其产品在 AIGCAIGC 训练和推理市场占据主要训练和推理市场占据主要份额。份额。英伟达不断推出新的 GPU 架构和软件产品,每一代产品都在性能和能效方面持续提升,其 2023 年数据中心 GPU 销售收入达到了 362 亿美元,根据IoT Analytics 的数据,市场份额达到 92%。与此同时,AMD 和英特尔也在数据中心 GPU 市场占有一席之地,A
50、MD 的 MI300 系列获得了微软、Meta 等订单,市场份额达到 3%;英特尔的 Gaudi 2 则提供高性能且具成本效益的解决方案。此外,一些新兴参与者也在进入市场,推动技术创新与产品多样化。敬请参阅尾页之免责声明行业研究深度报告12/33图图 1313:全球:全球 AIGCAIGC GPUGPU 和和 ASICASIC 市场规模预测市场规模预测图图 1414:AIGCAIGC GPUGPU 市场份额(市场份额(20232023 年)年)资料来源:Yole、招商银行研究院资料来源:IoT Analytics、招商银行研究院2.4 存储:HBM 凭借高带宽和低延迟推动 AIGC 计算HBM
51、(高带宽存储器)是一种采用 3D 堆叠技术的 DRAM,通过先进的硅通孔(TSV)封装方法,能够实现高容量、高带宽、低延时和低功耗的特性。这种设计特别适用于高性能计算和图形处理,尤其是在 AIGC 计算中,HBM 与 GPU的结合极大提升了并行数据处理速度。在 AIGC 计算中,GPU 需要处理大量并行数据,要求具备高算力和大带宽。通过中介层与 HBM 的互联封装,HBM 的高带宽特性为 GPU 提供了充足的内存带宽,支持其高速数据处理需求,从而加速 AIGC 模型的训练和推理过程。HBM 存储技术自 2013 年 SK 海力士首次推出 HBM1 以来,经历了多次重要的产品迭代,包括 HBM2
52、、HBM2E、HBM3 和最新的 HBM3E。每一代产品在容量、带宽和功耗效率上都有显著提升,其中 HBM3E 提供高达 9.2Gbps 的 I/O 传输速度和超过 1280GB/s 的带宽。展望未来,预计 HBM4 将在 2026 年上市,将支持更广泛的内存层配置,以更好地满足不同类型的应用需求。敬请参阅尾页之免责声明行业研究深度报告13/33图图 1515:HBMHBM 3D3D 堆叠与堆叠与 GPUGPU 封装架构封装架构图图 1616:HBMHBM 技术路线图技术路线图资料来源:Tech Investments、招商银行研究院资料来源:SK 海力士、招商银行研究院AIGCAIGC 的迅
53、猛发展正在刺激数据中心对高速的迅猛发展正在刺激数据中心对高速 DRAMDRAM 内存的需求持续增长内存的需求持续增长。随着超大规模企业不断扩展服务器容量以支持大语言模型的训练和推理任务,高速 DRAM 和 HBM 的需求也显著上升。数据中心已成为 DRAM 需求最大的细分市场,占据整体市场份额的 50%。预计随着 HBM 和 CXL(Compute Express Link)等新技术的普及,数据中心 DRAM 市场的增速将超过整体 DRAM 市场。根据 YoleGroup 的预测,DRAM 市场将从 2023 年的 520 亿美元增长到 2029 年的 1340 亿美元,复合年均增长率为 17
54、%,而数据中心 DRAM 在 2023-2029 年间的复合年增长率将达到 25%。在全球 DRAM 市场中,三星、SK 海力士和美光占据了主导地位,三家公司合计市场份额高达 94%。其中,三星以 40%的市场份额继续稳居全球最大 DRAM供应商,SK 海力士和美光分别占有 29%和 25%的市场份额。敬请参阅尾页之免责声明行业研究深度报告14/33图图 1717:存储行业全球市场规模预测(:存储行业全球市场规模预测(2023-2023-20292029)图图 1818:DRAMDRAM 全球市场份额(全球市场份额(20232023)资料来源:Yole、招商银行研究院资料来源:Yole、招商银