智能计算关键技术产业发展态势研究

doi:10.12267/j.issn.2096-5931.2024.06.002

信息通信技术与政策 ›› 2024, Vol. 50 ›› Issue (6): 10-16.doi: 10.12267/j.issn.2096-5931.2024.06.002

智能计算关键技术产业发展态势研究

Research on development trend of key technologies and industry of intelligent computing

张乾¹, 黄璜¹, 苗子聪²

1.中国信息通信研究院信息化与工业化融合研究所,北京 100191
2.天翼云科技有限公司云网产品事业部,北京 100083

收稿日期:2024-05-13 出版日期:2024-06-25 发布日期:2024-07-30
通讯作者: 张乾, 中国信息通信研究院信息化与工业化融合研究所工程师,长期从事智能计算、人工智能、集成电路等技术标准研究工作
作者简介:
黄璜, 中国信息通信研究院信息化与工业化融合研究所工程师,长期从事先进计算、集成电路、算力基础设施等研究工作;
苗子聪, 天翼云科技有限公司云网产品事业部解决方案工程师,长期从事云计算、智能计算、人工智能等研究工作

ZHANG Qian¹, HUANG Huang¹, MIAO Zicong²

1. Informatization and Industrialization Integration Research Institute, China Academy of Information and Communications Technology, Beijing 100191, China
2. Cloud & Network Product Division, China Telecom Cloud Computing Corporation, Beijing 100083, China

Received:2024-05-13 Online:2024-06-25 Published:2024-07-30

摘要/Abstract

摘要：

在生成式人工智能大模型爆炸式发展背景下,智能计算的重要性日益凸显。当前千亿、万亿级参数大模型在海量数据训练过程中,对智能计算在芯片算力、内存容量、互联速率等方面提出更高要求。从支持大模型创新发展需求入手,重点从芯片技术、软件技术、互联技术等维度分析智能计算技术发展态势和产业发展现状,结合当前产业发展面临的机遇与挑战,提出未来智能计算发展策略。

关键词: 智能计算, 人工智能芯片, 高速互联, 人工智能

Abstract:

Against the backdrop of the explosive development of generative Artificial Intelligence (AI) large language models, the importance of intelligent computing is becoming increasingly prominent. Currently, large language models with hundreds of billions or even trillions of parameters have raised demanding requirements for intelligent computing in terms of chip computing power, memory capacity, and interconnection speed during the training process of massive data. Starting from the demand for key technologies of intelligent computing, this study focuses on analyzing the development trend and the current industry situation, in dimensions such as computing chip technology, software technology, and interconnection technology. Combining with the opportunities and challenges faced by the current industry development, it proposes future development strategies for intelligent computing.

Key words: intelligent computing, AI chip, high-speed interconnection, AI

中图分类号:

TN38

张乾, 黄璜, 苗子聪. 智能计算关键技术产业发展态势研究[J]. 信息通信技术与政策, 2024, 50(6): 10-16.

ZHANG Qian, HUANG Huang, MIAO Zicong. Research on development trend of key technologies and industry of intelligent computing[J]. Information and Communications Technology and Policy, 2024, 50(6): 10-16.

导出引用管理器 EndNote|Ris|BibTeX

链接本文:

http://ictp.caict.ac.cn/CN/10.12267/j.issn.2096-5931.2024.06.002

http://ictp.caict.ac.cn/CN/Y2024/V50/I6/10

图/表 4

参考文献 16

[1]	SEVILLA J, HEIM L, HO A, et al. Compute trends across three eras of machine learning[C]// 2022 International Joint Conference on Neural Networks. IEEE, 2022.
[2]	KAPLAN J, MCCANDLISH S, HENIGHAN T, et al. Scaling laws for neural language models[J]. arXiv Preprint arXiv:2001.08361, 2020.
[3]	Meta. Building Meta’s GenAI infrastructure[EB/OL]. (2024-03-12)[2024-04-20]. https://engineering.fb.com/2024/03/12/data-center-engineering/building-metas-genai-infrastructure/.
[4]	NVIDIA. NVIDIA H100 tensor core GPU architecture[EB/OL]. (2024-04-07)[2024-04-20]. https://resources.nvidia.com/en-us-tensor-core/gtc22-whitepaper-hopper.
[5]	NVIDIA. NVIDIA DGX B200[EB/OL]. 2024[2024-04-20]. https://www.nvidia.com/en-us/data-center/dgx-b200/.
[6]	IT之家. 三星完成16层混合键合堆叠验证,有望在HBM4内存广泛应用[EB/OL]. (2024-04-07)[2024-04-20]. https://new.qq.com/rain/a/20240407A06DNT00.
[7]	尹首一. 人工智能芯片概述[J]. 微纳电子与智能制造, 2019, 1(2):7-11.
[8]	马立伟. 深度学习驱动的领域专用架构[J]. 中国科学:信息科学, 2019, 49(3):334-341.
[9]	陆淳. LLM推理算法简述[EB/OL]. (2024-03-11)[2024-04-20]. https://zhuanlan.zhihu.com/p/685794495.
[10]	黎子毅, 李克森, 李雨芮, 等. 人工智能算子接口标准化研究[J]. 人工智能, 2020(3):18-25.
[11]	崔晨, 吴迪, 陶业荣, 等. 多GPU系统的高速互联技术与拓扑发展现状研究[J]. 航空兵器, 2024, 31(1):23-31.
[12]	张鹏飞, 田雯, 武振宇, 等. AI大模型场景下智能计算技术选型分析[J]. 电信工程技术与标准化, 2024, 37(1):3-7.
[13]	车碧瑶, 张永航, 廖怡, 等. 运营商大模型硬件基础设施创新及RDMA流量控制技术研究[J]. 信息通信技术与政策, 2024, 50(2): 26-32.
[14]	Cisco. Cisco global cloud index: forecast and methodology, 2016-2021[R], 2018.
[15]	中国移动通信研究院. 面向超万卡集群的新型智算技术白皮书(2024年)[R], 2024.
[16]	WILL R. 200万注册开发者与无数突破:NVIDIA开发者计划的“高光时刻”NVIDIA 开发者团队每年都以更快的速度不断壮大,随着开发者人数达到200万,这些NVIDIA开发者们所追求着的“突破”也达到前所未有的量级[EB/OL]. (2020-08-19)[2024-04-20]. https://blogs.nvidia.cn/blog/2-million-registered-developers-breakthroughs/.

类别	指令集	核心单元	生态	代表产品
GPGPU	千条以上	通用计算单元图形计算单元专用执行单元	生态系统复杂行业应用广泛行业标准成熟	英伟达B200 超威半导体(Advanced Micro Devices, AMD)公司MI300
DSA	百条以内	专用执行单元	客户适配期长软件投入大产品“快”,应用“慢”	谷歌公司TPU v5系列芯片 Groq公司LPU

类别	指令集	核心单元	生态	代表产品
GPGPU	千条以上	通用计算单元图形计算单元专用执行单元	生态系统复杂行业应用广泛行业标准成熟	英伟达B200 超威半导体(Advanced Micro Devices, AMD)公司MI300
DSA	百条以内	专用执行单元	客户适配期长软件投入大产品“快”,应用“慢”	谷歌公司TPU v5系列芯片 Groq公司LPU

算子分类	算子功能
基础数学操作	张量变换、线性代数、信号处理
神经网络操作	卷积、池化、正规则、激活函数
机器学习操作	支持向量机、决策树
其他AI操作	图操作、类脑操作

算子分类	算子功能
基础数学操作	张量变换、线性代数、信号处理
神经网络操作	卷积、池化、正规则、激活函数
机器学习操作	支持向量机、决策树
其他AI操作	图操作、类脑操作

NVLink	第二代	第三代	第四代	第五代
发布时间/年	2017	2020	2022	2024
带宽/GB/s	300	600	900	1 800
链路数	6	12	18	18
每条链路双向带宽/GB/s	40	50	50	100
支持芯片架构	Volta	Ampere	Hopper	Blackwell

智能计算关键技术产业发展态势研究

Research on development trend of key technologies and industry of intelligent computing

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 4

参考文献 16

相关文章 15

编辑推荐

Metrics

本文评价

[1]	硕天鸾, 董一民. 人工智能时代数据库技术创新态势研究[J]. 信息通信技术与政策, 2024, 50(6): 17-22.
[2]	张东, 白宇, 张腾飞. 工业PON时间确定网络及智能控制融合系统[J]. 信息通信技术与政策, 2024, 50(5): 87-91.
[3]	陈晓朋, 许可欣, 梁宇栋. 人工智能促进数据中心绿色节能研究[J]. 信息通信技术与政策, 2024, 50(2): 33-39.
[4]	武林娜, 宋恺, 王淞鹤. 生成式人工智能对个人信息安全的挑战及应对策略[J]. 信息通信技术与政策, 2024, 50(1): 13-18.
[5]	王欣晖, 周星月, 朱进国. 6G网络架构探讨[J]. 信息通信技术与政策, 2023, 49(9): 13-22.
[6]	徐明枫, 李阳, 韩凯峰, 徐晓燕, 江甲沫. 基于GAN的导频配置和信道估计联合优化算法^*[J]. 信息通信技术与政策, 2023, 49(9): 58-66.
[7]	孟楠, 端木森嘉, 刘梦, 李飞远, 陈才. 元宇宙应用场景创新研究及实施建议——以苏州工业园区为例[J]. 信息通信技术与政策, 2023, 49(9): 74-81.
[8]	郭真, 姚树为, 胡亦琦, 申奇. 智慧城市咨询领域数字化转型的路径思考[J]. 信息通信技术与政策, 2023, 49(8): 73-79.
[9]	宋恺, 屈蕾蕾, 杨萌科. 生成式人工智能的治理策略研究[J]. 信息通信技术与政策, 2023, 49(7): 83-88.
[10]	黄璜, 张乾. 存算一体技术产业发展研究[J]. 信息通信技术与政策, 2023, 49(6): 30-39.
[11]	朱刚, 张美翔, 孙浩文, 李家京, 张亮, 杨云龙. ChatGPT带给智慧城市的启示——未来城市演进路径的探讨[J]. 信息通信技术与政策, 2023, 49(6): 71-78.
[12]	龚戈勇, 刘洋. 一种基于5G技术的AI智慧养老服务平台设计[J]. 信息通信技术与政策, 2023, 49(5): 91-96.
[13]	孙頔, 杨锦洲, 夏璠. AI+工业互联网模式的应用探析[J]. 信息通信技术与政策, 2023, 49(11): 2-7.
[14]	刘莺, 韩春清, 王李祥. 人工智能与我国中小银行数字化转型[J]. 信息通信技术与政策, 2023, 49(1): 22-27.
[15]	张沛, 刘媛媛. 人工智能治理国内外发展现状分析[J]. 信息通信技术与政策, 2023, 49(1): 46-51.