人工智能治理国内外发展现状分析

doi:10.12267/j.issn.2096-5931.2023.01.008

信息通信技术与政策 ›› 2023, Vol. 49 ›› Issue (1): 46-51.doi: 10.12267/j.issn.2096-5931.2023.01.008

人工智能治理国内外发展现状分析

Analysis of the domestic and international development and status of AI governance

张沛¹^,², 刘媛媛³

1.中国信息通信研究院泰尔终端实验室,北京 100191
2.北京邮电大学,北京 100876
3.中国信息通信研究院政策与经济研究所,北京 100191

收稿日期:2022-10-18 出版日期:2023-01-15 发布日期:2023-02-08
作者简介:
张沛，中国信息通信研究院泰尔终端实验室工程师,中国信息通信研究院、北京邮电大学联合培养博士后,计算机科学与技术博士,主要从事人工智能治理、智能产品测评等方面的研究工作;|刘媛媛，中国信息通信研究院政策与经济研究所创新研究部工程师,经济学博士后,主要从事人工智能治理、产业政策与科技创新等方面的研究工作。

ZHANG Pei¹^,², LIU Yuanyuan³

1. CTTL Terminal Labs,China Academy of Information and Communications Technology, Beijing 100191, China
2. Beijing University of Posts and Telecommunications, Beijing 100876, China
3. Policy and Economics Research Institute, China Academy of Information and Communications Technology, Beijing 100191, China

Received:2022-10-18 Online:2023-01-15 Published:2023-02-08

摘要/Abstract

摘要：

为加强人工智能(Artificial Intelligence,AI)治理促进人工智能产业健康向善发展,明确了目前中国在AI治理体系、法律法规、技术手段、治理工具、落地实践等方面存在的问题。梳理分析了人工智能治理国内外发展现状,聚焦AI治理内容和手段进一步深入分析,并且针对中国人工智能治理提出了相关建议。

关键词: 人工智能治理, 数据, 算法, 治理手段

Abstract:

To improve artificial intelligence (AI) governance can help to promote the healthy development of AI industry. A series of problems in AI governance of China, such as the imperfect governance system, incomplete laws and regulations, imperfect technical means and governance tools, and difficulties in implementation are discussed. The domestic and international development status of AI governance is analyzed. Further, the AI governance content and means are taken as the focuses for the in-depth analysis. At last, relevant suggestions for China’s AI governance are put forward.

Key words: AI governance, data, algorithm, governance means

中图分类号:

TN929.11

张沛, 刘媛媛. 人工智能治理国内外发展现状分析[J]. 信息通信技术与政策, 2023, 49(1): 46-51.

ZHANG Pei, LIU Yuanyuan. Analysis of the domestic and international development and status of AI governance[J]. Information and Communications Technology and Policy, 2023, 49(1): 46-51.

导出引用管理器 EndNote|Ris|BibTeX

链接本文:

http://ictp.caict.ac.cn/CN/10.12267/j.issn.2096-5931.2023.01.008

http://ictp.caict.ac.cn/CN/Y2023/V49/I1/46

图/表 1

参考文献 14

[1]	中国信息通信研究院, 京东探索研究院. 可信人工智能白皮书[R], 2021.
[2]	王亦菲, 韩凯峰. 数字经济时代人工智能伦理风险及治理体系研究[J]. 信息通信技术与政策, 2021, 47(2): 32-36.
[3]	李雨霏. 人工智能在数据治理中的应用[J]. 信息通信技术与政策, 2019, 45(5): 23-27.
[4]	中国信息通信研究院, 中国人工智能产业发展联盟. 人工智能治理白皮书[R], 2020.
[5]	朱强. 机器学习中的对抗样本防御和隐私保护[D]. 西安: 西安电子科技大学, 2019.
[6]	魏国富, 石英村. 人工智能数据安全治理与技术发展概述[J]. 信息安全研究, 2021, 7(2): 110-119.
[7]	杨强. AI与数据隐私保护: 联邦学习的破解之道[J]. 信息安全研究, 2019, 5(11): 961-965.
[8]	闫树, 吕艾临. 隐私计算发展综述[J]. 信息通信技术与政策, 2021, 47(6): 1-11.
[9]	令狐曦. 机器学习模型测评技术研究与实现[D]. 北京: 北京邮电大学, 2019.
[10]	GOODFELLOW IJ, SHLENS J, SZEGEDY C, et al. Explaining and harnessing adversarial examples. arXiv:1412.6572, 2014.
[11]	PAPERNOT N, MCDANIEL P, GOODFELLOW I, et al. Practical black-box attacks against machine learning[C]. Computer and Communications Security, 2017: 506-519.
[12]	姜妍, 张立国. 面向深度学习模型的对抗攻击与防御方法综述[J]. 计算机工程, 2021, 47(1): 1-11.
[13]	王科迪, 易平. 人工智能对抗环境下的模型鲁棒性研究综述[J]. 信息安全学报, 2020, 5(3): 13-22.
[14]	腾讯研究院. 可解释AI发展报告2022——打开算法黑箱的理念与实践[R], 2022.

国家/ 组织/ 企业	主要文件名称	数据保护	公平、非歧视	安全可控	合法	以人为本、人的自主权	隐私保护	责任	合作促进	透明、可解释和可溯源	正当使用	数据质量	有益可持续	合乎伦理
欧盟	《可信赖人工智能伦理指南》(2019)		●	●		●				●			●
	《人工智能白皮书》(2020)		●			●						●	●	○
	《人工智能法案》(2021)	●	●	●	○		○	○				●		○
美国	《国家人工智能战略计划》(2019)		○					○	○	○				○
	《人工智能原则》(2019)		●	●	●			●		●
	《人工智能伦理原则》(2019)		●	●				●		●	○			○
	《公司使用AI力求真实、公平和公平》(2021)		●		●			○		●				○
中国	《新一代人工智能治理原则》(2019)		○	○			○	○	○					○
	《新一代人工智能行业自律公约》(2020)		○	○			○	○	○				○	○
	《可信AI操作指引》(2020)			○			○	○		○		●
	《深圳经济特区人工智能产业促进条例》(草案)(2021)		○	○			○	○	○			●	○	○
	《新一代人工智能伦理规范》(2021)		●	●	○	●	●	●		○	○	○		●
日本	《人工智能学会伦理原则》(2017)		●	●		●	●	●	●
日本	《人工智能利用原则草案》(2018)		●	●		●	●	●	●	●	●	●
新加坡	《人工智能治理和伦理的三项倡议》(2018)		○			○				○
新加坡	《人工智能治理模式框架》(2019)		○			●				●
OECD	《负责任地管理可信任的AI原则》(2019)		●	●		●		●		●			●
G20	《G20人工智能原则》(2019)		●	●		●		○	●	●			●	○
GPAI	《全球人工智能合作伙伴关系》(2020)	○				●		●				○	○
NATO	《北约人工智能战略》(2021)		○	●	●			●	●	●
谷歌	《人工智能使用原则》(2018)		●	●			●	●					●

国家/ 组织/ 企业	主要文件名称	数据保护	公平、非歧视	安全可控	合法	以人为本、人的自主权	隐私保护	责任	合作促进	透明、可解释和可溯源	正当使用	数据质量	有益可持续	合乎伦理
欧盟	《可信赖人工智能伦理指南》(2019)		●	●		●				●			●
	《人工智能白皮书》(2020)		●			●						●	●	○
	《人工智能法案》(2021)	●	●	●	○		○	○				●		○
美国	《国家人工智能战略计划》(2019)		○					○	○	○				○
	《人工智能原则》(2019)		●	●	●			●		●
	《人工智能伦理原则》(2019)		●	●				●		●	○			○
	《公司使用AI力求真实、公平和公平》(2021)		●		●			○		●				○
中国	《新一代人工智能治理原则》(2019)		○	○			○	○	○					○
	《新一代人工智能行业自律公约》(2020)		○	○			○	○	○				○	○
	《可信AI操作指引》(2020)			○			○	○		○		●
	《深圳经济特区人工智能产业促进条例》(草案)(2021)		○	○			○	○	○			●	○	○
	《新一代人工智能伦理规范》(2021)		●	●	○	●	●	●		○	○	○		●
日本	《人工智能学会伦理原则》(2017)		●	●		●	●	●	●
日本	《人工智能利用原则草案》(2018)		●	●		●	●	●	●	●	●	●
新加坡	《人工智能治理和伦理的三项倡议》(2018)		○			○				○
新加坡	《人工智能治理模式框架》(2019)		○			●				●
OECD	《负责任地管理可信任的AI原则》(2019)		●	●		●		●		●			●
G20	《G20人工智能原则》(2019)		●	●		●		○	●	●			●	○
GPAI	《全球人工智能合作伙伴关系》(2020)	○				●		●				○	○
NATO	《北约人工智能战略》(2021)		○	●	●			●	●	●
谷歌	《人工智能使用原则》(2018)		●	●			●	●					●

[1]	司志亮. 数字政府建设赋能数字经济发展路径分析[J]. 信息通信技术与政策, 2023, 49(1): 17-21.
[2]	李帅峥, 冯也苏. 数字政府与智慧城市协同建设路径思考[J]. 信息通信技术与政策, 2023, 49(1): 58-64.
[3]	张滨, 温暖, 邱勤, 周莹, 李文琦. 信息通信企业开展数据安全管理工作的指引与实践[J]. 信息通信技术与政策, 2022, 48(8): 19-23.
[4]	刘鑫, 曹京, 邵志杰, 周跃峰. 基于存储技术的防勒索病毒对策研究[J]. 信息通信技术与政策, 2022, 48(8): 36-42.
[5]	王玮, 曹京, 程赓, 李雪莹. 降低自动化决策对个人信息安全影响的研究[J]. 信息通信技术与政策, 2022, 48(8): 52-58.
[6]	魏凯, 闫树, 吕艾临. 数据要素市场化进展综述[J]. 信息通信技术与政策, 2022, 48(8): 59-64.
[7]	宗珊珊. 我国地方数据立法的特征、挑战与展望[J]. 信息通信技术与政策, 2022, 48(8): 65-69.
[8]	李萌, 孙晓明. 量子游走相关算法研究进展[J]. 信息通信技术与政策, 2022, 48(7): 28-36.
[9]	周伯慧, 于乐, 马禹昇, 潘佳丽. 数据安全技术专利态势分析[J]. 信息通信技术与政策, 2022, 48(7): 87-91.
[10]	苏志甫. 数据要素时代商业数据保护的路径选择及规则构建[J]. 信息通信技术与政策, 2022, 48(6): 14-26.
[11]	姚欢庆, 周巡. 从规制数据获取到规制数据使用[J]. 信息通信技术与政策, 2022, 48(6): 2-7.
[12]	秦乐, 李红阳. 美欧数字经济知识产权治理趋势研究[J]. 信息通信技术与政策, 2022, 48(6): 36-40.
[13]	郭真, 李帅峥. 依托人工智能加速数字经济发展的路径思考[J]. 信息通信技术与政策, 2022, 48(6): 69-74.
[14]	王珊珊, 闫文军, 肖尤丹. 企业数据的利用规则研究[J]. 信息通信技术与政策, 2022, 48(6): 8-13.
[15]	吕艾临, 闫树. 隐私计算跨平台互联互通的若干思考[J]. 信息通信技术与政策, 2022, 48(5): 2-6.

人工智能治理国内外发展现状分析

Analysis of the domestic and international development and status of AI governance

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 1

参考文献 14

相关文章 15

编辑推荐

Metrics

本文评价