生成式人工智能的治理策略研究

doi:10.12267/j.issn.2096-5931.2023.07.011

信息通信技术与政策 ›› 2023, Vol. 49 ›› Issue (7): 83-88.doi: 10.12267/j.issn.2096-5931.2023.07.011

生成式人工智能的治理策略研究

Research on governance strategy of generative Artificial Intelligence

宋恺¹^,², 屈蕾蕾¹^,², 杨萌科¹^,²

1.移动应用创新与治理技术工业和信息化部重点实验室,北京 100191
2.中国信息通信研究院泰尔终端实验室,北京 100191

收稿日期:2023-06-15 出版日期:2023-07-25 发布日期:2023-08-03
作者简介:
宋恺移动应用创新与治理技术工业和信息化部重点实验室副主任,中国信息通信研究院泰尔终端实验室信息安全部主任,主要从事移动安全、个人信息保护、数据安全等方面的研究工作
杨萌科移动应用创新与治理技术工业和信息化部重点实验室工程师,中国信息通信研究院泰尔终端实验室信息安全部工程师,主要从事移动智能终端及应用软件安全、个人信息保护检测等方面的研究工作

SONG Kai¹^,², QU Leilei¹^,², YANG Mengke¹^,²

1. Key Laboratory of Mobile Application Innovation and Governance Technology, Beijing 100191, China
2. CTTL Terminal Labs, China Academy of Information and Communications Technology, Beijing 100191, China

Received:2023-06-15 Online:2023-07-25 Published:2023-08-03

摘要/Abstract

摘要：

生成式人工智能的快速发展引起全社会广泛关注。生成式人工智能在推动相关产业发生重大变革的同时也因技术滥用引发个人信息保护风险。通过分析当前存在的问题并梳理国内外治理进展,从治理理念、合规体系、技术基础、服务保障四方面提出以统筹发展与规范为核心的治理策略建议。

关键词: 生成式人工智能, 个人信息保护, 虚假信息, 人工智能治理

Abstract:

Recently, generative Artificial Intelligence (AI) has been developing rapidly, becoming the focus of society. While promoting a revolution in related industries, it also causes personal information protection risks due to technology abuse. By analyzing the problems caused by generative AI and reviewing existing policies at home and abroad, this paper proposes possible governance suggestions in the aspects of concepts, compliance systems, technical infrastructure, and service guarantee, with balancing development and regulation as the core.

Key words: generative AI, personal information protection, false information, AI governance

中图分类号:

TP309.2

宋恺, 屈蕾蕾, 杨萌科. 生成式人工智能的治理策略研究[J]. 信息通信技术与政策, 2023, 49(7): 83-88.

SONG Kai, QU Leilei, YANG Mengke. Research on governance strategy of generative Artificial Intelligence[J]. Information and Communications Technology and Policy, 2023, 49(7): 83-88.

导出引用管理器 EndNote|Ris|BibTeX

链接本文:

http://ictp.caict.ac.cn/CN/10.12267/j.issn.2096-5931.2023.07.011

http://ictp.caict.ac.cn/CN/Y2023/V49/I7/83

参考文献 20

[1]	桑基韬, 于剑. 从ChatGPT看AI未来趋势和挑战[J]. 计算机研究与发展, 2023, 60(6):1191-1201.
[2]	聂童. ChatGPT生成式AI的法律风险及合规[J]. 互联网天地, 2023(3):29-33.
[3]	谢新水. 人工智能内容生产:功能张力、发展趋势及监管策略:以ChatGPT为分析起点[J]. 电子政务, 2023(4):25-35.
[4]	钱力, 刘熠, 张智雄, 等. ChatGPT的技术基础分析[J]. 数据分析与知识发现, 2023, 7(3):6-15.
[5]	姚前. ChatGPT类大模型训练数据的托管与治理[J]. 中国金融, 2023(6):51-53.
[6]	DERICO B. ChatGPT bug leaked users’ conversation histories[DB/OL]. (2023-03-23) [2023-05-20]. https://www.bbc.com/news/technology-65047304.
[7]	OpenAI. New ways to manage your data in ChatGPT[EB/OL]. (2023-04-25) [2023-05-20]. https://openai.com/blog/new-ways-to-manage-your-data-in-chatgpt.
[8]	ZHUO T Y, HUANG Y J, CHEN C Y, et al. Exploring AI ethics of ChatGPT: a diagnostic analysis[DB/OL]. (2023-02-22) [2023-05-04]. https://arxiv.org/pdf/2301.12867v3.pdf.
[9]	GUO B Y, ZHANG X, WANG Z Y, et al. How close is ChatGPT to human experts? Comparison corpus, evaluation, and detection[DB/OL]. (2023-01-18) [2023-05-04]. https://arxiv.org/pdf/2301.07597.pdf.
[10]	玉林市公安局. 2021年玉林公安侦破的十大案件[EB/OL]. (2022-02-11) [2023-05-20]. http://gaj.yulin.gov.cn/zagl/t11273388.shtml.
[11]	钱江晚报. 昨天到今天,网传“杭州3月1号取消限行”?这个版本不实,出自ChatGPT[EB/OL]. (2023-02-17) [2023-05-20]. https://m.163.com/dy/article/HTPA7THV0512GTK3.html.
[12]	蒲清平, 向往. 生成式人工智能:ChatGPT的变革影响、风险挑战及应对策略[J]. 重庆大学学报(社会科学版), 2023, 29(3):1-13.
[13]	王洋, 闫海. 生成式人工智能的风险迭代与规制革新:以ChatGPT为例[J]. 理论月刊, 2023(6):14-24.
[14]	The White House. Blueprint for an AI bill of rights: making automated systems work for the American people[EB/OL]. (2022-10-04) [2023-05-20]. https://www.whitehouse.gov/ostp/ai-bill-of-rights/.
[15]	苏州信息安全法学所. 纽约通过就业法中关于人工智能的最终规则[EB/OL]. (2023-05-01) [2023-05-20]. http://dsj.hainan.gov.cn/zcfg/gwfg/202305/t20230508_3412765.html.
[16]	National Telecommunications and Information Administration. AI accountability policy request for comment[EB/OL]. (2023-04-11) [2023-06-27]. https://ntia.gov/issues/artificial-intelligence/request-for-comments.
[17]	European Commission. The AI Act[EB/OL]. (2021-01-06) [2023-05-20]. https://artificialintelligenceact.eu/the-act/.
[18]	于品显, 刘倩. 欧盟《人工智能法案》评述及启示[J]. 海南金融, 2023(6):45-53.
[19]	Department for Science, Innovation & Technology. A pro-innovation approach to AI regulation[EB/OL]. (2023-03-29) [2023-05-20]. https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/1146542/a_pro-innovation_approach_to_AI_regulation.pdf.
[20]	于文轩. ChatGPT与敏捷治理[J]. 学海, 2023(2):52-57.

生成式人工智能的治理策略研究

Research on governance strategy of generative Artificial Intelligence

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献 20

相关文章 12

编辑推荐

Metrics

本文评价

[1]	张夕夜, 王莎. 个人信息保护合规疑难问题研究^*[J]. 信息通信技术与政策, 2023, 49(3): 74-79.
[2]	张沛, 刘媛媛. 人工智能治理国内外发展现状分析[J]. 信息通信技术与政策, 2023, 49(1): 46-51.
[3]	宁华, .王艳红, .武林娜, .杜云, . APP 个人信息收集使用最小必要性研究[J]. 信息通信技术与政策, 2021, 47(8): 69-73.
[4]	权小凤 , 刘高峰. 数字化发展中的个人信息保护监管策略思考[J]. 信息通信技术与政策, 2021, 47(6): 74-79.
[5]	杨正军, 张国华, 施羽暇, 高富平. 互联网广告标识问题研究与应对建议[J]. 信息通信技术与政策, 2021, 47(3): 41-48.
[6]	闫希敏. 个人信息保护视域下知情同意框架的应用困境与对策探析[J]. 信息通信技术与政策, 2021, 47(11): 51-.
[7]	郭骁然, 方元欣, 曲东昕. 个人信息保护国际规制比较研究 [J]. 信息通信技术与政策, 2021, 47(10): 49-.
[8]	张郁安. 疫情下的数据利用和个人信息保护再权衡[J]. 信息通信技术与政策, 2021, 47(1): 53-56.
[9]	葛健, 周楠. 骚扰电话治理的应对与挑战[J]. 信息通信技术与政策, 2019, 45(1): 32-35.
[10]	龙凯, 高瑞鑫. 个人信息保护场景的区块链技术嵌入研究[J]. 信息通信技术与政策, 2018, 44(7): 18-20.
[11]	杨婕. 大数据时代下的我国个人信息保护制度研究[J]. 信息通信技术与政策, 2018, 44(6): 23-27.
[12]	李雅文. 我国电信和互联网领域个人信息保护制度研究[J]. 信息通信技术与政策, 2018, 44(6): 28-30.