生成式人工智能对个人信息安全的挑战及应对策略

doi:10.12267/j.issn.2096-5931.2024.01.003

信息通信技术与政策 ›› 2024, Vol. 50 ›› Issue (1): 13-18.doi: 10.12267/j.issn.2096-5931.2024.01.003

生成式人工智能对个人信息安全的挑战及应对策略

The challenges and response strategies of generative artificial intelligence for personal information security

武林娜¹^,², 宋恺¹^,², 王淞鹤¹^,²

1.中国信息通信研究院泰尔终端实验室,北京 100191
2.移动应用创新与治理技术工业和信息化部重点实验室,北京 100191

收稿日期:2023-12-12 出版日期:2024-01-25 发布日期:2024-02-01
通讯作者: 宋恺,中国信息通信研究院泰尔终端实验室信息安全部主任,移动应用创新与治理技术工业和信息化部重点实验室副主任,主要从事移动安全、个人信息保护、数据安全等政策研究、标准制定工作
作者简介:
武林娜,中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动互联网领域信息安全、个人信息保护技术检测与标准研制等方面的工作
王淞鹤,中国信息通信研究院泰尔终端实验室信息安全部、移动应用创新与治理技术工业和信息化部重点实验室工程师,主要从事移动应用软件安全、Android恶意代码分析、移动应用自动化检测等方面的工作

WU Linna¹^,², SONG Kai¹^,², WANG Songhe¹^,²

1. CTTL Terminal Labs, China Academy of Information and Communications Technology, Beijing 100191, China
2. Key Laboratory of Mobile Application Innovation and Governance Technology, Beijing 100191, China

Received:2023-12-12 Online:2024-01-25 Published:2024-02-01

摘要/Abstract

摘要：

基于生成式人工智能的强通用能力、交互能力和生成能力,结合当前产业现状,总结了面向用户的生成式人工智能服务具有服务形态多元、交互方式革新、服务模式复杂的特点,梳理了生成式人工智能技术应用对个人信息安全带来的全方位影响及生成式人工智能模型本身带来的挑战。在此基础上,从监管治理、标准规范、企业管理层面给出提升个人信息安全的具体建议和方案。

关键词: 生成式人工智能, 人工智能, 个人信息安全, 大模型

Abstract:

Based on the strong universality, interaction, and generation capabilities of generative artificial intelligence (AI), combined with the current industrial situation, this paper summarizes the characteristics of user oriented generative AI services, including diverse service forms, innovative interaction methods, and complex service modes. It also sorts out the comprehensive impact of the application of generative AI technology on individual information security and the challenges brought by the model itself. On this basis, this article proposes specific suggestions and plans to enhance personal information security from the perspectives of regulatory governance, standard specifications, and enterprise management.

Key words: generative artificial intelligence, artificial intelligence, personal information security, large model

中图分类号:

D922.16

武林娜, 宋恺, 王淞鹤. 生成式人工智能对个人信息安全的挑战及应对策略[J]. 信息通信技术与政策, 2024, 50(1): 13-18.

WU Linna, SONG Kai, WANG Songhe. The challenges and response strategies of generative artificial intelligence for personal information security[J]. Information and Communications Technology and Policy, 2024, 50(1): 13-18.

导出引用管理器 EndNote|Ris|BibTeX

链接本文:

http://ictp.caict.ac.cn/CN/10.12267/j.issn.2096-5931.2024.01.003

http://ictp.caict.ac.cn/CN/Y2024/V50/I1/13

图/表 1

参考文献 13

[1]	陈永伟. 超越ChatGPT: 生成式AI的机遇、风险与挑战[J]. 山东大学学报(哲学社会科学版), 2023(3):127-143. DOI:10.19836/j.cnki.37-1100/c.2023.03.012.
[2]	方兴东, 钟祥铭. ChatGPT革命的理性研判与中国对策:如何辨析ChatGPT的颠覆性变革逻辑和未来趋势[J]. 西北师大学报(社会科学版), 2023, 60(4):23-36. DOI:10.16783/j.cnki.nwnus.2023.04.003.
[3]	吴静, 邓玉龙. 生成式人工智能前景下的公共性反思[J]. 南京社会科学, 2023(7):19-26, 36. DOI:10.15937/j.cnki.issn1001-8263.2023.07.003.
[4]	郭小东. 生成式人工智能的风险及其包容性法律治理[J]. 北京理工大学学报(社会科学版), 2023, 25(6):93-105,117. DOI:10.15918/j.jbitss1009-3370.2023.1340.
[5]	贵重, 李云翔, 江为强. 人工智能的发展与挑战:以ChatGPT为例[J]. 电信工程技术与标准化, 2023, 36(3):24-28. DOI:10.13992/j.cnki.tetas.2023.03.012.
[6]	史占中, 郑世民, 蒋越. ChatGPT与AIGC产业链[J]. 上海管理科学, 2023, 45(2):12-14.
[7]	徐思彦. 生成式人工智能: 发展演进及产业机遇[J]. 人工智能, 2023(4):43-50. DOI:10.16453/j.2096-5036.2023.04.005.
[8]	刘静, 郭龙腾. GPT-4对多模态大模型在多模态理解、生成、交互上的启发[J]. 中国科学基金, 2023, 37(5):793-802. DOI:10.16262/j.cnki.1000-8217.20231026.008.
[9]	DASH B, SHARMA P. Are ChatGPT and deepfake algorithms endangering the cybersecurity industry? A review[J]. International Journal of Engineering and Applied Sciences, 2023, 1(1):1-5.
[10]	LUKAS N, SALEM A, SIM R, et al. Analyzing leakage of personally identifiable information in language models[J]. arXiv Preprint, arXiv:2302.00539, 2023.
[11]	LIPTON Z C. The mythos of model interpretability: in machine learning, the concept of interpretability is both important and slippery[J]. Queue, 2018, 16(3):31-57.
[12]	VAKILI T, LAMPROUDIS A, HENRIKSSON A, et al. Downstream task performance of BERT models pre-trained using automatically de-identified clinical data[C]// Proceedings of the Thirteenth Language Resources and Evaluation Conference. Marseille: ELRA, 2022:4245-4252.
[13]	NASR M, CARLINI N, HAYASE J, et al. Scalable extraction of training data from (production) language models[J]. arXiv Preprint, arXiv:2311.17035, 2023.

[1]	王欣晖, 周星月, 朱进国. 6G网络架构探讨[J]. 信息通信技术与政策, 2023, 49(9): 13-22.
[2]	徐明枫, 李阳, 韩凯峰, 徐晓燕, 江甲沫. 基于GAN的导频配置和信道估计联合优化算法^*[J]. 信息通信技术与政策, 2023, 49(9): 58-66.
[3]	孟楠, 端木森嘉, 刘梦, 李飞远, 陈才. 元宇宙应用场景创新研究及实施建议——以苏州工业园区为例[J]. 信息通信技术与政策, 2023, 49(9): 74-81.
[4]	郭真, 姚树为, 胡亦琦, 申奇. 智慧城市咨询领域数字化转型的路径思考[J]. 信息通信技术与政策, 2023, 49(8): 73-79.
[5]	宋恺, 屈蕾蕾, 杨萌科. 生成式人工智能的治理策略研究[J]. 信息通信技术与政策, 2023, 49(7): 83-88.
[6]	黄璜, 张乾. 存算一体技术产业发展研究[J]. 信息通信技术与政策, 2023, 49(6): 30-39.
[7]	朱刚, 张美翔, 孙浩文, 李家京, 张亮, 杨云龙. ChatGPT带给智慧城市的启示——未来城市演进路径的探讨[J]. 信息通信技术与政策, 2023, 49(6): 71-78.
[8]	龚戈勇, 刘洋. 一种基于5G技术的AI智慧养老服务平台设计[J]. 信息通信技术与政策, 2023, 49(5): 91-96.
[9]	孙頔, 杨锦洲, 夏璠. AI+工业互联网模式的应用探析[J]. 信息通信技术与政策, 2023, 49(11): 2-7.
[10]	刘莺, 韩春清, 王李祥. 人工智能与我国中小银行数字化转型[J]. 信息通信技术与政策, 2023, 49(1): 22-27.
[11]	张沛, 刘媛媛. 人工智能治理国内外发展现状分析[J]. 信息通信技术与政策, 2023, 49(1): 46-51.
[12]	赵恒, 陈玮, 陈禹. 基于人工智能的光交箱资源管理方法[J]. 信息通信技术与政策, 2023, 49(1): 89-96.
[13]	徐晓燕, 韩凯峰, 杜滢, 刘慧, 赵妍. 6G愿景及潜在关键技术分析[J]. 信息通信技术与政策, 2022, 48(9): 2-8.
[14]	王玮, 曹京, 程赓, 李雪莹. 降低自动化决策对个人信息安全影响的研究[J]. 信息通信技术与政策, 2022, 48(8): 52-58.
[15]	刘建华, 唐雷. 人脸表情识别技术研究综述[J]. 信息通信技术与政策, 2022, 48(8): 89-96.

生成式人工智能对个人信息安全的挑战及应对策略

The challenges and response strategies of generative artificial intelligence for personal information security

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 1

参考文献 13

相关文章 15

编辑推荐

Metrics

本文评价