算力互联网赋能生成式AI视频的内容安全研究

doi:10.12267/j.issn.2096-5931.2026.02.010

信息通信技术与政策 ›› 2026, Vol. 52 ›› Issue (2): 69-77.doi: 10.12267/j.issn.2096-5931.2026.02.010

专题:算力互联网技术发展与产业应用上一篇下一篇

算力互联网赋能生成式AI视频的内容安全研究

Research on content security of generative AI video empowered by internet of computing

杨一禾¹, 马飞², 李哲², 董晓慧²

1.电信科学技术研究院，北京 100191
2.中国信息通信研究院云计算与数字化研究所，北京 100191

收稿日期:2026-01-13 出版日期:2026-02-25 发布日期:2026-03-06
通讯作者: 马飞, 中国信息通信研究院云计算与数字化研究所云计算部主任，高级工程师，主要从事云计算等方面的研究工作
作者简介:
杨一禾, 电信科学技术研究院硕士研究生在读，主要从事AIGC、大语言模型、智能安全等方面的研究工作
李哲, 中国信息通信研究院云计算与数字化研究所云计算部副主任，高级工程师，主要从事云计算、AI云大模型工程化、行业云平台等方面的研究工作
董晓慧, 中国信息通信研究院云计算与数字化研究所云计算部工程师，主要从事云计算、AI云大模型工程化、云成本优化等方面的研究工作

YANG Yihe¹, MA Fei², LI Zhe², DONG Xiaohui²

1. Telecommunications Science and Technology Research Institute，Beijing 100191，China
2. Cloud Computing and Digitalization Research Institute，China Academy of Information and Communications Technology，Beijing 100191，China

Received:2026-01-13 Online:2026-02-25 Published:2026-03-06

摘要/Abstract

摘要：

生成式AI视频技术在推动内容创作革新的同时，也带来了一些安全挑战。围绕T2V、I2V和AI视频编辑三类典型任务，剖析其差异化风险，系统梳理覆盖生成前、生成中、生成后全周期的通用安全技术。研究探讨了面向不同任务的精准适配策略和算力互联网的赋能作用，结合产业实践，揭示了安全能力鸿沟、标识标准碎片化及责任界定模糊等治理短板，为构建精准化AIGC视频安全体系提供支撑。

关键词: 算力互联网, 视频生成, 生成式人工智能, 视频内容安全

Abstract:

Generative artificial intelligence （AI） video technology is driving innovation in content creation，but also brings some challenges. Focusing on three typical tasks—Text-to-Video （T2V），Image-to-Video （I2V），and AI-powered video editing—this study analyzes their distinct risks and systematically sorts out general security technologies covering the entire lifecycle of pre-generation，in-generation，and post-generation. It discusses precise adaptation strategies for different tasks and the role of the internet of computing. By examining industry practices，it identifies key governance shortcomings，including the gap in security capabilities，fragmented identification standards，and ambiguous responsibility definition. This paper provides support for building a targeted AIGC video security system.

Key words: internet of computing, video generation, generative AI, video content security

中图分类号:

TP391.4

杨一禾, 马飞, 李哲, 董晓慧. 算力互联网赋能生成式AI视频的内容安全研究[J]. 信息通信技术与政策, 2026, 52(2): 69-77.

YANG Yihe, MA Fei, LI Zhe, DONG Xiaohui. Research on content security of generative AI video empowered by internet of computing[J]. Information and Communications Technology and Policy, 2026, 52(2): 69-77.

导出引用管理器 EndNote|Ris|BibTeX

链接本文:

http://ictp.caict.ac.cn/CN/10.12267/j.issn.2096-5931.2026.02.010

http://ictp.caict.ac.cn/CN/Y2026/V52/I2/69

图/表 2

参考文献 19

[1]	XIE F, ZENG D, SHEN Q, et al. A comprehensive survey on text-to-video generation[J]. Chinese Journal of Electronics, 2025, 34(4): 1009-1036. doi: 10.23919/cje.2024.00.151 URL
[2]	REN W, YANG H, ZHANG G, et al. ConsistI2V: enhancing visual consistency for image-to-video generation[J]. arXiv Preprint, arXiv:2402.04324, 2024.
[3]	CEYLAN D, HUANG C H P, MITRA N J. Pix2Video: video editing using image diffusion[C]// Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 2023: 23206-23217.
[4]	LIU C, YU H. AI-empowered persuasive video generation: a survey[J]. ACM Computing Surveys, 2023, 55(13s): 285.
[5]	OpenAI. Video generation models as world simulators[R], 2026.
[6]	SINGER U, POLYAK A, HAYES T, et al. Make-a-video: text-to-video generation without text-video data[J]. arXiv Preprint, arXiv:2209.14792, 2022.
[7]	MIAO Y B, ZHU Y F, YU L J, et al. T2VSafetyBench: evaluating the safety of text-to-video generative models[J]. Advances in Neural Information Processing Systems, 2024, 37: 63858-63872.
[8]	YOON J, YU S, PATIL V, et al. Safree: training-free and adaptive guard for safe text-to-image and video generation[J]. arXiv Preprint, arXiv:2410.12761, 2024.
[9]	BLATTMANN A, DOCKHORN T, KULAL S, et al. Stable video diffusion: scaling latent video diffusion models to large datasets[J]. arXiv Preprint, arXiv:2311. 15127, 2023.
[10]	栗蔚, 张博圣, 孙松林, 等. 算力互联网架构:基于熵平衡支持算力资源跨域互联的下一代网络架构[J]. 通信学报, 2025, 46(9):1-16.
[11]	LI J, LI D, SAVARESE S, et al. Blip-2: bootstrapping language-image pre-training with frozen image encoders and large language models[C]// International Conference on Machine Learning. PMLR, 2023: 19730-19742.
[12]	TANG T, WU Y, WU Y, et al. Videomoderator: a risk-aware framework for multimodal video moderation in e-commerce[J]. IEEE Transactions on Visualization and Computer Graphics, 2021, 28(1): 846-856. doi: 10.1109/TVCG.2021.3114781 URL
[13]	YUAN Y, SONG J, IQBAL U, et al. Physdiff: physics-guided human motion diffusion model[C]// Proceedings of the IEEE/CVF International Conference on Computer Vision. 2023: 16010-16021.
[14]	HUANG Y, CHEN J, ZHENG Q, et al. Video signature: in-generation watermarking for latent video diffusion models[J]. arXiv Preprint, arXiv:2506.00652, 2024.
[15]	WANG Q, YU G, SAI Y, et al. Is your AI truly yours? Leveraging blockchain for copyrights, provenance, and lineage[J]. arXiv Preprint, arXiv:2404.06077, 2025.
[16]	OpenAI. Advancing red teaming with people and AI[R], 2024.
[17]	MOUSTAFA M. Applying deep learning to classify pornographic images and videos[J]. arXiv Preprint, arXiv:1511.08899, 2015.
[18]	SIMMONS J C, WINOFRAD J M. Interoperable provenance authentication of broadcast media using open standards-based metadata, watermarking and cryptography[J]. arXiv Preprint, arXiv:2405.12336, 2024.
[19]	WANG Q, LI C, LUO Y, et al. Detecting adversarial data using perturbation forgery[C]// Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). Piscataway: IEEE, 2025: 13917-13926.

	T2V	I2V	AI视频编辑
生成前	文本提示过滤利用OCR/ASR反馈的闭环式提示过滤	多模态风险评估图像哈希比对	编辑指令语义审查原始视频合规性检查
生成中	安全对齐微调轻量级安全适配器潜空间语义一致性约束	潜空间动态约束（运动合理性、生物力学先验等）	弱全局安全约束敏感对象修改限制
生成后	绑定完整生成上下文的水印	绑定输入图像及生成上下文的水印语义放大效应检测	绑定编辑操作日志的水印生物痕迹建模多模态伪造检测生成器指纹溯源

	T2V	I2V	AI视频编辑
生成前	文本提示过滤利用OCR/ASR反馈的闭环式提示过滤	多模态风险评估图像哈希比对	编辑指令语义审查原始视频合规性检查
生成中	安全对齐微调轻量级安全适配器潜空间语义一致性约束	潜空间动态约束（运动合理性、生物力学先验等）	弱全局安全约束敏感对象修改限制
生成后	绑定完整生成上下文的水印	绑定输入图像及生成上下文的水印语义放大效应检测	绑定编辑操作日志的水印生物痕迹建模多模态伪造检测生成器指纹溯源

算力互联网赋能生成式AI视频的内容安全研究

Research on content security of generative AI video empowered by internet of computing

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 2

参考文献 19

相关文章 11

编辑推荐

Metrics

本文评价

[1]	王睿宁, 孔松, 吴倩琳, 韩非. 算力互联网安全风险与治理路径研究[J]. 信息通信技术与政策, 2026, 52(2): 10-17.
[2]	宁柯宇, 马飞, 李哲, 董晓慧. 基于分布式算力互联的大模型后训练成本优化技术综述[J]. 信息通信技术与政策, 2026, 52(2): 44-52.
[3]	李子健, 李佩珊, 毛馨纬, 曾卫民, 王彦丹, 孟拓, 王润岩, 闫丹. 算力互联网驱动产业智能化升级的范式、路径及趋势[J]. 信息通信技术与政策, 2026, 52(2): 86-96.
[4]	吕文增, 杨正军. 边界重构:生成式人工智能对政府数据开放的新挑战^*[J]. 信息通信技术与政策, 2025, 51(12): 33-39.
[5]	徐明. 生成式人工智能大模型的安全挑战与治理路径研究[J]. 信息通信技术与政策, 2025, 51(1): 10-19.
[6]	苑卫国, 张新跃, 尉迟学彪. 生成式人工智能技术对网络安全领域的影响分析与启示建议[J]. 信息通信技术与政策, 2025, 51(1): 2-9.
[7]	李诗婧, 赵爽. 生成式人工智能应用于制造业的网络安全风险及对策研究[J]. 信息通信技术与政策, 2025, 51(1): 20-24.
[8]	孟楠, 周成胜, 赵勋. 生成式人工智能赋能网络安全运营降噪能力研究[J]. 信息通信技术与政策, 2024, 50(8): 24-31.
[9]	董耀聪, 张倩, 李宝强, 李艺, 董悦. 基于生成式人工智能的工业互联网安全技术与应用研究[J]. 信息通信技术与政策, 2024, 50(8): 32-37.
[10]	武林娜, 宋恺, 王淞鹤. 生成式人工智能对个人信息安全的挑战及应对策略[J]. 信息通信技术与政策, 2024, 50(1): 13-18.
[11]	宋恺, 屈蕾蕾, 杨萌科. 生成式人工智能的治理策略研究[J]. 信息通信技术与政策, 2023, 49(7): 83-88.