-
摘要: 【目的】本文聚焦于生成式人工智能技术在信息传播领域应生衍生的虚假信息泛滥风险，探讨人工智能生成内容（AIGC）虚假信息的治理策略，旨在为维护网络空间的信息真实性、防范 AIGC 虚假信息传播泛滥提供一定的理论支持与实践指导。【方法】基于文献资料、案例分析等方法，梳理 AIGC 虚假信息的表现形式、主要特点、社会成因、潜在危害、鉴别方法及未来挑战。【结果】当前 AIGC 虚假信息治理面临着内容真实性难以验证、技术迭代引发治理滞后、蓄意生成虚假信息广泛传播等挑战，我国出台有关暂行管理办法从制度上予以规制，在 AIGC 技术治理策略和效能上取得积极进展。与此同时，随着 AIGC 技术和能力的不断进化，虚假信息在传播中经历多次变异与迭代，将变得更加难以检测和识别，将面临着危害程度进一步加剧的风险。【结论】为应对 AIGC 虚假信息泛滥的潜在风险，建议从技术、法律、伦理及教育等多个维度出发，加强理论研究与实践探索，构建全方位、多层次的保障体系，不断完善 AIGC 治理策略与措施。
-
[1] 辛 勇 飞 . 推 动 生 成 式 人 工 智 能 精 细 化 治 理 [EB/OL].（2023-07-13）[2024-07-17]. 中 国 网 信 网 https：//www.cac.gov.cn/2023-07/13/c_1690898363806525.htm. [2] 中共中央关于进一步全面深化改革 推进中国式现代化的决定 [EB/OL].（2024-07-21）[2024-07-21]. 新华网 . http：//www.news.cn/politics/20240721/cec09ea2bde840dfb99331c48ab5523a/c.html. [3] 尹韵公 . 试论新闻的真实性原则 [J]. 现代传播（中国传媒大学学报），2006（5）：31-35，50. [4] 俄乌总统假视频引发对“深度伪造”技术关注 [EB/OL].（2022-03-21）[2024-07-17]. https：//www.dzwww.com/xinwen/guojixinwen/202203/t20220321_9987075.htm. [5] 朱毅诚，刘玉涵，蒋雪妍 .ChatGPT：生成式人工智能形塑社会认知的能力与风险 [J]. 中国传媒科技，2023（8）：7-13. [6] 李云舒 .Sora 将改变什么 [N]. 中国纪检监察报，2024-03-03（04）. [7] 袁莎 . 总体国家安全观视阈下的虚假信息研究 [J]. 国际安全研究，2022，40（3）：36. [8] 公安机关打击整治网络谣言专项行动取得阶段性成效 公安部公布 10 起典型案例 [EB/OL].（2024-04-12）[2024-07-17]. https：//www.mps.gov.cn/n2254098/n4904352/c9538664/content.html. [9] 中 新 经 纬 . 微 软 工 程 师 举 报 自 家 AI 工 具 [EB/OL].（2024-03-07）[2024-07-17]. http：//www.jwview.com/jingwei/html/03-07/582728.shtml. [10] 蒋子文 . 香港警方首次破获利用 AI 换脸诈骗案，冒充他 人 网 上 申 请 贷 款 [EB/OL].（2023-08-25）[2024-07-19]. 澎 湃 新 闻 . https：//m.thepaper.cn/newsDetail_forward_24364528. [11] 沈昭 . 歌手泰勒·斯威夫特再被 AI 深度伪造引全球粉丝 愤 怒， 约 束 AI 迫 在 眉 睫 [EB/OL].（2024-01-28）[2024-07-18]. 扬 子 晚 报 . https：//www.yangtse.com/zncontent/3528249.html. [12] 2024 年 4 月网络文艺大事记 [N]. 文艺报，2024-05-06（07）. [13] 方师师，唐巧盈 . 聪明反被聪明误：ChatGPT 错误内容生成的类型学分析 [J]. 新闻与写作，2023（4）：31-42. [14] 何宇华，李霞 . 生成式人工智能虚假信息治理的新挑战及应对策略——基于敏捷治理的视角 [J]. 治理研究，2024，40（04）：142-156+160. [15] 生成式人工智能服务管理暂行办法 [EB/OL].（2023-07-13）[2024-07-17].https：//www.cac.gov.cn/2023-07/13/c_1690898327029107.htm. [16] 蚂蚁集团蚁天鉴 2.0 发布 打造大模型安全测评智能体[EB/OL].（2024-07-08）[2024-07-22]. https：//it.gmw.cn/2024-07/08/content_37427788.htm. [17] 贾平凡 . 遏制虚假信息传播需全球合作 [N]. 人民日报海外版，2024-07-08（10）. [18] 申金霞，张佳迎 . 国外平台型媒体虚假信息的技术治理措施及启发 [J]. 中国传媒科技，2021（8）：7-12. [19] 潘宏远 . 从欧美国家利用生成式 AI 打击虚假信息看大模型安全治理的路径抉择 [J]. 网络安全技术与应用，2024（7）：120-121. [20] 陆建平，党自强 .AIGC 时代虚假信息的制造传播与国家安全及公民权益的维护 [J]. 浙江大学学报（人文社会科学版），2024（5）：42-58. -
点击查看大图
计量
- 文章访问数: 6
- HTML全文浏览量: 2
- PDF下载量: 1
- 被引次数: 0
下载:
