生成式人工智能的数据风险及法规研究

李新 颖*
杭州师范大学

摘要

随着生成式人工智能技术的颠覆性发展，使得产业结构得以优化升级，但是在人工智能技术应用的各阶段也带来
了诸多数据安全风险。国内国际都出现了对于人工智能风险规制等方面的学术探讨，以便于应对生成式人工智能引发的数
据安全、隐私保护等一系列的难题。为了应对上述风险难题，在现阶段，我国生成式人工智能治理应坚持风险防范与研发
并行原则，遵循基本的伦理道德准则，针对生成式人工智能制定专门的法律文件、构建统一的监管体系、设立自治机制等
手段丰富生成式人工智能的预防监管措施，以期能够更好的应对风险与挑战，推动生成式人工智能的协调健康发展。

关键词

生成式人工智能；风险；风险规制

参考

[1] 熊琦、陈子懿：《美国人工智能模型训练合理使用

认定的成案经验研究》，载《科技与法律 ( 中英文 )》2024

年第 6 期，第 11-23 页。

[2] 张欣：《论人工智能体的模块化治理》，载《东方

法学》2024 年第 3 期，第 129-142 页。

[3] 全燕、张入迁：《新质治理力 : 全球人工智能治理

张力下中国倡议的机制创新》，载《传媒观察》2024 年第

11 期，第 14-23 页。

[4] 于水、范德志：《新一代人工智能 (ChatGPT) 的主

要特征、社会风险及其治理路径》，载《大连理工大学学报 (社

会科学版 )》2023 年第 44 卷第 5 期，第 28-34 页。

[5] 张瀚：《人工智能生成内容风险的法律规制研究》，

载《网络安全技术与应用》2024 年第 10 期，第 120-123 页。

[6] 陈永伟：《超越 ChatGPT：生成式 AI 的机遇、风

险与挑战》，载《山东大学学报（哲学社会科学版）》2023

年第 3 期，第 135-136 页。

[7] 张涛：《生成式人工智能训练数据集的法律风险与

包容审慎规制》，载《比较法研究》2024 年第 4 期，第 86-

103 页。

[8] 刘永红、李文颖：《生成式人工智能的法律风险及

其规制路径》，载《内江师范学院学报》2024 年第 39 卷第

9 期，第 94-100 页。

[9] 武振国：《欧盟人工智能的实验主义治理路径及中

国借鉴》，载《西北大学学报 ( 哲学社会科学版 )》2024 年

第 54 卷第 6 期，第 153-164 页。

[10] 毕文轩：《生成式人工智能的风险规制困境及其

化解 : 以 ChatGPT 的规制为视角》，载《比较法研究》2023

年第 3 期，第 155-172 页。

[11] 朱恒楠：《类 ChatGPT 模型产生的法律风险及应

对之策》，载《中国价格监管与反垄断》2024 年第 9 期，

第 65-67 页。

[12] 杨金康：《生成式人工智能的法律风险及应对策

略》，载《河北企业》2024 年第 8 期，第 155-157 页。

[13] 程韵：《生成式人工智能模型的法律风险及规制研

究——以 ChatGPT 为视角展开》，载《网络安全技术与应用》

2024 年第 8 期，第 123-125 页。

[14] 杨福忠、姚凤梅：《人工智能赋能社会治理之维度

及风险法律防治》，载《河北法学》2022 年第 40 卷第 11 期，

第 89-102 页。

[15] 刘琪、于游：《生成式人工智能发展的风险与法律

规制》，载《现代商贸工业》2024 年第 45 卷第 15 期，第

223-225 页。

[16] 邓喜莲、刘嘉馨：《人工智能的社会影响和法律规

制分析》，载《法制与社会》2021 年第 20 期，第 104-106 页。