机器学习安全攻击与防御机制的相关研究

王 文华
北京师范大学计算思维教育研究中心

摘要

虽然机器学习的应用范围涉及人工智能的各个领域，但由于储存和数据传输安全问题和机器学习算法自身
的缺陷，机器学习中存在着许多面对安全性和隐私权的威胁，以下根据攻击出现的情况和时间对机器学习中的安全
性和隐私权威胁加以了划分，剖析标签投毒、大数据投毒、白盒入侵、黑盒入侵等产生的起因和攻击方式，并阐述
和剖析了现有的信息安全防御机制。

关键词

机器学习；安全防御；攻击

参考

[1] 李欣姣，吴国伟，姚琳，等 . 机器学习安全攻击

与防御机制研究进展和未来挑战 [J]. 软件学报，2021，32

（2）：18.

[2] 孙歆，方芳，孙昌华 . 基于机器学习及特定攻击

特征的多维度工业系统安全感知方法研究 [J]. 电子设计工

程，2019，27（17）：6.

[3] 王前，王磊，谢寿生 .DDoS 攻击和防御机制分类

研究 [J]. 计算机应用研究，2006，23（10）：3.

[4] 李盼，赵文涛，刘强，等 . 机器学习安全性问题

及其防御技术研究综述 [J]. 计算机科学与探索，2018，

012（002）：171-184.

[5]Lin C , Honggang L , Yuanfei H , et al. Research

on mechanism of resisting malicious code based on trusted

computing 基于可信计算的恶意代码防御机制研究 [J]. 计

算机应用研究，2008，25（12）：3713-3715.