MindArmour可用于增强模型的安全可信、保护用户的数据隐私。
模型安全主要针对对抗样本,包含了4个子模块:对抗样本的生成、对抗样本的检测、模型防御、攻防评估。对抗样本的架构图如下:
隐私保护支持差分隐私,包括动态或者非动态的差分隐私SGD、Momentum、Adam优化器,噪声机制支持高斯分布噪声、拉普拉斯分布噪声,差分隐私预算监测包含ZDP、RDP。差分隐私的架构图如下:
MindArmour使用MindSpore加速计算,因此请先安装MindSpore,其余依赖包含在setup.py
里。
git clone https://gitee.com/mindspore/mindarmour.git
$ cd mindarmour
$ python setup.py install
Pip
安装pip install mindarmour-{version}-cp37-cp37m-linux_{arch}.whl
No module named 'mindarmour'
,则说明安装成功。python -c 'import mindarmour'
安装指导、使用教程、API,请参考用户文档。
社区问答:MindSpore Slack。
欢迎参与社区贡献,详情参考Contributor Wiki。
版本信息参考:RELEASE。