当前位置: 首页 > 采购需求

315075703智能系统数据与算法安全检测技术

发布时间:2019-02-14 对接截止时间:2019-03-31 点击数:5772 已对接企业数量:
功能用途
针对智能系统中数据和算法面临的安全威胁,研究智能系统数据与算法安全检测技术,自动化快速发现智能算法弱点,实现人工智能算法的安全性检测、恶意数据发现和正常数据防篡改,研制原型系统。经过预研,该专题技术成熟度达到4级。
主要指标
研究内容:(1)智能算法对抗性攻击样本生成技术:针对典型智能算法训练过程中存在数据来源未知和算法参数被污染的安全风险,研究对抗性攻击样本生成模型,能够快速自动化生成海量、针对性、高质量对抗性攻击样本。(2)恶意数据样本检测与数据保护技术:研究恶意数据样本高效快速检测、样本数据防污染防篡改的保护机制等内容,确保智能系统的训练样本数据真实、可靠和安全。(3)智能算法安全加固技术:研究智能算法面临的安全风险、智能算法训练阶段和推理阶段的安全加固方法等内容,解决智能算法所面临的恶意数据、算法干扰等攻击威胁。 主要战术技术指标:(1)提供不少于3种典型智能算法的对抗性攻击样本生成能力,自动化生成百万级以上的对抗性攻击样本;(2)支持不少于2种典型智能算法的样本数据防污染防篡改,对恶意数据的检测率达到85%以上;(3)支持不少于2种智能算法的训练阶段和推理阶段的安全加固,能够抵御智能系统的污染、逃避、模仿和逆向攻击;(4)支持主动防御和被动防御两种策略的安全评估机制,支持不少于2种典型智能系统的黑盒安全测试和安全性评估。 成果形式:研究报告、专利、原型系统。 最大支持单位数:2家。
声明:本内容由军队相关单位提供,任何媒体、互联网站和商业机构不得擅自转载。
var cnzz_protocol = (("https:" == document.location.protocol) ? " https://" : " http://");document.write(unescape("%3Cspan id='cnzz_stat_icon_1254143054'%3E%3C/span%3E%3Cscript src='" + cnzz_protocol + "s11.cnzz.com/z_stat.php%3Fid%3D1254143054' type='text/javascript'%3E%3C/script%3E"));