我校“针对人工智能对抗性恶意样本的监测技术”研究被顶级国际会议发表并获奖

2019-04-08 14:24:49来源:计算机科学与工程学院作者:周沧崎编辑:宣传部管理阅读:612设置

各类恶意软件作为社会公共安全的重要威胁,成为公安、工信和通管等部门长期以来努力打击的目标。最近一年来,恶意软件研制人员开始将人工智能技术应用在抵抗监测方面,出现了对抗性恶意样本生成和注入这类新型技术。这类技术的基本思想都是通过生成恶意样本,引导智能分类器的错误识别,俗称“针对人工智能的智能攻击”。当前,大量现有监测系统中的机器学习算法都容易受到这些对抗性逃避攻击的人工智能算法攻击。奇幻城在线娱乐 安全研究界和安全产品市场上都还没有针对抵御这些攻击的普适性有效对策。

针对这一背景,我校计算机科学与工程学院牵头开展的“面向人工智能对抗性恶意样本的监测技术”尝试设计增强神经网络来对抗恶意软件规避攻击的鲁棒性。日前,李千目教授团队的研究成果被人工智能顶级国际学术会议AAAI2019(CCF A类会议)发布,算法及其实验获得了大会“Challenge Problem Winner”,这也是中国奇幻城在线娱乐 安全学者首次获得该奖项。

这项研究有助于激发国内外研究同行对这一重要问题的更多关注。未来的研究问题也非常丰富,例如:扩展和完善反规避攻击的原则、增强针对智能攻击的对抗性恶意软件检测的稳健性、设计针对对抗性恶意软件更健壮的技术。

返回原图
/