澳科研团队用新算法帮助“机器学习”抗干扰
来源: 作者: 发布时间: 2019-07-04

“机器学习”可以在大数据训练中“学习”正确的工作方法,但它也容易受到恶意干扰。攻击者一般通过输入恶意数据来欺骗“机器学习”模型,导致其出现故障。开发新算法的Data61机器学习小组负责人理查德·诺克博士举例说,在进行图像识别时,攻击者通过在图像上添加一层“干扰波”,可以欺骗“机器学习”模型进行错误的图像分类。

“我们的新算法通过一种类似疫苗接种的思路来抗干扰。”诺克博士说,他们的新算法可对“机器学习”模型进行防干扰训练,比如在图片识别领域,对图片集合进行小的修改或使其失真,可激发出“机器学习”模型越来越强的抗干扰能力,并形成相关的自我抗干扰训练模型。当经过小规模的失真训练后,最终的抗干扰训练模型将更加强大,在干扰真的到来时,“机器学习”模型将具备“免疫”功能。吃

地方动态

中国信息协会会长王金平受邀参加第八届数字中国建设峰会

2025中国信息协会数据要素应用创新大赛正式启动

中国信息协会会长王金平出席第二届数字政府40人论坛暨清华大学数字政府与治理研究院揭牌仪式

亚洲国际贸易投资商会到访中国信息协会交流座谈

  • 协会要闻
  • 通知公告