新算法实现人工智能 多模态信息“去伪存真”
来源: 科技日报 作者: 发布时间: 2024-05-20

科技日报讯 (记者史俊斌)记者5月18日从西安电子科技大学获悉,由该校计算机科学与技术学院教授赵伟领衔的智能媒体计算机团队,通过数据可信重建以及弱监督深度学习框架,破解了数据质量低及标注数据稀缺难题,进一步揭示了神经网络的决策机制,有效提升了现有可信人工智能方法的鲁棒性、可解释性和安全性。相关论文《可信冲突多模态学习算法》日前获国际人工智能领域顶级学术会议AAAI 2024杰出论文奖。

人工智能已经日益深入人们生活。在医疗、自动驾驶等复杂场景中,人工智能对决策任务的误判可能造成重大损失。传统可信人工智能多关注单模态数据,无法满足实际场景中多模态数据分析决策需求,单模态数据有限的信息量导致单模态智能可信度存在瓶颈。

为此,团队打破单模态数据思路,提出冲突多模态学习算法,并通过数据可信重建以及弱监督深度学习框架算法,实现了证据层面的冲突多模态数据可信融合。这能在提升人工智能决策性能的同时,可靠地度量决策置信度。此外,团队从理论上证明,该方法能够量化冲突模态带来的负面影响。这有利于解决当前研究面临的数据质量低、决策不可信等难题,为后续研究提供了重要的理论基础和技术支撑。

团队成员徐偲副教授解释,这种算法在给出置信度的同时,还会给出多模态数据的冲突度,实现了多模态信息的“去伪存真”。若置信度不高且冲突度较高时,人工智能的决策便明显不太可信。


地方动态

“第三届滨海中关村协同创新发展交流会”在北京成功举办

中国信息协会会长王金平参加第七届数字中国建设峰会

提供伴随式服务,践行智库型组织——中国信息协会产业互联网分会正式成立

全国大学生创新发明大赛暨“英创工程”启动

  • 协会要闻
  • 通知公告