主要研究方向包括:
(1)面向安全攸关软件的质量保障及可靠性研究。服务于军事、交通、金融、医疗、工业控制等领域的软件系统一旦由于自身质量原因而发生失效,或是由于安全漏洞而受到外部攻击,将会导致生命财产安全的重大损失。因此,针对这类安全攸关软件开展自动化和智能化软件工程技术的研究,综合运用符号主义、行为主义、连接主义等不同人工智能学派的思想,在代码生成、程序分析、软件测试、故障定位、缺陷修复等环节引入自动化和智能化的技术以提高软件开发、测试、维护人员的工作效率,从而保障和提高安全攸关领域软件产品的质量。
(2)面向深度学习系统的行为分析及可靠性研究。深度学习技术已被广泛应用于身份识别、自动驾驶、医疗诊断等安全攸关领域。因此,保障深度学习系统的可靠性和安全性,是扩大深度学习技术应用范围的重要前提之一。深度学习系统一般由上层业务代码、深度神经网络、深度学习框架所组成,相应的,对深度学习系统的分析、测试、验证工作也应该从各个层次分别入手:对上层业务代码开展测试以保证其功能可靠,对深度神经网络模型进行行为分析以保证其决策逻辑可靠,对底层深度学习框架加以验证以保证环境可靠,最终实现整个深度学习系统的安全可靠运行。
(3)面向大规模开源基础软件生态的数据分析。由于编译器、程序设计语言、深度学习框架等基础支撑软件尚不能自主可控,导致我国在使用这些“软件基础设施”不仅可能面临“卡脖子”的风险,更须时刻防范各种潜在安全漏洞。面向大规模开源基础软件及相应的开源生态系统开展数据分析和实证研究,对其中的缺陷和漏洞进行分析和梳理,一方面有助于我们在使用这些基础软件时知其底细降低不利影响,另一方面也可为基础软件国产替代工作提供必要的支持。