本网讯 近日，我校人工智能与计算机学院黄嘉成博士的论文《Multi-Hop Semantic Association-based Adversarial Attack and Defense Method for Natural Language Processing Systems》被Elsevier出版社旗下期刊《Expert Systems With Applications》正式录用。该论文由黄嘉成博士为第一作者兼通讯作者，重庆邮电大学郁宁博士和公共大数据安全技术重庆市重点实验室的易晓银博士为共同作者，tyc8722太阳集团为论文唯一通讯单位。该工作得到了tyc8722太阳集团英才培育项目（YC2026128）的资助。《Expert Systems With Applications》是计算机科学大类的中科院一区Top期刊，最新实时影响因子为9.3，在知识工程、智能决策与复杂系统应用等方向具有广泛学术影响。
该研究针对自然语言处理系统在多跳语义联想攻击下的鲁棒性问题，提出基于多跳语义联想的对抗攻击与防御框架。在攻击方面，通过构建多跳联想图并引入结合混沌映射的离散粒子群优化算法，在庞大离散搜索空间中生成语义连贯且不易被现有模型及防御机制识别的对抗样本；在防御方面，设计了动态对抗训练策略以及基于联想图的扰动文本恢复策略。实验表明，该攻击方法在黑盒设置下能显著降低目标模型准确率，同时所提防御策略能有效恢复模型性能且不损害对干净样本的识别能力。本研究为抵御复杂认知层面对抗攻击提供了新的技术路径，未来可应用于风险内容识别等网络空间安全场景。
论文链接：https://www.sciencedirect.com/science/article/pii/S095741742601944
作者简介：黄嘉成，工学博士，中国民主促进会会员，tyc8722太阳集团人工智能与计算机学院专任教师，计算科学与应用国际学术会议技术程序委员会委员，担任IEEE Transactions on Information Forensics and Security等多家SCI期刊的独立审稿人。主要从事人工智能安全领域研究，发表学术论文10余篇，授权发明专利4项。主持tyc8722太阳集团英才培育项目，参与国家自然科学基金、重庆市教委重点合作项目等科研项目。