深度神经网络（DNN）在图像分类、语义分割和目标检测等任务中表现出了优越的性能。然而，DNN对于通过微小扰动或简单空间变换生成的对抗样本的脆弱性严重限制了其在安全关键系统中的应用，测试DNN模型以确保其有效性和鲁棒性非常重要。类似于传统的软件测试技术，DNN的测试同样依赖于高质量的测试用例。研究表明，对抗样本可以作为一种测试用例。然而，现有的方法大多未考虑可迁移对抗样本。可迁移对抗样本基于代理模型生成，可用于攻击具有相似决策边界的目标模型。
本文提出了一种面向图像分类DNN的测试方法TAEFuzz，该方法通过生成可迁移对抗样本作为测试用例，自动评估并增强DNN的鲁棒性。TAEFuzz通过在不同扰动半径下生成多样化的邻居样本，并使用其梯度修正扰动方向，有效缓解了测试用例生成过程中的过拟合问题，并防止陷入局部最优。此外，通过对图像敏感区域的扰动进行约束，TAEFuzz显著提升了测试用例的视觉质量。TAEFuzz还利用低成本的数据增强技术构建数据集来训练去噪模块，对输入数据进行噪声消减，增强了模型的鲁棒性。
实验结果表明，TAEFuzz生成的测试用例可以发现目标系统中高达46.1%的错误，并且保持了较高的图像质量。此外，与基线方法相比，TAEFuzz在提升目标模型鲁棒性方面表现更佳。
原文题目为：“TAEFuzz: Automatic Fuzzing for Image-based Deep Learning Systems via Transferable Adversarial Examples”，于2025年1月被软件工程领域国际权威期刊ACM Transactions on Software Engineering and Methodology（CCF A类国际期刊）录用并在线发表。博彩网 吉顺慧副教授为论文的第一作者、研究生黄昶蓉为学生第一作者，张鹏程教授为该论文的通讯作者。
《ACM Transactions on Software Engineering and Methodology》是软件工程领域两大CCF A类国际期刊之一，是国际上公认的最权威、最有影响力的软件工程领域顶级期刊之一。
论文链接：//dl.acm.org/doi/10.1145/3714463