神经网络成“病毒软件”新宿主，国科大最新研究：嵌入恶意软件后，性能下降不足 1%

图片地址：https://img.ithome.com/newsuploadfiles/2021/7/faf482fa-3cc5-4d1f-9007-1db0f8f37518.jpg

近日，中国科学院大学（国科大）团队研究发现，神经网络将成为“病毒软件”肆意传播的下一个阵地。他们在 arXiv 提交的一篇题为“EvilModel: Hiding Malware Inside of Neural Network Models”的论文表明，恶意软件可以直接被嵌入到机器学习模型的“人工神经元”中，并且几乎不会影响模型的性能。论文地址：https://arxiv.org/pdf/2107.08590v1.pdf具体而言，由于模型的解释性差和泛化能力强，通过神经网络嵌入恶意软件可以使模型在性能没有影响或影响很小的情况下秘密传播，他们发现，使用真实的恶意软件替换 AlexNet 模型中 50% 左右的神经元，模型的准确率仍保持在 93.1% 以上。同时，由于神经网络的结构保持不变，这些大量恶意软件成功地规避了防病毒引擎的安全扫描。论文中写道，经过实验表明，在 1% 的准确率损失范围内，一个 178MB 的 AlexNet