2024年國際表征學(xué)習(xí)大會（International Conference on Learning Representation，簡稱ICLR）在奧地利維也納召開，我校信息與電氣工程學(xué)院2021級人工智能專業(yè)本科生饒全瑞的研究論文《Rethinking CNN’s Generalization to Backdoor Attack from Frequency Domain》（第一作者：饒全瑞；指導(dǎo)教師：劉伍穎）被大會接收并作大會現(xiàn)場展示。
論文聚焦深度學(xué)習(xí)模型中的后門攻擊問題，從頻域角度重點研究了卷積神經(jīng)網(wǎng)絡(luò)（CNN）記憶后門樣本的機(jī)理，發(fā)現(xiàn)CNN可以通過記憶觸發(fā)器改變頻域分布進(jìn)而對中毒樣本進(jìn)行泛化。論文針對觸發(fā)器在不同頻率產(chǎn)生的擾動對模型泛化的幫助做了進(jìn)一步研究，提出了一種通用的可見觸發(fā)器隱形策略，設(shè)計了一種基于低頻語義信息的頻域后門攻擊方法。論文在構(gòu)建安全可靠的AI系統(tǒng)和保護(hù)模型、數(shù)據(jù)集知識產(chǎn)權(quán)方面具有重要實踐意義。
國際表征學(xué)習(xí)會議是機(jī)器學(xué)習(xí)領(lǐng)域的國際頂級會議之一，自2013年開始每年舉辦一次，在人工智能、機(jī)器視覺、語音識別、文本理解等重要應(yīng)用領(lǐng)域中發(fā)布了眾多有重大影響力的論文，獲得了國際學(xué)術(shù)研究者的高度認(rèn)可。（信息與電氣工程學(xué)院 通訊員：陳天）
