［本站(zhàn)訊］近日，網絡空間安全學院郭山清教授團隊在智能(néng)軟件系統安全領域的研究成果“DeMistify: Identifying On-device Machine Learning Models Stealing and Reuse Vulnerabilities in Mobile Apps”被國際頂級軟件工程會議ICSE 2024錄用。論文的第一(yī)作(zuò)者是學院博士研究生(shēng)任鵬程，通訊作(zuò)者爲郭山清教授和香港城市(shì)大學助理(lǐ)教授趙晴川，山東大學是該論文的第一(yī)作(zuò)者和通訊作(zuò)者單位。

随着機器(qì)學習（ML）技術的不斷發展，越來越多的應用程序開始将機器(qì)學習模型集成到移動設備中，以提供更智能(néng)、更個性化(huà)的用戶體驗。然而，這種技術在實現中必須将ML模型部署到本地的智能(néng)設備上(shàng)，因此容易遭受模型竊取攻擊。爲應對此類風險，開發人(rén)員已采取多項安全措施，但(dàn)這些(xiē)保護仍存在不足。郭山清教授團隊提出了(le)一(yī)種新(xīn)型本地化(huà)模型竊取攻擊方法，從模型重用的角度對功能(néng)模塊進行重構。該方法通過對相關的執行組件進行分(fēn)析，自動生(shēng)成腳本來竊取和重用目标 ML 模型。團隊對1511個高下(xià)載量的ML應用程序進行了(le)評估，其中1250個（82.73%）成功被重用攻擊。此外，團隊還針對實驗結果設計對抗用例，驗證了(le)重用攻擊的有效性。該研究成果揭示了(le)當前智能(néng)系統在模型部署的脆弱性，爲保障設計更安全高效的保護措施提供參考。上(shàng)述系列研究工作(zuò)得到了(le)國家自然科學基金(jīn)、山東省重點研發計劃等項目的資助。

ICSE（International Conference on Software Engineering，CCF-A類會議）是國際公認的軟件工程領域頂級會議，由國際計算(suàn)機學會（ACM）、電氣與電子(zǐ)工程師協會（IEEE）聯合主辦。該會議創辦于1975年，是領域内從業者分(fēn)享和探討(tǎo)最新(xīn)研究成果和發展趨勢的重要平台。