報告題目:基于知識蒸餾的機器遺忘算法研究
主 講 人:張司娜 講師
報告時間:2025.06.08(周日)15:00
報告地點:6A519
主辦單位:計算機與軟件工程學(xué)院
歡迎全校師生參加!
主講人簡介:
張司娜,女,工學(xué)博士,講師。2018年9月畢業(yè)于西南交通大學(xué)信息安全專業(yè)。2022年07月開始任教于西華大學(xué)計算機與軟件工程學(xué)院。主要研究方向為編碼理論、信息安全等方向。
報告內(nèi)容簡介:
為了有效保護數(shù)據(jù)隱私并實現(xiàn)“被遺忘的權(quán)力”,需要從機器學(xué)習(xí)模型中消除特定訓(xùn)練數(shù)據(jù)子集的影響,并確保這些數(shù)據(jù)不會被反向推測。為了解決這一問題,近年來形成了“遺忘學(xué)習(xí)”的研究領(lǐng)域。知識蒸餾框架是一種模型壓縮的方法,先訓(xùn)練一個大模型(Teacher 模型),然后使用大模型的預(yù)測結(jié)果作為標(biāo)簽來訓(xùn)練一個小模型(Student 模型),在不損失大模型預(yù)測性能的情況下降低模型規(guī)模。知識蒸餾框架為遺忘學(xué)習(xí)提供了一種新的途徑,通過知識蒸餾框架創(chuàng)造性地隔離預(yù)測處理,可以有效解決遺忘學(xué)習(xí)問題。

川公網(wǎng)安備 51010602000503號