技術(shù)編號:11775381
提示:您尚未登錄,請點 登 陸 后下載,如果您還沒有賬戶請點 注 冊 ,登陸完成后,請刷新本頁查看技術(shù)詳細(xì)信息。本發(fā)明屬于信息技術(shù)領(lǐng)域,涉及機器學(xué)習(xí)和深度學(xué)習(xí)技術(shù),尤其涉及一種基于K大值的稀疏化(Sparsify)神經(jīng)網(wǎng)絡(luò)模型后向傳播訓(xùn)練方法。背景技術(shù)神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練過程分為兩個步驟:前向傳播(ForwardPropagation)和后向傳播(BackwardPropagation)。前向傳播計算神經(jīng)網(wǎng)絡(luò)各層的輸出,后向傳播根據(jù)前向傳播輸出結(jié)果的梯度計算模型參數(shù)的梯度,最后神經(jīng)網(wǎng)絡(luò)模型利用這些梯度對參數(shù)進(jìn)行更新?,F(xiàn)有的后向傳播方法需要利用前向傳播的輸出結(jié)果的全部梯度信息來計算參數(shù)的梯度,這使得神經(jīng)網(wǎng)絡(luò)的...
注意:該技術(shù)已申請專利,請尊重研發(fā)人員的辛勤研發(fā)付出,在未取得專利權(quán)人授權(quán)前,僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進(jìn)行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán),增加技術(shù)思路,做技術(shù)知識儲備,不適合論文引用。
請注意,此類技術(shù)沒有源代碼,用于學(xué)習(xí)研究技術(shù)思路。