技術(shù)編號(hào):40007118
提示:您尚未登錄,請(qǐng)點(diǎn) 登 陸 后下載,如果您還沒有賬戶請(qǐng)點(diǎn) 注 冊(cè) ,登陸完成后,請(qǐng)刷新本頁查看技術(shù)詳細(xì)信息。本發(fā)明涉及神經(jīng)網(wǎng)絡(luò)通信?,尤其涉及一種基于雙卡雙芯片的模型訓(xùn)練通信方法及裝置。背景技術(shù)、目前,在神經(jīng)網(wǎng)絡(luò),例如:大模型、視覺模型和語音模型等的推理以及訓(xùn)練的規(guī)約分散(reduce?scatter)通信過程中,沒有充分利用加速卡,例如:圖像處理器(graphicsprocessing?unit,gpu)上的執(zhí)行單元(excution?unit,eu)之間的通信鏈路,即加速卡內(nèi)兩芯片(die)間通信時(shí),沒有充分利用通信鏈路的高速帶寬,導(dǎo)致卡內(nèi)兩芯片間通信的時(shí)長較長。因此,在編排兩加速卡的卡間pp...
注意:該技術(shù)已申請(qǐng)專利,請(qǐng)尊重研發(fā)人員的辛勤研發(fā)付出,在未取得專利權(quán)人授權(quán)前,僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進(jìn)行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán),增加技術(shù)思路,做技術(shù)知識(shí)儲(chǔ)備,不適合論文引用。