本發(fā)明涉及電力負(fù)荷預(yù)測,具體涉及一種多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法和系統(tǒng)。
背景技術(shù):
1、電力負(fù)荷預(yù)測是電力系統(tǒng)規(guī)劃的重要組成部分,也是電力系統(tǒng)經(jīng)濟(jì)運(yùn)行的基礎(chǔ),其對電力系統(tǒng)規(guī)劃和運(yùn)行都極其重要。
2、現(xiàn)有的電力負(fù)荷預(yù)測主要是通過歷史負(fù)荷數(shù)據(jù)和數(shù)值氣象數(shù)據(jù)進(jìn)行電力負(fù)荷預(yù)測,如cn118332415a,基于dbo-svr算法的電力系統(tǒng)負(fù)荷預(yù)測方法及系統(tǒng),2024.07.12中從電力系統(tǒng)負(fù)荷相關(guān)的參數(shù)中篩選出與電力負(fù)荷相關(guān)性最大的參數(shù),建立訓(xùn)練集;并基于訓(xùn)練集構(gòu)建支持向量回歸模型;通過蜣螂優(yōu)化算法確定支持向量回歸模型的超參數(shù);通過支持向量回歸模型迭代尋優(yōu)更新蜣螂種群全局最優(yōu)位置,得到優(yōu)化后的支持向量回歸模型進(jìn)行負(fù)荷預(yù)測。cn118333225a,基于深度學(xué)習(xí)的電力負(fù)荷預(yù)測方法、裝置及電子設(shè)備,2024.07.12中提出基于深度學(xué)習(xí)的負(fù)荷預(yù)測方法,基于vmd算法對所述電力負(fù)荷原始數(shù)據(jù)進(jìn)行分解,得到多個重構(gòu)子模態(tài)數(shù)據(jù),對重構(gòu)數(shù)據(jù)進(jìn)行數(shù)據(jù)劃分,得到訓(xùn)練集、驗(yàn)證集和測試集,將所述訓(xùn)練集和所述驗(yàn)證集輸入至crossformer網(wǎng)絡(luò)模型中進(jìn)行訓(xùn)練,得到電力負(fù)荷預(yù)測模型。
3、通過上述描述可知,現(xiàn)有的電力負(fù)荷預(yù)測主要依賴于歷史負(fù)荷數(shù)據(jù)和數(shù)值氣象數(shù)據(jù),數(shù)據(jù)類型較為單一,預(yù)測精度較低。
技術(shù)實(shí)現(xiàn)思路
1、(一)解決的技術(shù)問題
2、針對現(xiàn)有技術(shù)的不足,本發(fā)明提供了一種多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法和系統(tǒng),解決了現(xiàn)有的電力負(fù)荷預(yù)測方法預(yù)測精度較低的技術(shù)問題。
3、(二)技術(shù)方案
4、為實(shí)現(xiàn)以上目的,本發(fā)明通過以下技術(shù)方案予以實(shí)現(xiàn):
5、第一方面,本發(fā)明提供一種多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法,包括:
6、s1、獲取歷史負(fù)荷序列,并對歷史負(fù)荷序列進(jìn)行分解,得到包括趨勢分量,周期分量,高頻分量的分量序列集合;
7、s2、利用多尺度transformer模型對分量序列集合中的每個分量進(jìn)行多尺度負(fù)荷時序特征提取;
8、s3、采用跨模態(tài)注意力機(jī)制將多尺度負(fù)荷時序特征和衛(wèi)星圖像特征進(jìn)行融合,得到融合特征;
9、s4、通過多步預(yù)測解碼器對融合特征進(jìn)行解碼處理,得到多步電力負(fù)荷預(yù)測結(jié)果;
10、其中,所述衛(wèi)星圖像特征的獲取方式包括:基于grvt模型對衛(wèi)星圖像進(jìn)行特征提取,得到衛(wèi)星圖像特征;所述grvt模型的包括若干堆疊的門控殘差編碼器網(wǎng)絡(luò)單元。
11、優(yōu)選的,所述對歷史負(fù)荷序列進(jìn)行分解,包括:
12、通過ceemdan算法對歷史負(fù)荷序列進(jìn)行分解。
13、優(yōu)選的,所述利用多尺度transformer模型對分量序列集合中的每個分量進(jìn)行多尺度負(fù)荷時序特征提取,包括:
14、所述多尺度transformer模型包括一個patch分割單元、n個多頭自注意力模塊和一個融合模塊;其中,
15、其中,patch分割單元將分量序列集合中每一個分量都不重疊地分割為n個尺寸不同的patch的分量集合;
16、n個多頭自注意力模塊對n個尺寸不同的patch的分量集合進(jìn)行處理,輸出n個單尺度特征;
17、融合模塊對n個單尺度特征進(jìn)行融合,得到多尺度負(fù)荷時序特征。
18、優(yōu)選的,所述多尺度transformer模型中包括若干全連接層,全連接層中采用swiglu作為激活函數(shù),swiglu激活函數(shù)的表達(dá)式如下:
19、ffnswiglu=swiglu(xinput,w1,v)w2
20、swiglu(xinput,w1,v)w2=swishβ(xinputw1xinputv)w2
21、swishβ(xinput)=xσ(βxinput)
22、其中,w1,v為swiglu模塊的兩個權(quán)重矩陣,w2為原始ffn的第二層全連接權(quán)重矩陣,代表哈達(dá)瑪積逐位相乘,swish為激活函數(shù),β為swish激活函數(shù)的一個可學(xué)習(xí)的參數(shù),當(dāng)β=1時等同于silu激活函數(shù),xinput為全連接層的輸入數(shù)據(jù)。
23、優(yōu)選的,所述grvt模型還包括patch單元、線性投影+位置編碼單元和全連接層;
24、其中,patch單元將衛(wèi)星圖像切分為多個patch;
25、線性投影+位置編碼單元將多個patch進(jìn)行線性投影后,進(jìn)行位置編碼,得到門控殘差編碼器的輸入特征;
26、若干堆疊的門控殘差編碼器對輸入特征進(jìn)行處理后,得到融合淺層信息和深層信息的編碼特征,
27、編碼特征經(jīng)過全連接層輸出衛(wèi)星圖像特征。
28、優(yōu)選的,采用跨模態(tài)注意力機(jī)制將多尺度負(fù)荷時序特征和衛(wèi)星圖像特征進(jìn)行融合,得到融合特征,包括:
29、多尺度負(fù)荷時序特征ftem經(jīng)過一個可學(xué)習(xí)的權(quán)重矩陣,輸出的結(jié)果被視為查詢向量qtem,包括:
30、qtem=wtemftem
31、衛(wèi)星圖像特征fspa通過一個可學(xué)習(xí)的權(quán)重矩陣進(jìn)行線性變換,以生成兩組輸出:鍵向量kspa和值向量vspa,包括:
32、kspa=wspa_kfspa
33、vspa=wspa_vfspa
34、使用點(diǎn)積操作計(jì)算時序查詢向量qtem與每個圖像鍵向量kspa之間的相似度,得到的相似度值通過縮放操作后,應(yīng)用softmax函數(shù)進(jìn)行歸一化,得到注意力分?jǐn)?shù),包括:
35、
36、利用注意力分?jǐn)?shù),對圖像的值向量vspa進(jìn)行加權(quán)求和,得到融合特征fusion,包括:
37、fusion=score·vspa。
38、優(yōu)選的,所述多步預(yù)測解碼器包括z個交替堆疊的解碼器單元和第z+1個全連接層,每一解碼器均集成了相同的層歸一化、多頭自注意力機(jī)制以及一個全連接層,最后一個解碼器單元的全連接層輸出的特征再經(jīng)過第z+1個全連接層,輸出多步電力負(fù)荷預(yù)測結(jié)果,z為正整數(shù),z≥2。
39、第二方面,本發(fā)明提供一種多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測系統(tǒng),包括:
40、序列分解模塊,用于獲取歷史負(fù)荷序列,并對歷史負(fù)荷序列進(jìn)行分解,得到包括趨勢分量,周期分量,高頻分量的分量序列集合;
41、特征提取模塊,用于利用多尺度transformer模型對分量序列集合中的每個分量進(jìn)行多尺度負(fù)荷時序特征提??;
42、特征融合模塊,用于采用跨模態(tài)注意力機(jī)制將多尺度負(fù)荷時序特征和衛(wèi)星圖像特征進(jìn)行融合,得到融合特征;
43、解碼預(yù)測模塊,用于通過多步預(yù)測解碼器對融合特征進(jìn)行解碼處理,得到多步電力負(fù)荷預(yù)測結(jié)果;
44、其中,所述衛(wèi)星圖像特征的獲取方式包括:基于grvt模型對衛(wèi)星圖像進(jìn)行特征提取,得到衛(wèi)星圖像特征;所述grvt模型的包括若干堆疊的門控殘差編碼器網(wǎng)絡(luò)單元。
45、第三方面,本發(fā)明提供一種計(jì)算機(jī)可讀存儲介質(zhì),其存儲用于多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測的計(jì)算機(jī)程序,其中,所述計(jì)算機(jī)程序使得計(jì)算機(jī)執(zhí)行如上述所述的多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法。
46、第四方面,本發(fā)明提供一種電子設(shè)備,包括:
47、一個或多個處理器,存儲器,以及一個或多個程序,其中所述一個或多個程序被存儲在所述存儲器中,并且被配置成由所述一個或多個處理器執(zhí)行,所述程序包括用于執(zhí)行如上述所述的多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法。
48、(三)有益效果
49、本發(fā)明提供了一種多模態(tài)多尺度特征融合的電力負(fù)荷預(yù)測方法和系統(tǒng)。與現(xiàn)有技術(shù)相比,具備以下有益效果:
50、本發(fā)明首先獲取歷史負(fù)荷序列,并對歷史負(fù)荷序列進(jìn)行分解,得到包括趨勢分量,周期分量,高頻分量的分量序列集合;然后利用多尺度transformer模型對分量序列集合中的每個分量進(jìn)行多尺度負(fù)荷時序特征提??;采用跨模態(tài)注意力機(jī)制將多尺度負(fù)荷時序特征和衛(wèi)星圖像特征進(jìn)行融合,得到融合特征;最后通過多步預(yù)測解碼器對融合特征進(jìn)行解碼處理,得到多步電力負(fù)荷預(yù)測結(jié)果;其中,所述衛(wèi)星圖像特征的獲取方式包括:基于grvt模型對衛(wèi)星圖像進(jìn)行特征提取,得到衛(wèi)星圖像特征;所述grvt模型的包括若干堆疊的門控殘差編碼器網(wǎng)絡(luò)單元。本發(fā)明基于grvt模型進(jìn)行衛(wèi)星圖像特征提取,不僅利用了transformer處理全局信息的優(yōu)勢,而且還利用了殘差連接機(jī)制保留單層信息的能力,將兩者結(jié)合高效提取衛(wèi)星圖像特征,實(shí)現(xiàn)在電力負(fù)荷預(yù)測時,融入衛(wèi)星圖像特征,避免了數(shù)據(jù)類型單一,提高了電力負(fù)荷預(yù)測的精度。