本發(fā)明涉及時序預(yù)測領(lǐng)域，具體涉及一種基于改進autoformer模型的電力負載時序預(yù)測方法。

背景技術(shù)：

1、隨著大數(shù)據(jù)時代的到來，人們接觸到的數(shù)據(jù)量急劇增加，很多數(shù)據(jù)以時間序列的形式存在，時序預(yù)測通過分析這些按時間順序排列的數(shù)據(jù)點，提取出有價值的信息，從而預(yù)測未來的發(fā)展趨勢。其中，電力變壓器的負載是一種非常重要的數(shù)據(jù)，它可以幫助人們確定變壓器是否處于安全的工作范圍內(nèi)，避免因超載而導(dǎo)致設(shè)備損壞或故障，也可以用來優(yōu)化運行效率，降低能耗，從而提高經(jīng)濟效益，當(dāng)電力負載異常，比如過載或欠載，可能預(yù)示著設(shè)備故障或負荷調(diào)整的需要，因此負載預(yù)測可以作為故障預(yù)警，提高電力系統(tǒng)的可靠性和穩(wěn)定性。

2、在電力負載的預(yù)測任務(wù)中，有許多常用的預(yù)測方法，如zhou等提出的informer算法，引入了一種稀疏注意力機制，只計算關(guān)鍵時間步驟的注意力，很大程度上減少了計算量，提高了模型處理長序列的效率，此外該算法通過減少了序列長度，使得模型可以更專注于最重要的時間步驟，但它可能無法捕捉序列中的所有重要交互。某些情境下，稀疏性可能導(dǎo)致信息丟失，從而影響模型效果。另外它的結(jié)構(gòu)可能限制了信息的傳播路徑，在某些復(fù)雜的時間序列數(shù)據(jù)中，長距離依賴的捕捉可能受到影響，這可能在處理具有復(fù)雜依賴關(guān)系的序列時導(dǎo)致性能下降。

3、wu等提出的autoformer模型嘗試通過稀疏化計算來提高數(shù)據(jù)使用效率，降低計算時間復(fù)雜度，通過計算序列間的自相關(guān)函數(shù)，實現(xiàn)了子序列間的滾動連接，取得了很好的效果，但由于采用了最優(yōu)策略選擇發(fā)揮主要作用的信息，舍棄低相關(guān)性信息來降低計算成本，可能導(dǎo)致信息損失。

技術(shù)實現(xiàn)思路

1、針對電力負載時序預(yù)測任務(wù)中計算成本高、難度大、預(yù)測精度低的問題，本發(fā)明利用autoformer中使用fft加速計算過程的思路，通過使用雙層fft算法代替原有舍棄部分信息的自相關(guān)性計算過程，從而使得改進的模型能夠在保持計算復(fù)雜度的前提下，不丟失任何信息地完成所有自相關(guān)性的計算，顯著提高了預(yù)測精度。

2、本發(fā)明采用的技術(shù)方案為：

3、一種基于改進autoformer模型的電力負載時序預(yù)測方法，包括以下步驟：

4、步驟1：獲取電力負載數(shù)據(jù)集；

5、所述電力負載數(shù)據(jù)集中包括若干個樣本，每個樣本為一個時間序列，其中包括按照設(shè)定時間間隔獲取的若干個時間戳下的電力負載，同時按照設(shè)定預(yù)測步長b，對每個樣本進行劃分，將每個樣本中后b個時間戳下的電力負載作為標(biāo)簽；

6、步驟2：對獲取的電力負載數(shù)據(jù)集進行預(yù)處理，得到預(yù)處理后的電力負載數(shù)據(jù)集；所述預(yù)處理包括最大-最小歸一化和z-score歸一化；

7、所述最大-最小歸一化的方法為：

8、

9、其中，x為電力負載數(shù)據(jù)集中樣本且x＝x1，...，xl，xi為樣本x中第i個時間戳下的電力負載，l為時間戳的數(shù)量，min(x)為樣本中的最小值，max(x)為樣本中的最大值，xi'為最大-最小歸一化后的電力負載；

10、所述z-score歸一化的方法為：

11、

12、其中，xi″為z-score歸一化后的電力負載，mean(x)為電力負載的均值，std(x)為電力負載的標(biāo)準差；

13、步驟3：將預(yù)處理后的電力負載數(shù)據(jù)集按照設(shè)定比例劃分為訓(xùn)練集和測試集；

14、步驟4：構(gòu)建double?fftautoformer模型；

15、所述double?fftautoformer模型將autoformer模型中的auto-correlation模塊替換為改進的auto-correlation模塊；

16、所述改進的auto-correlation模塊包括若干個注意力通道、一個連結(jié)模塊和第一全連接層；

17、每個注意力通道中查詢矩陣、鍵矩陣和值矩陣首先分別經(jīng)過第二全連接層、第三全連接層和第四全連接層賦予權(quán)重和整合信息，然后將經(jīng)過第二全連接層的查詢矩陣、經(jīng)過第三全連接層的鍵矩陣和經(jīng)過第四全連接層的值矩陣中的每個向量分別進行快速傅里葉變換，將快速傅里葉變換后的第z個查詢向量和傅里葉變換后的第z個鍵向量按照元素相乘，得到若干個相乘后的向量，對每個相乘后的向量進行快速傅里葉逆變換和flip翻轉(zhuǎn)，再經(jīng)過sofimax運算得到運算后的結(jié)果向量，對運算后的結(jié)果向量進行快速傅里葉變換并與快速傅里葉變換后的值向量按照元素相乘，再進行快速傅里葉逆變換，將最終得到的若干個向量組成一個矩陣；

18、所述flip翻轉(zhuǎn)的方法為：將數(shù)據(jù)的順序翻轉(zhuǎn)，如果數(shù)據(jù)是向量，則翻轉(zhuǎn)后的向量中的每個元素的順序為翻轉(zhuǎn)前的向量中的每個元素的順序的倒序，如果數(shù)據(jù)是矩陣，則為將矩陣中所有行的順序翻轉(zhuǎn)；

19、所述連結(jié)模塊用于將若干個注意力通道輸出的矩陣進行拼接，形成一個特征表示，然后通過一個線性變換將拼接得到的特征表示映射到一個固定的維度；

20、所述第一全連接層用于對連結(jié)模塊的輸出進行信息整合，得到改進的auto-correlation模塊的輸出；

21、步驟5：利用訓(xùn)練集對構(gòu)建的double?fft?autoformer模型進行訓(xùn)練，并利用驗證集對double?fftautoformer模型的參數(shù)進行調(diào)整，得到訓(xùn)練完成的double?fftautoformer模型；

22、步驟6：將測試集輸入到訓(xùn)練完成的double?fftautoformer模型，得到預(yù)測的電力負載時間序列。

23、與現(xiàn)有技術(shù)相比較，本發(fā)明的有益效果為：

24、現(xiàn)有的auto-correlation機制通過自相關(guān)函數(shù)學(xué)習(xí)數(shù)據(jù)中的自相關(guān)信息，但是它為了提高計算效率，選擇削除一些重要性較低的信息，從而無法完整利用所有數(shù)據(jù)和其自相關(guān)性，本發(fā)明為了彌補這一不足，通過將auto-correlation函數(shù)重新推導(dǎo)成一個循環(huán)對稱矩陣和一個向量的乘積的形式，使其能使用fft算法加速計算，使得模型能完整地利用信息，并且在保持計算的時間復(fù)雜度的前提下提高預(yù)測的準確度。

技術(shù)特征：

1.一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，包括以下步驟：

2.根據(jù)權(quán)利要求1所述的一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，所述電力負載數(shù)據(jù)集中包括若干個樣本，每個樣本為一個時間序列，其中包括按照設(shè)定時間間隔獲取的若干個時間戳下的電力負載，同時按照設(shè)定預(yù)測步長b，對每個樣本進行劃分，將每個樣本中后b個時間戳下的電力負載作為標(biāo)簽。

3.根據(jù)權(quán)利要求1所述的一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，所述最大-最小歸一化的方法為：

4.根據(jù)權(quán)利要求3所述的一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，所述z-score歸一化的方法為：

5.根據(jù)權(quán)利要求1所述的一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，步驟4中所述double?fftautoformer模型將autoformer模型中的auto-correlation模塊替換為改進的auto-correlation模塊；

6.根據(jù)權(quán)利要求5所述的一種基于改進autoformer模型的電力負載時序預(yù)測方法，其特征在于，所述flip翻轉(zhuǎn)的方法為：將數(shù)據(jù)的順序翻轉(zhuǎn)，如果數(shù)據(jù)是向量，則翻轉(zhuǎn)后的向量中的每個元素的順序為翻轉(zhuǎn)前的向量中的每個元素的順序的倒序，如果數(shù)據(jù)是矩陣，則為將矩陣中所有行的順序翻轉(zhuǎn)。

技術(shù)總結(jié)
本發(fā)明公開一種基于改進Autoformer模型的電力負載時序預(yù)測方法，涉及時序預(yù)測領(lǐng)域。獲取電力負載數(shù)據(jù)集；對電力負載數(shù)據(jù)集進行預(yù)處理，得到預(yù)處理后的電力負載數(shù)據(jù)集；所述預(yù)處理包括最大?最小歸一化和Z?score歸一化；將預(yù)處理后的電力負載數(shù)據(jù)集按照設(shè)定比例劃分為訓(xùn)練集和測試集；構(gòu)建Double?FFTAutoformer模型；利用訓(xùn)練集對構(gòu)建的Double?FFT?Autoformer模型進行訓(xùn)練，并利用驗證集對Double?FFTAutoformer模型的參數(shù)進行調(diào)整，得到訓(xùn)練完成的Double?FFT?Autoformer模型；將測試集輸入到訓(xùn)練完成的Double?FFT?Autoformer模型，得到預(yù)測的時間序列。本發(fā)明為通過將Auto?Correlation函數(shù)重新推導(dǎo)成一個循環(huán)對稱矩陣和一個向量的乘積的形式，使其能使用FFT算法加速計算，使得模型能完整地利用信息，并且在保持計算的時間復(fù)雜度的前提下提高預(yù)測的準確度。

技術(shù)研發(fā)人員：孫慢,王哲,張國敬,崔玉潔,王海芳
受保護的技術(shù)使用者：東北大學(xué)秦皇島分校
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/26