本公開內(nèi)容總體上涉及矩陣計算，并且具體地涉及矩陣的空間局部變換。

背景技術(shù)：

1、現(xiàn)代神經(jīng)網(wǎng)絡(luò)包括多個層。每一層可以包括大量的輸入值，這些輸入值隨后被變換以生成輸出(即，激活)，輸出用作后續(xù)層的輸入。通常，這些輸入值和輸出值被表示為矩陣(例如，具有一維至多維的值的陣列)。對這些輸入值執(zhí)行的常見變換是卷積。卷積將核應(yīng)用于輸入中的相鄰值以生成輸出值，核包括權(quán)重值并且還可以被表示為矩陣。對輸入中的所有值重復(fù)該操作(如通過權(quán)重進(jìn)行修改)，以生成一組輸出值。然而，由于核因必須多次讀入相鄰值而將多次跨過或滑過相同的輸入值以生成多個輸出，因此使用樸素的方法執(zhí)行時在計算上會非常昂貴。

2、因此，期望如下系統(tǒng)，其能夠更有效地計算通過核的權(quán)重修改的輸入值的卷積以生成輸出值。

技術(shù)實現(xiàn)思路

技術(shù)特征：

1.一種方法，包括：

2.根據(jù)權(quán)利要求1所述的方法，其中，所述核是三維3d矩陣，并且其中，所述擴(kuò)展核包括多個平行向量，所述多個平行向量中的每個向量是所述核中的元素的不同旋轉(zhuǎn)排列，所述擴(kuò)展核是方形矩陣，所述方形矩陣的每個維度的尺寸等于所述核的維度的值的乘積。

3.根據(jù)權(quán)利要求1所述的方法，其中，所述核是三維3d矩陣，并且其中，所述擴(kuò)展核包括：

4.根據(jù)權(quán)利要求1所述的方法，其中，所述核是三維3d矩陣，并且所述擴(kuò)展核包括：

5.根據(jù)權(quán)利要求1所述的方法，其中，每個單維向量是獨特的向量，所述獨特的向量是所述核的行、所述核的列、所述核的對角線和所述核的通道中至少之一，并且其中，所述核的通道是所述核的沿著與所述核的深度對應(yīng)的軸對準(zhǔn)的向量。

6.根據(jù)權(quán)利要求1所述的方法，其中，所述核包括多個核過濾器，并且所述方法還包括：

7.根據(jù)權(quán)利要求6所述的方法，其中，所述多個擴(kuò)展核中的每個擴(kuò)展核用于對展平的輸入流的一個或更多個通道進(jìn)行卷積，所述展平的輸入流是輸入張量的展平的版本。

8.根據(jù)權(quán)利要求1所述的方法，其中，所述擴(kuò)展核與具有一個或更多個通道的輸入張量的卷積的輸出生成多個輸出，所述多個輸出中的每個輸出被組合成單個輸出激活。

9.根據(jù)權(quán)利要求1所述的方法，還包括：

10.根據(jù)權(quán)利要求1所述的方法，其中，所述擴(kuò)展核是二維方形矩陣，所述二維方形矩陣的長度等于用于生成所述擴(kuò)展核的相應(yīng)核的維度的尺寸的乘積。

11.一種系統(tǒng)，包括：

12.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述核是三維3d矩陣，并且其中，所述擴(kuò)展核包括多個平行向量，所述多個平行向量中的每個向量是所述核中的元素的不同旋轉(zhuǎn)排列，所述擴(kuò)展核是方形矩陣，所述方形矩陣的每個維度的尺寸等于所述核的維度的值的乘積。

13.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述核是三維3d矩陣，并且其中，所述擴(kuò)展核包括：

14.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述核是三維3d矩陣，并且所述擴(kuò)展核包括：

15.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，每個單維向量是獨特的向量，所述獨特的向量是所述核的行、所述核的列、所述核的對角線和所述核的通道中至少之一，并且其中，所述核的通道是所述核的沿著與所述核的深度對應(yīng)的軸對準(zhǔn)的向量。

16.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述核包括多個核過濾器，并且其中，所述擴(kuò)展核生成器還被配置成：

17.根據(jù)權(quán)利要求16所述的系統(tǒng)，其中，所述多個擴(kuò)展核中的每個擴(kuò)展核用于對展平的輸入流的一個或更多個通道進(jìn)行卷積，所述展平的輸入流是所述輸入張量的展平的版本。

18.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述擴(kuò)展核與具有一個或更多個通道的輸入張量的卷積的輸出生成多個輸出，所述多個輸出中的每個輸出被組合成單個輸出激活。

19.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述擴(kuò)展核生成器還被配置成：

20.根據(jù)權(quán)利要求11所述的系統(tǒng)，其中，所述擴(kuò)展核是二維方形矩陣，所述二維方形矩陣的長度等于用于生成所述擴(kuò)展核的相應(yīng)核的維度的尺寸的乘積。

技術(shù)總結(jié)
本申請公開了矩陣的空間局部變換。一種方法包括：在移位器電路處接收核；對于核的第一維度，由移位器電路生成核的每個單維向量的方形值塊，方形值塊包括單維向量的所有旋轉(zhuǎn)；對于核的多個附加維度中的每個附加維度：由移位器電路將緊接在前的一個維度的塊分組成塊集合，每個塊集合包括緊接在前的一個維度的沿著與每個附加維度的軸平行的向量對準(zhǔn)的塊；由移位器電路生成一個或更多個值塊，每個塊包括緊接在前的一個維度的塊集合中的每個塊集合內(nèi)的塊的所有旋轉(zhuǎn)；以及由移位器電路輸出與核的附加維度中的剩余維度對應(yīng)的值塊，作為用于在耦接至移位器電路的乘法器電路處與輸入張量進(jìn)行卷積的擴(kuò)展核。

技術(shù)研發(fā)人員：喬納森·亞歷山大·羅斯,托馬斯·霍金斯,格雷戈里·邁克爾·索爾森,馬特·博伊德
受保護(hù)的技術(shù)使用者：格羅克公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/19