本發(fā)明涉及ai(人工智能)大模型及網絡通信,尤其涉及一種流量轉發(fā)方法及裝置。
背景技術:
1、ai大模型網絡指的是支持大型人工智能模型訓練和運行的計算和通信基礎設施。
2、ai大模型網絡具有流量呈現(xiàn)周期性起伏,且數(shù)據流量大的特點,因而,實際組網中容易出現(xiàn)流量碰撞。
3、例如,當多個算力節(jié)點同時向同一leaf(葉子)節(jié)點下的算力節(jié)點發(fā)送流量時,在spine(脊柱)節(jié)點連接該leaf節(jié)點的下行端口處,容易出現(xiàn)流量碰撞,導致流量出現(xiàn)擁塞。
4、如何降低ai大模型網絡中流量擁塞的概率成為亟待解決的技術問題。
技術實現(xiàn)思路
1、本發(fā)明提供一種流量轉發(fā)方法及裝置,以解決現(xiàn)有ai大模型網絡中容易出現(xiàn)流量擁塞的問題。
2、根據本發(fā)明實施例的第一方面,提供一種流量轉發(fā)方法,包括:
3、轉發(fā)引擎在確定滿足信息上報條件的情況下,向處理器上報流統(tǒng)計信息;其中,對于轉發(fā)引擎上報的任一條流統(tǒng)計信息,該流統(tǒng)計信息包括流標識信息、首包時間戳、尾包時間戳以及報文字節(jié)數(shù);
4、對于包括的流標識信息相同的流統(tǒng)計信息,所述處理器依據首包時間戳和尾包時間戳,對間隔時長滿足預設合并條件的流統(tǒng)計信息進行合并處理;
5、所述處理器依據合并處理后的流統(tǒng)計信息確定流的周期信息;其中,流的周期信息包括流的周期時長、相鄰周期的流量間隔時長,以及,周期內的流量速率;
6、所述處理器依據所述流的周期信息,確定所述脊柱節(jié)點的下行端口的流特征信息,并將所述脊柱節(jié)點的下行端口的流特征信息發(fā)布給葉子節(jié)點,以使所述葉子節(jié)點依據所述脊柱節(jié)點的下行端口的流特征信息進行上行數(shù)據流調度;其中,所述流特征信息包括流創(chuàng)建時間以及流的周期信息。
7、根據本發(fā)明實施例的第二方面,提供一種流量轉發(fā)裝置,包括:處理器和轉發(fā)引擎;其中:
8、所述轉發(fā)引擎,用于在確定滿足信息上報條件的情況下,向處理器上報流統(tǒng)計信息;其中,對于轉發(fā)引擎上報的任一條流統(tǒng)計信息,該流統(tǒng)計信息包括流標識信息、首包時間戳、尾包時間戳以及報文字節(jié)數(shù);
9、所述處理器,用于對于包括的流標識信息相同的流統(tǒng)計信息,所述處理器依據首包時間戳和尾包時間戳,對間隔時長滿足預設合并條件的流統(tǒng)計信息進行合并處理;
10、所述處理器,還用于依據合并處理后的流統(tǒng)計信息確定流的周期信息;其中,流的周期信息包括流的周期時長、相鄰周期的流量間隔時長,以及,周期內的流量速率;
11、所述處理器,還用于依據所述流的周期信息,確定所述脊柱節(jié)點的下行端口的流特征信息,并將所述脊柱節(jié)點的下行端口的流特征信息發(fā)布給葉子節(jié)點,以使所述葉子節(jié)點依據所述脊柱節(jié)點的下行端口的流特征信息進行上行數(shù)據流調度;其中,所述流特征信息包括流創(chuàng)建時間以及流的周期信息。
12、應用本發(fā)明公開的技術方案,轉發(fā)引擎在確定滿足信息上報條件的情況下,向處理器上報流統(tǒng)計信息;對于包括的流標識信息相同的流統(tǒng)計信息,處理器依據首包時間戳和尾包時間戳,對間隔時長滿足預設合并條件的流統(tǒng)計信息進行合并處理,并依據合并處理后的流統(tǒng)計信息確定流的周期信息,進而,處理器可以依據流的周期信息,確定脊柱節(jié)點的下行端口的流特征信息,并將脊柱節(jié)點的下行端口的流特征信息發(fā)布給葉子節(jié)點,以使葉子節(jié)點依據脊柱節(jié)點的下行端口的流特征信息進行上行數(shù)據流調度,降低了ai大模型網絡中流量擁塞的概率。
1.一種流量轉發(fā)方法,其特征在于,包括:
2.根據權利要求1所述的方法,其特征在于,所述滿足信息上報條件包括:
3.根據權利要求1所述的方法,其特征在于,所述處理器依據首包時間戳和尾包時間戳,對間隔時長滿足預設合并條件的流統(tǒng)計信息進行合并處理,包括:
4.根據權利要求1所述的方法,其特征在于,所述處理器依據合并處理后的流統(tǒng)計信息確定流的周期信息,包括:
5.根據權利要求1所述的方法,其特征在于,所述處理器依據所述流的周期信息,確定所述脊柱節(jié)點的下行端口的流特征信息,包括:
6.一種流量轉發(fā)裝置,其特征在于,包括:處理器和轉發(fā)引擎;其中:
7.根據權利要求6所述的裝置,其特征在于,所述滿足信息上報條件包括:
8.根據權利要求6所述的裝置,其特征在于,所述處理器依據首包時間戳和尾包時間戳,對間隔時長滿足預設合并條件的流統(tǒng)計信息進行合并處理,包括:
9.根據權利要求6所述的裝置,其特征在于,所述處理器依據合并處理后的流統(tǒng)計信息確定流的周期信息,包括:
10.根據權利要求6所述的裝置,其特征在于,所述處理器依據所述流的周期信息,確定所述脊柱節(jié)點的下行端口的流特征信息,包括: