數(shù)據(jù)挖掘方法和節(jié)點的制作方法
【技術(shù)領(lǐng)域】
[0001] 本發(fā)明實施例涉及通信技術(shù)，尤其涉及一種數(shù)據(jù)挖掘方法和節(jié)點。
【背景技術(shù)】
[0002] 大數(shù)據(jù)化ig data),或稱巨量資料，指的是所涉及的資料量規(guī)模巨大到無法通過 常規(guī)軟件工具，在合理時間內(nèi)達到揃取、管理、處理、并整理的數(shù)據(jù)集合。隨著云時代的來 臨，大數(shù)據(jù)度ig data)吸引了越來越多的關(guān)注，而如何從大數(shù)據(jù)中獲取有用的信息和知識 就成了業(yè)界關(guān)注的焦點。數(shù)據(jù)挖掘值ata Mining),就是一種從大量的數(shù)據(jù)中通過算法搜索 隱藏于其中信息的技術(shù)，數(shù)據(jù)挖掘通常通過統(tǒng)計、在線分析處理、情報檢索、機器學(xué)習(xí)、專家 系統(tǒng)（依靠過去的經(jīng)驗法則）和模式識別等諸多方法來實現(xiàn)上述目標(biāo)。
[0003] 在數(shù)據(jù)挖掘過程中通常需要對海量數(shù)據(jù)進行建模分析，常見的建模方法包括迭代 的機器學(xué)習(xí)算法，例如線性回歸、邏輯回歸、神經(jīng)網(wǎng)絡(luò)和決策樹，通過對數(shù)據(jù)重復(fù)執(zhí)行一個 學(xué)習(xí)流程，不斷更新數(shù)據(jù)挖掘任務(wù)的特定參數(shù)。每次完成一輪迭代計算時，對生成的臨時模 型的效果進行評估，滿足一定條件時結(jié)束迭代過程；否則重復(fù)執(zhí)行迭代過程。
[0004] 然而由于大數(shù)據(jù)具有數(shù)據(jù)量大的特點，通常達到TBQTB = 1012B)或者PBQPB = 1000TB)級別，超出民用計算機的計算能力，所W通常使用高性能計算機和分布式集群進行 批量處理。即將大數(shù)據(jù)的挖掘任務(wù)在分布式集群計算環(huán)境中執(zhí)行上述的迭代算法，每一輪 迭代計算任務(wù)被分配到各個計算子節(jié)點，當(dāng)計算子節(jié)點完成各自的計算任務(wù)時，將所有子 節(jié)點的臨時結(jié)果匯總，并且對得到的合并模型的效果進行評估，滿足一定條件時結(jié)束迭代 過程；否則將新的計算任務(wù)重新分配到各個計算子節(jié)點，重復(fù)迭代過程。
[0005] 由于分布式集群各計算子節(jié)點可能出現(xiàn)的計算能力不一致的問題，導(dǎo)致計算資源 不能得到充分利用，降低計算效率。因此為了提高整個挖掘系統(tǒng)的性能，在一種現(xiàn)有技術(shù) 中，采用了一種負載均衡技術(shù)，在執(zhí)行每一輪迭代任務(wù)時，根據(jù)計算子節(jié)點的負載情況動 態(tài)的調(diào)整各計算子節(jié)點上的任務(wù)量，比如在執(zhí)行迭代任務(wù)的過程中，當(dāng)發(fā)現(xiàn)有的計算子節(jié) 點迭代任務(wù)已完成，有的未完成時，則認為已完成任務(wù)的節(jié)點為空閑節(jié)點，未完成任務(wù)的節(jié) 點為過載節(jié)點，此時將過載節(jié)點的一部分任務(wù)數(shù)據(jù)轉(zhuǎn)移至空閑節(jié)點。但是，上述現(xiàn)有技術(shù) 中，由于每個計算子節(jié)點的每一輪迭代的輸入的任務(wù)數(shù)據(jù)量是不變的，因此在每一輪迭任 務(wù)中的負載均衡對于下一輪迭代而言是獨立的，也就是說在執(zhí)行下一輪迭代任務(wù)時，需要 再次進行負載均衡，由于負載均衡需要在各個節(jié)點之間轉(zhuǎn)移數(shù)據(jù)，送就增加了不必要的網(wǎng) 絡(luò)開銷，降低系統(tǒng)的數(shù)據(jù)挖掘性能。

【發(fā)明內(nèi)容】

[0006] 本發(fā)明實施例提供一種數(shù)據(jù)挖掘方法和節(jié)點，能夠降低網(wǎng)絡(luò)開銷，提高系統(tǒng)的數(shù) 據(jù)挖掘性能。
[0007] 第一方面，本發(fā)明實施例提供一種中必節(jié)點，應(yīng)用于數(shù)據(jù)挖掘系統(tǒng)，所述中必節(jié)點 包括：
[0008] 時間獲取單元，用于獲取第N輪迭代任務(wù)中，每個計算子節(jié)點的預(yù)計執(zhí)行時間；
[0009] 分配單元，用于根據(jù)每個計算子節(jié)點的預(yù)計執(zhí)行時間為每個計算子節(jié)點重分配任 務(wù)數(shù)據(jù)；其中，所述任務(wù)數(shù)據(jù)為已獲取的待挖掘的樣本數(shù)據(jù)集的部分或全部數(shù)據(jù)；
[0010] 信息獲取單元，用于在每個計算子節(jié)點根據(jù)分配的任務(wù)數(shù)據(jù)完成所述第N輪迭代 任務(wù)后，若迭代任務(wù)未結(jié)束，則獲取所述第N輪迭代任務(wù)中每個計算子節(jié)點的執(zhí)行情況信 息；
[0011] 第一判斷單元，用于根據(jù)每個計算子節(jié)點的執(zhí)行情況信息判斷第N+1輪迭代任務(wù) 是否需要進行負載均衡，若需要進行負載均衡，則將N的值加1后重復(fù)執(zhí)行所述獲取第N輪 迭代任務(wù)中，每個計算子節(jié)點的預(yù)計執(zhí)行時間至所述根據(jù)每個計算子節(jié)點的執(zhí)行情況信息 判斷第N+1輪迭代任務(wù)是否需要進行負載均衡的步驟；若不需要進行負載均衡，則使每個 計算子節(jié)點按照第N輪迭代任務(wù)中為該計算子節(jié)點分配的任務(wù)數(shù)據(jù)執(zhí)行所述第N+1輪迭代 任務(wù)，其中，N為正整數(shù)，N的起始值為1。
[0012] 結(jié)合第一方面，在第一種可能的實現(xiàn)方式中，當(dāng)N等于1時，所述時間獲取單元具 體用于：
[0013] 根據(jù)所述樣本數(shù)據(jù)集的分布特征參數(shù)和每個計算子節(jié)點的計算資源獲取每個計 算子節(jié)點的預(yù)計執(zhí)行時間；
[0014] 其中，所述本數(shù)據(jù)集的分布特征參數(shù)包括：所述本數(shù)據(jù)集中各個數(shù)據(jù)的相同字段 下的取值的平均值、方差、取值范圍、不同取值的個數(shù)；
[0015] 每個計算子節(jié)點的計算資源包括；該計算子節(jié)點的CPU頻率、內(nèi)存容量中的至少 一種。
[0016] 結(jié)合第一方面，在第二種可能的實現(xiàn)方式中，當(dāng)N大于1時，所述時間獲取單元具 體用于：
[0017] 將每個計算子節(jié)點執(zhí)行第N-1輪迭代任務(wù)的實際執(zhí)行時間作為所述第N輪迭代任 務(wù)中該計算子節(jié)點的預(yù)計執(zhí)行時間。
[0018] 結(jié)合第一方面至第一方面的第二種可能的實現(xiàn)方式中的任意一種，在第Η種可能 的實現(xiàn)方式中，所述分配單元包括：
[0019] 節(jié)點選擇單元，用于確定預(yù)計執(zhí)行時間大于標(biāo)準(zhǔn)執(zhí)行時間計算子節(jié)點，作為過載 節(jié)點，并確定預(yù)計執(zhí)行時間小于標(biāo)準(zhǔn)執(zhí)行時間計算子節(jié)點，作為空閑節(jié)點；
[0020] 移出任務(wù)量確定單元，用于根據(jù)每個過載節(jié)點的預(yù)計執(zhí)行時間W及標(biāo)準(zhǔn)執(zhí)行時 間，獲取每個過載節(jié)點的任務(wù)遷移比例，并根據(jù)每個過載節(jié)點的任務(wù)遷移比例獲取每個過 載節(jié)點需要移出的任務(wù)數(shù)據(jù)量；
[0021] 移入任務(wù)量確定單元，用于根據(jù)每個空閑節(jié)點的預(yù)計執(zhí)行時間W及所述標(biāo)準(zhǔn)執(zhí)行 時間，獲取每個空閑節(jié)點的可移入任務(wù)比例，并根據(jù)每個空閑節(jié)點的可移入任務(wù)比例獲取 每個空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量；
[0022] 轉(zhuǎn)移單元，用于按照過載節(jié)點的預(yù)計執(zhí)行時間由大到小的順序，依次將每個過載 節(jié)點的任務(wù)數(shù)據(jù)按照該過載節(jié)點對應(yīng)的需要移出的任務(wù)數(shù)據(jù)量移出，并將移出的任務(wù)數(shù)據(jù) 按照空閑節(jié)點的預(yù)計執(zhí)行時間由小到大的順序，按照每個空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量 依次移入到至少一個空閑節(jié)點中，直至所有過載節(jié)點需要移出的任務(wù)數(shù)據(jù)都遷移完成。
[0023] 結(jié)合第一方面的第Η種可能的實現(xiàn)方式，在第四種可能的實現(xiàn)方式中，
[0024] 所述移出任務(wù)量確定單元具體用于：
[0025] 將每個過載節(jié)點的預(yù)計執(zhí)行時間與所述標(biāo)準(zhǔn)執(zhí)行時間之差除W所述標(biāo)準(zhǔn)執(zhí)行時 間，得到該過載節(jié)點的任務(wù)遷移比例；
[0026] 將每個過載節(jié)點上已存儲任務(wù)數(shù)據(jù)的任務(wù)數(shù)據(jù)量乘W該過載節(jié)點的任務(wù)遷移比 例，得到該過載節(jié)點需要移出的任務(wù)數(shù)據(jù)量；
[0027] 所述移入任務(wù)量確定單元具體用于：
[0028] 將每個空閑節(jié)點的預(yù)計執(zhí)行時間與所述標(biāo)準(zhǔn)執(zhí)行時間之差的絕對值除W所述標(biāo) 準(zhǔn)執(zhí)行時間，得到該過空閑點的可移入任務(wù)比例；
[0029] 將每個空閑節(jié)點上已存儲任務(wù)數(shù)據(jù)的任務(wù)數(shù)據(jù)量乘W該空閑節(jié)點的可移入任務(wù) 比例，得到該空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量。
[0030] 結(jié)合第一方面至第一方面的第四種可能的實現(xiàn)方式中的任意一種，在第五種可能 的實現(xiàn)方式中，所述第N輪迭代任務(wù)中每個計算子節(jié)點的執(zhí)行情況信息包括；每個計算子 節(jié)點在所述第N輪迭代任務(wù)中的實際執(zhí)行時間、計算資源使用率、任務(wù)數(shù)據(jù)量中的至少一 種；
[0031] 其中，所述計算資源使用率包括；CPU使用率、內(nèi)存使用率中的至少一種。
[0032] 結(jié)合第一方面的第五種可能的實現(xiàn)方式，在第六種可能的實現(xiàn)方式中，所述第一 判斷單元具體用于：
[0033] 確定在第N輪迭代任務(wù)中，所有計算子節(jié)點中實際執(zhí)行時間最長的計算子節(jié)點， 和實際執(zhí)行時間最短的計算子節(jié)點；
[0034] 獲取所述實際執(zhí)行時間最長的計算子節(jié)點與所述實際執(zhí)行時間最短的計算子節(jié) 點之間的實際執(zhí)行時間差異率；
[0035] 將所述時間差異率與預(yù)設(shè)差異率闊值進行比較，若所述時間差異率小于或等于所 述預(yù)設(shè)差異率闊值，則確定第N+1輪迭代任務(wù)不需要進行負載均衡；若所述時間差異率大 于所述預(yù)設(shè)差異率闊值，則確定第N+1輪迭代任務(wù)需要進行負載均衡。
[0036] 結(jié)合第一方面至第一方面的第六種可能的實現(xiàn)方式中的任意一種，在第走種可能 的實現(xiàn)方式中，所述中必節(jié)點還包括：第二判斷單元，具體用于：
[0037] 在每個計算子節(jié)點完成所述第N輪迭代任務(wù)后，判斷N是否等于預(yù)設(shè)的最大迭代 數(shù)，若N小于所述最大迭代數(shù)，則確定所述迭代任務(wù)未結(jié)束；若N等于所述最大迭代數(shù)，則確 定所述迭代任務(wù)結(jié)束；
[0038] 或者，
[0039] 在每個計算子節(jié)點完成所述第N輪迭代任務(wù)后，判斷所述第N輪迭代的輸出結(jié)果 是否滿足收斂條件；若不滿足所述收斂條件，則確定所述迭代任務(wù)未結(jié)束，若滿足所述收斂 條件，則確定所述迭代任務(wù)結(jié)束。
[0040] 第二方面，本發(fā)明實施例提供另一種中必節(jié)點，應(yīng)用于數(shù)據(jù)挖掘系統(tǒng)，所述中必節(jié) 點包括：
[0041] 時間獲取單元，用于根據(jù)時間學(xué)習(xí)模型獲取第N輪迭代任務(wù)中，每個計算子節(jié)點 的預(yù)計執(zhí)行時間；
[0042] 第一判斷單元，用于根據(jù)每個計算子節(jié)點的預(yù)計執(zhí)行時間判斷所述第N輪迭代任 務(wù)是否需要進行負載均衡；
[0043] 分配單元，用于當(dāng)需要進行負載均衡時，根據(jù)每個計算子節(jié)點的預(yù)計執(zhí)行時間為 每個計算子節(jié)點重分配任務(wù)數(shù)據(jù)；當(dāng)不需要進行負載均衡時，不為每個計算子節(jié)點重分配 任務(wù)數(shù)據(jù)；其中，所述任務(wù)數(shù)據(jù)為已獲取的待挖掘的樣本數(shù)據(jù)集的部分或全部數(shù)據(jù)；
[0044] 信息獲取單元，用于在每個計算子節(jié)點根據(jù)分配的任務(wù)數(shù)據(jù)完成所述第N輪迭代 任務(wù)后，獲取所述第N輪迭代任務(wù)中每個計算子節(jié)點的執(zhí)行情況信息；
[0045] 更新單元，用于根據(jù)每個計算子節(jié)點的執(zhí)行情況信息更新所述時間學(xué)習(xí)模型的訓(xùn) 練參數(shù)，若所述迭代任務(wù)未結(jié)束，則將N的值加1后利用更新后的時間學(xué)習(xí)模型重復(fù)執(zhí)行所 述根據(jù)時間學(xué)習(xí)模型獲取第N輪迭代任務(wù)中，每個計算子節(jié)點的預(yù)計執(zhí)行時間至所述根據(jù) 每個計算子節(jié)點的執(zhí)行情況信息更新所述時間學(xué)習(xí)模型的步驟。
[0046] 結(jié)合第二方面，在第一種可能的實現(xiàn)方式中，所述時間學(xué)習(xí)模型是根據(jù)實際執(zhí)行 時間、計算資源使用率、歷史任務(wù)數(shù)據(jù)量中的至少一個參數(shù)建立的。
[0047] 結(jié)合第二方面的第一種可能的實現(xiàn)方式，在第二種可能的實現(xiàn)方式中，所述時間 學(xué)習(xí)模型包括：
[0048] 計算子節(jié)點i在第N輪迭代任務(wù)中的預(yù)計執(zhí)行時間=a*計算子節(jié)點i在第N-1 輪迭代任務(wù)中的實際執(zhí)行時間+b*計算子節(jié)點i在第N-1輪迭代任務(wù)中的計算資源使用率 +C*計算子節(jié)點i在第N-1輪迭代任務(wù)中的歷史數(shù)據(jù)任務(wù)量+C ;
[0049] 其中，a為執(zhí)行時間訓(xùn)練參數(shù)，b為計算資源使用率訓(xùn)練參數(shù)，C為歷史任務(wù)量訓(xùn)練 參數(shù)，C為訓(xùn)練常量，i為正整數(shù)；計算資源使用率包括CPU時用力、內(nèi)存使用率中的至少一 種，所述計算子節(jié)點i在第N-1輪迭代任務(wù)中的歷史數(shù)據(jù)任務(wù)量為所述計算子節(jié)點i在第 N-1輪迭代任務(wù)中的分配的任務(wù)數(shù)據(jù)量。
[0050] 結(jié)合第二方面至第二方面的第二種可能的實現(xiàn)方式中的任意一種，在第Η種可能 的實現(xiàn)方式中，所述第一判斷單元具體用于：
[0051] 確定在第Ν輪迭代任務(wù)中，所有計算子節(jié)點中預(yù)計執(zhí)行時間最長的計算子節(jié)點， 和預(yù)計執(zhí)行時間最短的計算子節(jié)點；
[0052] 獲取所述預(yù)計執(zhí)行時間最長的計算子節(jié)點與所述預(yù)計執(zhí)行時間最短的計算子節(jié) 點之間的預(yù)計執(zhí)行時間差異率；
[0053] 將所述時間差異率與預(yù)設(shè)差異率闊值進行比較，若所述時間差異率小于或等于所 述預(yù)設(shè)差異率闊值，則確定第Ν輪迭代任務(wù)不需要進行負載均衡；若所述時間差異率大于 所述預(yù)設(shè)差異率闊值，則確定第Ν輪迭代任務(wù)需要進行負載均衡。
[0054] 結(jié)合第二方面至第二方面的第Η種可能的實現(xiàn)方式中的任意一種，在第四種可能 的實現(xiàn)方式中，所述分配單元包括：
[0055] 節(jié)點選擇單元，用于確定預(yù)計執(zhí)行時間大于標(biāo)準(zhǔn)執(zhí)行時間計算子節(jié)點，作為過載 節(jié)點，并確定預(yù)計執(zhí)行時間小于標(biāo)準(zhǔn)執(zhí)行時間計算子節(jié)點，作為空閑節(jié)點；
[0056] 移出任務(wù)量確定單元，用于根據(jù)每個過載節(jié)點的預(yù)計執(zhí)行時間W及標(biāo)準(zhǔn)執(zhí)行時 間，獲取每個過載節(jié)點的任務(wù)遷移比例，并根據(jù)每個過載節(jié)點的任務(wù)遷移比例獲取每個過 載節(jié)點需要移出的任務(wù)數(shù)據(jù)量；
[0057] 移入任務(wù)量確定單元，用于根據(jù)每個空閑節(jié)點的預(yù)計執(zhí)行時間W及所述標(biāo)準(zhǔn)執(zhí)行 時間，獲取每個空閑節(jié)點的可移入任務(wù)比例，并根據(jù)每個空閑節(jié)點的可移入任務(wù)比例獲取 每個空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量；
[0058] 轉(zhuǎn)移單元，用于按照過載節(jié)點的預(yù)計執(zhí)行時間由大到小的順序，依次將每個過載 節(jié)點的任務(wù)數(shù)據(jù)按照該過載節(jié)點對應(yīng)的需要移出的任務(wù)數(shù)據(jù)量移出，并將移出的任務(wù)數(shù)據(jù) 按照空閑節(jié)點的預(yù)計執(zhí)行時間由小到大的順序，按照每個空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量 依次移入到至少一個空閑節(jié)點中，直至所有過載節(jié)點需要移出的任務(wù)數(shù)據(jù)都遷移完成。
[0059] 結(jié)合第二方面的第四種可能的實現(xiàn)方式，在第五種可能的實現(xiàn)方式中，
[0060] 所述移出任務(wù)量確定單元具體用于：
[0061] 將每個過載節(jié)點的預(yù)計執(zhí)行時間與所述標(biāo)準(zhǔn)執(zhí)行時間之差除W所述標(biāo)準(zhǔn)執(zhí)行時 間，得到該過載節(jié)點的任務(wù)遷移比例；
[0062] 將每個過載節(jié)點上已存儲任務(wù)數(shù)據(jù)的任務(wù)數(shù)據(jù)量乘W該過載節(jié)點的任務(wù)遷移比 例，得到該過載節(jié)點需要移出的任務(wù)數(shù)據(jù)量；
[0063] 所述移入任務(wù)量確定單元具體用于：
[0064] 將每個空閑節(jié)點的預(yù)計執(zhí)行時間與所述標(biāo)準(zhǔn)執(zhí)行時間之差的絕對值除W所述標(biāo) 準(zhǔn)執(zhí)行時間，得到該過空閑點的可移入任務(wù)比例；
[0065] 將每個空閑節(jié)點上已存儲任務(wù)數(shù)據(jù)的任務(wù)數(shù)據(jù)量乘W該空閑節(jié)點的可移入任務(wù) 比例，得到該空閑節(jié)點的可移入的任務(wù)數(shù)據(jù)量。
[0066] 結(jié)合第二方面至第二方面的第五種可能的實現(xiàn)方式中的任意一種，在第六種可能 的實現(xiàn)方式中，所述第N輪迭代任務(wù)中每個計算子節(jié)點的執(zhí)行情況信息包括；每個計算子 節(jié)點在所述第N輪迭代任務(wù)中的實際執(zhí)行時間、計算資源使用率、任務(wù)數(shù)據(jù)量中的至少一 種；
[0067] 其中，所述計算資源使用率包括；CPU使用率、內(nèi)存使用率中的至少一種。
[0068] 結(jié)合第二方面的第一種可能的實現(xiàn)方式，在第走種可能的實現(xiàn)方式中，所述更新 單元具體用于：
[0069] 根據(jù)每個計算子節(jié)點的執(zhí)行情況信息更新所述時間學(xué)習(xí)模型的執(zhí)行時間訓(xùn)練參 數(shù)、計算資源使用率訓(xùn)練參數(shù)、歷史任務(wù)數(shù)據(jù)量訓(xùn)練參數(shù)中的至少一個參數(shù)。
[0070] 結(jié)合第二方面至第二方面的第走種可能的實現(xiàn)方式中的任意一種，在第八種可能 的實現(xiàn)方式中，所述中必節(jié)點還包括：第二判斷單元，具體用于：
[0071] 在每個計算子節(jié)點完成所述第N輪迭代任務(wù)后，判斷N是否等于預(yù)設(shè)的最大迭代 數(shù)，若N小于所述最大迭代數(shù)，則確定所述迭代任務(wù)未結(jié)束；若N等于所述最大迭代數(shù)，則確 定所述迭代任務(wù)結(jié)束；
[007引 或者，
[0073] 在每個計算子節(jié)點完成所述第N輪迭代任務(wù)后，判斷所述第N輪迭代的輸出結(jié)果 是否滿足收斂條件；若不滿足所述收斂條件，則確定所述迭代任務(wù)未結(jié)束，若滿足所述收斂 條件，則確定所述迭代任務(wù)結(jié)束。
[0074] 第Η方面，提供一種數(shù)據(jù)挖掘系統(tǒng)，所述系統(tǒng)包括：
[00巧]上述第一方面至第二方面的第八種可能的實現(xiàn)方式中任一所述的中必節(jié)點，W及 至少兩個計算子節(jié)點。
[0076] 第四方面，提供一種數(shù)據(jù)挖掘方法，所述方法包括：
[0077] 獲取第Ν輪迭代任務(wù)中，每個計算子節(jié)點的預(yù)計執(zhí)行時間；
[0078] 根據(jù)每個計算子節(jié)點的預(yù)計執(zhí)行時間為每個計算子節(jié)點重分配任務(wù)數(shù)據(jù)；其中， 所述任務(wù)數(shù)據(jù)為已獲取的待挖掘的樣本數(shù)據(jù)集的部分或全部數(shù)據(jù)；
[0079] 在每個計算子節(jié)點根據(jù)分配的任務(wù)數(shù)據(jù)完成所述第N輪迭代任務(wù)后，若迭代任務(wù) 未結(jié)束，則獲取所述第N輪迭代任務(wù)中每個計算子節(jié)點的執(zhí)行情況信息；
[0080] 根據(jù)每個計算子節(jié)點的執(zhí)行情況信息判斷第N+1輪迭代任務(wù)是否需要進行負載 均衡，若需要進行負載均衡，則將N的值加1后重復(fù)執(zhí)行所述獲取第N輪迭代任務(wù)中，每個 計算子節(jié)點的預(yù)計執(zhí)行時間至所述根據(jù)每個計算子節(jié)點的執(zhí)行情況信息判斷第N+1輪迭 代任務(wù)是否需要進行負載均衡的步驟；若不需要進行負載均衡，則使每個計算子節(jié)點按照 第N輪迭代任務(wù)中為該計算子節(jié)點分配的任務(wù)數(shù)據(jù)執(zhí)行所述第N+1輪迭代任務(wù)，其中，N為 正整數(shù)，N的起始值為1。
[0081] 結(jié)合第四方面