本發(fā)明的實施例總體上涉及機器學習領域，并且更具體地，涉及用于混合模型選擇的方法和裝置。

背景技術：

混合模型(mixture model)是一種使用混合分布用于密度估計的概率模型，其可以表示一個大群體中存在子群體?；旌夏Ｐ涂梢园ǘ喾N模型，例如高斯混合模型、分段線性混合模型等，這些模型已被廣泛應用于多種領域，諸如文檔分類、手寫識別、模糊圖像分割等。

在實踐中，混合模型的模型選擇是一個非常重要而又具有挑戰(zhàn)性的問題。業(yè)界已經(jīng)提出了一些方法來進行混合模型的模型選擇，其中變分推理(variational inference)是一種比較有效的方法，其試圖給出邊際對數(shù)似然的解析近似。然而，變分推理對于初始化較為敏感，如果初始化不適當，則變分推理的效果可能會變得很差，從而無法準確地選擇模型。因此，初始化已經(jīng)成為影響變分推理的精度和效率的重要因素。

目前，變分推理的初始化方法例如可以包括隨機初始化、基于聚類的初始化等等。然而，隨機初始化通常需要嘗試大量的初始化樣本來實現(xiàn)，處理耗時較長，從而會造成模型選擇的速度較慢。另外，基于聚類的初始化對于以聚類為目標的混合模型(例如，高斯混合模型)可能是比較有效的，但是對于以回歸/分類為目標的混合模型而言并不適合使用，所以基于聚類的初始化通用性較低。

因此，需要一種更為通用且高效的初始化方案來實現(xiàn)混合模型選擇。

技術實現(xiàn)要素：

總體上，本發(fā)明的實施例提出一種用于混合模型選擇的技術方案。

在本發(fā)明的一個方面，提供一種用于混合模型選擇的方法。所述方法包括：基于訓練樣本集來確定候選模型；基于候選模型的第一初始化隱變量和更新隱變量中的至少一個，生成第二初始化隱變量的集合，其中候選模型根據(jù)第一初始化隱變量而生成，并且更新隱變量表示候選模型輸出的樣本分組結果；以及基于第二初始化隱變量的集合來確定目標模型。

在本發(fā)明的另一方面，提供一種用于混合模型選擇的裝置。裝置包括：候選模型確定單元，被配置為基于訓練樣本集來確定候選模型；生成單元，被配置為基于候選模型的第一初始化隱變量和更新隱變量中的至少一個，生成第二初始化隱變量的集合，其中候選模型根據(jù)第一初始化隱變量而生成，并且更新隱變量表示候選模型輸出的樣本分組結果；以及目標模型確定單元，被配置為基于第二初始化隱變量的集合來確定目標模型。

根據(jù)本發(fā)明的實施例，通過基于性能較優(yōu)的候選模型的初始化隱變量和更新隱變量來生成新的初始化隱變量，繼而基于新的初始化隱變量來得到新的模型，這并不局限于某種特定混合模型類型。因此，根據(jù)本發(fā)明的方案具有良好的通用性。本發(fā)明的其他特征和優(yōu)點將通過下文描述而變得容易理解。

附圖說明

通過結合附圖對本發(fā)明示例性實施方式進行更詳細的描述，本發(fā)明的上述以及其它目的、特征和優(yōu)勢將變得更加明顯.其中：

圖1示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法的示意性流程圖；

圖2示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法的示意性流程圖；

圖3A示出了根據(jù)本發(fā)明實施例的用于確定目標初始化隱變量的 集合的方法的示意性流程圖；

圖3B示出了根據(jù)本發(fā)明實施例的用于確定目標初始化隱變量的集合的方法的示意性流程圖；

圖4示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法的一個圖形化表示的示意圖；

圖5示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的裝置的示意性框圖；以及

圖6示出了適于用來實現(xiàn)本發(fā)明實施例的示例性計算機系統(tǒng)的示意性框圖。

在附圖中，相同或相似的標號被用來表示相同或相似的元素。

具體實施方式

下面將參照附圖更詳細地描述本公開的優(yōu)選實施方式。雖然附圖中顯示了本公開的優(yōu)選實施方式，然而應該理解，可以以各種形式實現(xiàn)本公開而不應被這里闡述的實施方式所限制。相反，提供這些實施方式是為了使本公開更加透徹和完整，并且能夠將本公開的范圍完整地傳達給本領域的技術人員。

以下將詳細描述本發(fā)明實施例的機制和原理。除非特別聲明，在下文和權利要求中使用的術語“基于”表示“至少部分地基于”。術語“包括”表示開放性包括，即“包括但不限于”。術語“多個”表示“兩個或更多”。術語“一個實施例”表示“至少一個實施例”。術語“另一實施例”表示“至少一個另外的實施例”。其他術語的定義將在下文描述中給出。

圖1示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法100的流程圖。傳統(tǒng)上，變分推理的初始化方法采用隨機初始化、基于聚類的初始化等方法。然而，這些初始化方法通常具有處理速度較慢、通用性不高等問題，這些都是混合模型選擇中的亟待解決的問題。通過下文描述將會理解，利用根據(jù)本發(fā)明的實施例的方法100，這些問題可以被得到有效地解決。

方法100開始于步驟S110，在此基于訓練樣本集來確定候選模型。

在本發(fā)明實施例中，“隱變量”可以表示不能被直接觀測到、而需要通過樣本數(shù)據(jù)推導得出的變量。隱變量的變分分布可以用于描述樣本數(shù)據(jù)被聚類到對應類別的概率。應當注意的是，在本發(fā)明實施例中，“隱變量”并不限于一種變量，而是可以包含“隱變量的變分分布”和/或其他適當?shù)男畔?。在本公開中，隱變量可以包括初始化隱變量、更新的隱變量，等等，其中初始化隱變量表示用于進行訓練的隱變量，而更新的隱變量表示訓練后得到隱變量。在本公開的上下文中，“更新的隱變量”有時也稱為“更新隱變量”，二者可以替換使用。

在本發(fā)明的實施例中，“模型”一般是指混合模型，例如候選模型、中間模型以及目標模型，等等。模型可以通過對初始化隱變量進行訓練來生成。如此生成的模型可以包括更新的隱變量的變分分布、模型參數(shù)、模型結構，等等。模型參數(shù)可以根據(jù)混合模型的類型不同而不同，由于混合模型通常是一類模型的總稱，并且一個混合模型可由多個子模型組合而成，因此模型參數(shù)與具體的混合模型的類型相關聯(lián)。舉例而言，對于高斯混合模型而言，模型參數(shù)可以包括每個子模型所服從的高斯分布的均值和方差。對于分片線性模型而言，模型參數(shù)則可以包括門節(jié)點的條件控制參數(shù)和葉子節(jié)點的回歸系數(shù)及偏差。模型結構也與混合模型的類型相關聯(lián)。舉例而言，對于高斯混合模型而言，模型結構可以包括子模型的個數(shù)及子模型合并系數(shù)，等等。對于分片線性模型而言，模型結構則可以包括學習出的樹結構。應當理解，上述示例僅僅是出于討論之目的，無意以任何方式限制本發(fā)明的范圍。另外，在本發(fā)明的實施例中提到的“統(tǒng)計模型”不同于混合模型。統(tǒng)計模型例如可以包括高斯過程模型、student-t過程模型等。

在根據(jù)本發(fā)明的一個實施例中，在步驟S110，可以基于訓練樣本集來確定一個或多個第一初始化隱變量，并可以根據(jù)第一初始化隱變量生成候選模型。第一初始化隱變量可以通過對訓練樣本集中的樣本進行隨機分組來得到，或者可以通過對訓練樣本集中的樣本進行聚類來得到。第一初始化隱變量例如可以實現(xiàn)為矩陣的形式、數(shù)據(jù)集合的形式或者其他任何適當?shù)男问健Ｔ谝粋€實施例中，第一初始化隱變量 可以是一個k×n維的矩陣，其中k是該矩陣的行數(shù)，表示第一初始化隱變量的樣本組數(shù)目；n是該矩陣的列數(shù)，表示訓練樣本集中的樣本數(shù)目。該矩陣中的一行對應于一個樣本組，每行中的每個元素的值可以是0或者1。例如，如果該矩陣中的一行中的第i個元素是1，則表示與該行相對應的樣本組中包含訓練樣本集中的第i個樣本；如果該行中的第j個元素是0，則表示與該行相對應的樣本組中不包含訓練樣本集中的第j個樣本。應當理解，上述矩陣中的元素的值不一定必須為0或者1，也可以是任何其他適當?shù)臄?shù)值。以上示例僅僅是為了討論方便之目的，無意限制本發(fā)明的范圍。在另一個實施例中，第一初始化隱變量可以是一個數(shù)據(jù)集合，例如可以包括k個樣本組，每個樣本組中有一個或多個樣本。應當理解，上述示例僅僅是為了討論之目的，并無意限制本發(fā)明的范圍。本領域技術人員可以通過任何適當?shù)姆绞絹韺崿F(xiàn)第一初始化隱變量。

當基于訓練樣本集確定出多個第一初始化隱變量時，可以生成多個模型來作為在步驟S110所確定的候選模型。備選地或附加地，可以從生成的多個模型中選擇其一來作為在步驟S110所確定的候選模型。選擇的方式可以有多種，例如可以從生成的多個模型中隨機選擇至少一個候選模型，也可以按照某種順序或要求來選擇。應當理解，上述舉例僅僅是為了討論之目的，無意限制本發(fā)明的范圍。本領域的技術人員可以利用任何適當?shù)倪x擇方法從多個模型中選擇至少一個候選模型。

例如，在根據(jù)本發(fā)明的一個實施例中，在步驟S110，可以基于訓練樣本集來確定多個第一初始化隱變量，基于多個第一初始化隱變量生成多個初始模型，以及根據(jù)多個初始模型的性能來選擇該多個初始模型中的至少一個作為候選模型。

模型的性能可以包括多種因素，例如精度、時效性，等等。模型的性能可以通過多種方式來確定，例如計算均方根誤差、平均絕對值誤差、似然率等。以精度為例，對于預測/分類混合模型而言，可以將候選模型用于測試數(shù)據(jù)的預測/分類，從而得到對應的預測/分類精度。 對于聚類模型而言，可以計算候選模型的聚類精度，例如標準互信息等。

接下來，方法100進行到步驟S120，在此基于候選模型的第一初始化隱變量和更新隱變量中的至少一個，生成第二初始化隱變量的集合。

根據(jù)本發(fā)明的實施例，可以基于候選模型的第一初始化隱變量、更新隱變量或者二者，來生成第二初始化隱變量的集合。其中，該候選模型根據(jù)該第一初始化隱變量而生成，并且更新隱變量表示該候選模型輸出的樣本分組結果。

在根據(jù)本發(fā)明的一個實施例中，在步驟S120，可以基于候選模型的第一初始化隱變量，生成第三初始化隱變量的集合；基于候選模型的更新隱變量，生成第四初始化隱變量的集合；并且可以基于第三初始化隱變量的集合和第四初始化隱變量的集合，確定第二初始化隱變量的集合。

第三初始化隱變量的集合可以包含與第一初始化隱變量相關聯(lián)的一個或多個隱變量，并可以通過多種方式來生成。在一個實施例中，可以通過對候選模型的第一初始化隱變量以及參考隱變量進行加權求和，來生成第三初始化隱變量的集合中的第三初始化隱變量。

第四初始化隱變量的集合可以包含與更新隱變量相關聯(lián)的一個或多個隱變量，并可以通過多種方式來生成。在一個實施例中，可以從候選模型的更新隱變量中的多個樣本組中選擇一個樣本組；將所選擇的樣本組分為多個子組；以及基于多個子組確定第四初始化隱變量的集合中的第四初始化隱變量。

仍然參考圖1，方法100進行到步驟S130，在此基于第二初始化隱變量的集合來確定目標模型。

根據(jù)本發(fā)明的實施例，在步驟S120生成的第二初始化隱變量的集合中可以包括一個或多個第二初始化隱變量。在一個實施例中，如果步驟S120所得到的第二初始化隱變量的數(shù)目為1，則在步驟S130可以通過訓練該第二初始化隱變量來得到一個模型，并將該模型作為 目標模型。

在另一個實施例中，如果在步驟S120生成多個第二初始化隱變量，則在步驟S130中，可以通過訓練該多個第二初始化隱變量來生成多個中間模型，然后可以基于中間模型的性能來確定目標模型。例如可以按照各個中間模型的性能，來從其中選擇一個中間模型作為目標模型。

根據(jù)本發(fā)明的實施例，作為備選方案，在步驟S130可以對第二初始化隱變量的集合中進行進一步的處理，從中選擇出第二初始化隱變量的一個子集，并基于該子集來確定目標模型。在一個實施例中，在步驟S130，可以利用預定的統(tǒng)計模型，基于第二初始化隱變量的集合來確定目標初始化隱變量的集合，通過訓練目標初始化隱變量的集合中的每個目標初始化隱變量來生成中間模型，并基于中間模型的性能來確定目標模型。關于目標初始化隱變量的集合的確定過程將在以下討論中結合圖3所示的流程圖進行描述。

通過上述描述可以理解，本發(fā)明的實施例不涉及特定類型的混合模型的具體特性或要求，因此具有良好的通用性，并不局限于特定類型的混合模型。同時，本發(fā)明的實施例也是一種高效的解決方案。以下將通過圖2所示的實施例來討論本發(fā)明的實施例的進一步的優(yōu)點。

圖2示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法200的示意性流程圖。方法200可以被認為是方法100的具體實施例。應當理解，所示的實施例僅是出于討論之目的，無意以任何方式限制本發(fā)明的范圍。

方法200開始于步驟S210，在此基于訓練樣本集來確定多個第一初始化隱變量。

在圖2所示的實施例中，訓練樣本集是一個包括多個樣本(也稱為樣本數(shù)據(jù))的集合。每個樣本可以通過多個參數(shù)來表征。一個樣本可以表示為(x,y)，其中x表示該樣本的特征，y表示針對該樣本的估計值。例如，一個用電量數(shù)據(jù)的樣本的x可以包括今日用電量、溫度、濕度等，而y則可以表示所估計出的明日用電量，即， x＝[ele-consumption_today,temperature,humidity,…],y＝ele-consumption_tomorrow。在以下的討論中，所提及的“樣本組”表示一組樣本，該樣本組中可能包括一個或多個樣本。在以下的討論中，所提及的“對樣本分組”或者“對樣本進行分組”是指將樣本分為若干組，每個組即是一個樣本組。

根據(jù)本發(fā)明的實施例，在步驟S210，可以從訓練樣本集隨機地生成多個第一初始化隱變量。作為備選方案，也可以對訓練樣本集中的樣本進行聚類，從而生成多個第一初始化隱變量。除此以外，還可以采用本領域技術人員可用的其他方法來基于訓練樣本集確定第一初始化隱變量，上述示例性實施例并不是對本發(fā)明的限制。

在步驟S220，基于所述多個第一初始化隱變量生成多個初始模型。

根據(jù)本發(fā)明的實施例，可以針對多個第一初始化隱變量中的每個第一初始化隱變量，在訓練樣本集上進行學習，從而生成與每個第一初始化隱變量相對應的初始模型。在一個實施例中，針對每個第一初始化隱變量，可以在訓練樣本集上進行監(jiān)督或者無監(jiān)督學習，自動學習混合模型的模型參數(shù)、更新隱變量(或者更新的隱變量變分分布)以及模型結構，從而得到對應的初始模型。通過這種方式，可以得到與多個第一初始化隱變量相對應的多個初始模型。

接下來，方法200進行到步驟S230，在此基于多個初始模型的性能從多個初始模型中選擇至少一個來作為候選模型。

模型的性能例如可以通過計算模型的精度、時效性等來得到。以精度為例，對于預測/分類混合模型而言，可以在測試數(shù)據(jù)的預測/分類中使用初始模型的更新的隱變量變分分布、模型參數(shù)和模型結構，從而得到對應的預測/分類精度。對于聚類模型而言，可以計算初始模型的聚類精度，例如標準互信息等。應當理解，除了精度以外，還可以通過確定初始模型的時效性等有關因素來得到初始模型的性能。上述示例僅僅是為了便于在此的討論，并不是對本發(fā)明的限制。

從多個初始模型中選擇候選模型的過程可以通過多種方式來實現(xiàn)。在一個實施例中，可以將包含多個初始模型的這個較大的集合縮 小為一個較小的集合，從而將性能較優(yōu)的一個或多個初始模型選出以作為候選模型。在一個實施例中，可以通過基于多個初始模型中的每個初始模型的更新的隱變量變分分布、模型參數(shù)和模型結構，來確定每個初始模型的性能。然后，可以基于所確定的性能對多個初始模型進行排序，例如，可以按照性能從高到低的順序排列該多個初始模型。由此，可以從多個初始模型中選擇排序最靠前的一個初始模型來作為候選模型。在這種情況下，在步驟S230得到的候選模型的數(shù)目為1。作為備選方案，可以基于排序從多個初始模型中選擇排序靠前的兩個或兩個以上初始模型來作為候選模型。在這種情況下，在步驟S230得到的候選模型的有多個，并且是初始模型中性能較優(yōu)的多個模型。

仍然參考圖2，方法200進行到步驟S240，在此基于候選模型的第一初始化隱變量，生成第三初始化隱變量的集合。

在一個實施例中，可以通過對候選模型的第一初始化隱變量以及參考隱變量進行加權求和，來生成第三初始化隱變量的集合中的第三初始化隱變量。參考隱變量可以是一個均勻采樣的隱變量，其可以與第一初始化隱變量的形式相同，例如是k×n維的矩陣，其中k是該矩陣的行數(shù)，表示第一初始化隱變量的樣本組數(shù)目；n是該矩陣的列數(shù)，表示訓練樣本集中的樣本數(shù)目。在一個實施例中，假設第一初始化隱變量被表示為qz_initial，參考隱變量被表示為qz_new，則第三初始化隱變量可以通過以下來計算：

qz＝a*qz_initial+(1+a)*qz_new (1)其中，a表示對第一初始化隱變量的加權因子，qz表示第三初始化隱變量，并且qz也對應地是一個k×n維的矩陣，該矩陣中的每個元素的值可以是0或者1，或者是本領域技術人員常用的其他適當?shù)臄?shù)值。

相應地，第三初始化隱變量的集合可以被確定為：

S1＝{qz|qz＝a*qz_initial+(1-a)qz_new,a∈(0,1),qz∈[0,1]^k×n}。

在步驟S250，基于候選模型的更新隱變量，生成第四初始化隱變量的集合。

根據(jù)本發(fā)明的實施例，更新隱變量可以表示候選模型輸出的樣本分組結果。可以從候選模型的更新隱變量中的多個樣本組中選擇一個樣本組。在本發(fā)明的實施例中，可以利用多種方式從候選模型的更新隱變量的多個樣本組(例如樣本組的數(shù)目為N)中選擇一個樣本組，例如可以隨機選擇或者可以按照樣本組的規(guī)模來進行上述選擇。在一個實施例中，可以確定所述多個樣本組中的每個樣本組的樣本數(shù)目，并從多個樣本組中選擇樣本數(shù)目最大的一個樣本組，即選擇規(guī)模最大的樣本組。作為備選方案，在一個實施例中，可以從多個樣本組中選擇樣本數(shù)目大于預定閾值的樣本組，即選擇規(guī)模超過預定閾值的樣本組。應當理解，以上示例僅僅是示意性的，并非是對本發(fā)明的保護范圍的限制。

在從候選模型的更新隱變量的多個樣本組中選擇一個樣本組之后，可以將所選擇的樣本組分為多個子組。根據(jù)本發(fā)明的一個實施例，可以將所選擇的樣本組隨機分為多個子組。作為替換方案，可以將所選擇的樣本組平均分為多個子組，其中每個子組具有相同數(shù)目的樣本。應當理解，還可以通過多種其他方式將所選擇的樣本組分成多個子組，以上僅僅是示例性的，不應當理解為是對本發(fā)明的范圍的限制。此外，從所選擇的樣本組得到的子組的數(shù)目可以是預定義的，這個數(shù)目例如可以是2、3、……、k’中的任何一個，其中k’是小于或等于所選擇的樣本組中的樣本數(shù)目的整數(shù)，同時k’與所述更新應變量的除所選樣本組之外的剩余樣本組數(shù)目之和需小于或等于第一初始化隱變量的樣本組數(shù)目。

在將所選擇的樣本組分為多個子組之后，可以基于該多個子組確定第四初始化隱變量的集合中的第四初始化隱變量。在一個實施例中，可以計算子組的數(shù)目與更新隱變量中除所選擇的樣本組之外的其余樣本組數(shù)目之和，并將計算出的結果與第一初始化隱變量中的樣本組數(shù)目進行比較。

如果計算出的結果小于第一初始化隱變量中的樣本組數(shù)目，則可以將所選擇的樣本組從更新隱變量中去除。接著，可以繼續(xù)執(zhí)行以上 操作，即，從該更新隱變量的中再選擇一個樣本組，并將所選擇的樣本組分為多個子組。然后，可以計算所有子組的總數(shù)(如果從該更新隱變量中選擇過N個樣本組，則對應于從這N個樣本組分別得到的子組的總數(shù))以及該更新隱變量中除所選擇的所有樣本組之外的其余樣本組(如果從該更新隱變量中選擇過N個樣本組，則此時的其余樣本組是更新隱變量中除了該N個樣本組之外的剩余樣本組)之和，并基于對計算出的結果與第一初始化隱變量中的樣本組數(shù)目的比較，來判斷是否繼續(xù)迭代執(zhí)行上述操作。

如果判斷計算出的結果等于第一初始化隱變量中的樣本組數(shù)目，則將得到的所有子組與該更新隱變量中除所選擇的所有樣本組之外的其余樣本組作為第四初始化隱變量中的樣本組。由此，可以確定出一個第四初始化隱變量。

如果判斷計算出的結果大于第一初始化隱變量中的樣本組數(shù)目，則從所有子組和該更新隱變量的其余樣本組中選擇規(guī)模最小的兩者，并將兩者合并以生成一個新的樣本組，然后用新的樣本組替換上述兩者(即，替換所選擇的兩個樣本組/子組)。重復上述操作直至所有子組和該更新隱變量的其余樣本組數(shù)目之和等于第一初始化隱變量中的樣本組數(shù)目，然后可以將所有子組與該更新隱變量中的其余樣本組來作為第四初始化隱變量中的樣本組，由此確定出一個第四初始化隱變量。

應當理解，上述示例僅僅是為了討論之目的，并無意對本發(fā)明的范圍進行限制。本領域的技術人員可以采用本發(fā)明范圍內(nèi)的其他任何適當?shù)氖侄蝸砘诤蜻x模型的更新隱變量生成第四初始化隱變量。

步驟S260，基于第三初始化隱變量的集合和第四初始化隱變量的集合，確定第二初始化隱變量的集合。

在一個實施例中，可以將第三初始化隱變量的集合、第四初始化隱變量的集合或者二者的并集來確定為第二初始化隱變量的集合。作為替代，在一個實施例中，可以從第三和第四初始化隱變量的集合中分別確定一個子集，然后可以將兩個子集的并集確定為第二初始化隱 變量的集合。上述子集的確定方法可以有多種，例如可以隨機地從第三和第四初始化隱變量的集合中分別確定一個子集。應當理解，上述示例僅僅是為了討論的目的，而無意對本發(fā)明的范圍進行限制。本領域技術員人員可以利用其它任何適當?shù)氖侄蝸砘诘谌跏蓟[變量的集合和第四初始化隱變量的集合，確定第二初始化隱變量的集合。

仍然參考圖2，方法200進行到步驟S270，在此通過訓練第二初始化隱變量的集合中的每個第二初始化隱變量來生成中間模型。

在一個實施例中，可以針對第二初始化隱變量的集合中的每個第二初始化隱變量，在訓練樣本集上進行學習，例如進行監(jiān)督或者無監(jiān)督學習，自動學習混合模型的模型參數(shù)、更新的隱變量變分分布以及模型結構，以生成與每個第二初始化隱變量相對應的模型，該模型被稱為中間模型。

在步驟S280，基于中間模型的性能來確定目標模型。

模型的性能可以包括多種因素，例如精度、時效性等，并可以通過多種方式來確定。以精度為例，如果中間模型是預測/分類混合模型，可以將中間模型用于測試數(shù)據(jù)的預測/分類，從而得到對應的預測/分類精度。如果中間模型是聚類模型，可以計算中間模型的聚類精度，例如標準互信息等。

在一個實施例中，可以通過基于每個中間模型的更新的隱變量變分分布、模型參數(shù)和模型結構，來確定每個中間模型精度、時效性或者其他特性，繼而可以得到每個中間模型的性能。然后，可以對所確定的性能對多個中間模型進行排序，例如，按照性能從高到低的順序排列該多個中間模型。隨后，可以從多個中間模型中選出性能最優(yōu)的一個中間模型作為目標模型。

作為可選步驟，在步驟S280之后，可以將根據(jù)本發(fā)明的實施例得到的目標模型提供給用戶，以便用戶使用。

應當注意的是，圖2所示的方法200僅僅是示例性的，無意以任何方式限制本發(fā)明的范圍。根據(jù)本發(fā)明的實施例，不必在確定了第二初始化隱變量的集合之后直接生成中間模型進而確定目標模型，而是 可以對第二初始化隱變量的集合進行進一步處理，從中選擇出第二初始化隱變量的一個子集，并基于選擇的子集來確定目標模型。在一個實施例中，替代步驟S270和S280，可以利用預定的統(tǒng)計模型，基于第二初始化隱變量的集合來確定目標初始化隱變量的集合，然后基于目標初始化隱變量的集合來確定目標模型?？梢跃哂卸喾N方式來基于第二初始化隱變量的集合來確定目標初始化隱變量的集合。圖3A示出了根據(jù)本發(fā)明實施例的用于確定目標初始化隱變量的方法300的示意性流程圖。

方法300開始于步驟S310，其中根據(jù)第二初始化隱變量的集合對目標初始化隱變量的集合進行初始化。

對目標初始化隱變量的集合進行初始化可以通過多種方式來進行。在一個實施例中，可以從第二初始化隱變量的集合中選擇至少一個第二初始化隱變量，作為目標初始化隱變量的集合中的目標初始化隱變量。在一個附加實施例中，還可以從第二初始化隱變量的集合中去除所選擇的該至少一個第二初始化隱變量。上述選擇過程可以利用多種方法來實現(xiàn)，例如可以進行隨機選擇，也即從第二初始化隱變量的集合中隨機選擇一個或多個第二初始化隱變量來作為目標初始化隱變量。又例如，可以從第二初始化隱變量的集合中選擇距離最遠的多個第二初始化隱變量來作為目標初始化隱變量的集合中的多個目標初始化隱變量。這個距離例如可以通過計算歐式距離、漢明距離、馬氏距離、夾角余弦或者本領域技術員人員可用的其他適當計算方法來獲得。以此方式，可以基于第二初始化隱變量的集合來初始化目標初始化隱變量的集合。

在步驟S320，利用目標初始化隱變量的集合中的目標初始化隱變量以及與目標初始化隱變量相對應的臨時模型的性能來訓練預定的統(tǒng)計模型。

在根據(jù)本發(fā)明的實施例中，預定的統(tǒng)計模型例如可以是用戶根據(jù)需要或者偏好指定的或者是系統(tǒng)預先設定的統(tǒng)計模型。預定的統(tǒng)計模型可以是高斯過程模型、student-t過程模型或者其他適當?shù)慕y(tǒng)計模型。

在一個實施例中，可以利用目標初始化隱變量的集合中的所有目標初始化隱變量及其相對應的臨時模型的性能來構造一個新的訓練樣本集。該新的訓練樣本集中的每個樣本可以通過(x,y)來表示，其中x表示目標初始化隱變量，y表示與該目標初始化隱變量相對應的臨時模型的性能。然后，可以在該新的訓練樣本集上進行監(jiān)督學習以訓練預定的統(tǒng)計模型。

在步驟S330，基于經(jīng)過訓練的預定的統(tǒng)計模型從第二初始化隱變量的集合中選擇第二初始化隱變量，以更新目標初始化隱變量的集合。

根據(jù)本發(fā)明的實施例，可以利用經(jīng)過訓練的預定的統(tǒng)計模型來預測與第二初始化隱變量的集合中的第二初始化隱變量相對應的臨時模型的性能。在一個實施例中，可以利用經(jīng)過訓練的預定統(tǒng)計模型來計算與第二初始化隱變量相對應的臨時模型的性能的均值和方差，然后根據(jù)該均值和方差來確定與第二初始化隱變量相對應的臨時模型的性能預測值。

在完成性能預測之后，可以按照所預測的性能，選擇第二初始化隱變量的集合中的至少一個第二初始化隱變量來更新目標初始化隱變量的集合。在一個實施例中，可以將第二初始化隱變量的集合中的與所預測的最優(yōu)性能相對應的第二初始化隱變量確定為目標初始化隱變量的集合中的一個目標初始化隱變量。在一個附加實施例中，還可以從第二初始化隱變量的集合中去除與所預測的最優(yōu)性能相對應的第二初始化隱變量。這樣，在更新目標初始化隱變量的集合的同時，還可以實現(xiàn)對第二初始化隱變量的集合的更新。

應當理解，方法300僅僅是示例性的，而并非是對本發(fā)明的范圍的限制。根據(jù)本發(fā)明的實施例，在步驟S330更新目標初始化隱變量的集合之后，可以繼續(xù)返回步驟S320，來利用更新后的目標初始化隱變量的集合中的目標初始化隱變量以及與其相對應的臨時模型的性能來繼續(xù)訓練預定的統(tǒng)計模型。然后，可以基于經(jīng)過訓練的預定的統(tǒng)計模型從第二初始化隱變量的集合中選擇第二初始化隱變量，再次更新目標初始化隱變量的集合。上述步驟S320-S330可以多次執(zhí)行， 直到達到預設的執(zhí)行次數(shù)。

圖3B示出了根據(jù)本發(fā)明實施例的用于確定目標初始化隱變量的方法340的示意性流程圖。方法340可以認為是方法300的具體實施例。應當理解，所示的實施例僅是出于討論之目的，無意以任何方式限制本發(fā)明的范圍。

方法340開始于步驟S341，在此從第二初始化隱變量的集合中選擇至少一個第二初始化隱變量，作為目標初始化隱變量的集合中的目標初始化隱變量。

在一個實施例中，可以從第二初始化隱變量的集合中隨機選擇一個或多個第二初始化隱變量。在一個替代實施例中，可以從第二初始化隱變量的集合中選擇距離最遠的多個第二初始化隱變量來作為目標初始化隱變量的集合中的多個目標初始化隱變量。這個距離例如可以通過計算歐式距離、漢明距離、馬氏距離、夾角余弦或者本領域技術員人員可用的其他適當計算方法來獲得。應當理解，以上實施例僅僅是示例性的，并非是對本發(fā)明的范圍的限制。除此以外，還可以通過其他適當?shù)姆绞絹韽牡诙跏蓟[變量的集合中選擇至少一個第二初始化隱變量。

在步驟S342，從第二初始化隱變量的集合中去除選擇的至少一個第二初始化隱變量。

在一個實施例中，假設第二初始化隱變量的集合中原有N個第二初始化隱變量，表示為Z₁、Z₂……、Z_N，并且在步驟S341從第二初始化隱變量的集合中選擇了一個第二初始化隱變量Z₁，則在步驟S342將Z₁從第二初始化隱變量的集合中去除。這樣，第二初始化隱變量的集合中被更新為具有N-1個第二初始化隱變量，即Z₂……、Z_N。

在另一個實施例中，假設在步驟S341從第二初始化隱變量的集合中選擇了多個(例如j個)第二初始化隱變量Z₁、……Z_j，則在步驟S342將Z₁、……Z_j從第二初始化隱變量的集合中去除。這樣，第二初始化隱變量的集合中被更新為具有N-j個第二初始化隱變量，即Z_j+1……、Z_N。

在步驟S343，生成與目標初始化隱變量的集合中的目標初始化隱變量相對應的臨時模型。

根據(jù)本發(fā)明的實施例，可以針對目標初始化隱變量的集合中的每個目標初始化隱變量，在訓練樣本集上進行學習，從而生成與每個目標初始化隱變量相對應的模型，在此稱為“臨時模型”。在一個實施例中，針對每個目標初始化隱變量，可以在訓練樣本集上進行監(jiān)督或者無監(jiān)督學習，來自動學習混合模型的模型參數(shù)、更新隱變量(或者更新的隱變量變分分布)以及模型結構，從而得到對應的臨時模型。通過這種方式，可以生成與目標初始化隱變量的集合中的每個目標初始化隱變量相對應的臨時模型。

在一個實施例中，上述訓練過程可以是輕型訓練(lightly train)，也即，執(zhí)行變分推理算法預設步數(shù)以學習出與目標初始化隱變量相對應的混合模型，無需執(zhí)行變分推理算法直至其收斂。通過這種方式，可以提高運行速度，減少處理時間。應當理解，上述示例并不是對本發(fā)明的范圍的限制，在本發(fā)明的替代實施例中，在上述訓練過程中可以進行完全學習(fully train)，也即執(zhí)行變分推理算法直至其收斂以學出與目標初始化隱變量相對應的混合模型。

在步驟S344，利用目標初始化隱變量的集合中的目標初始化隱變量及其相對應的臨時模型的性能來訓練預定的統(tǒng)計模型。

在一個實施例中，在步驟S344首先需要確定與目標初始化隱變量相對應的臨時模型的性能。在一個實施例中，可以針對目標初始化隱變量，在訓練樣本集上進行監(jiān)督或者無監(jiān)督學習，自動學習混合模型的模型參數(shù)、更新隱變量(或者更新的隱變量變分分布)以及模型結構，從而得到與目標初始化隱變量相對應的臨時模型。然后，可以通過計算模型的精度、時效性等來得到臨時模型的性能。以精度為例，對于預測/分類混合模型而言，可以在測試數(shù)據(jù)的預測/分類中使用臨時模型的更新的隱變量變分分布、模型參數(shù)和模型結構，從而得到對應的預測/分類精度。對于聚類模型而言，可以計算臨時模型的聚類精度，例如標準互信息等。

通過上述方式，所得到的與目標初始化隱變量相對應的臨時模型的性能有可能具有一個或多個特征(例如精度、時效性等)。另外，就精度而言，其也可能具有多種形式，每種形式也可以構成性能的一個特征。在一個實施例中，當與目標初始化隱變量的集合中的第i個目標初始化隱變量相對應的臨時模型的性能具有一個特征，例如僅為該臨時模型的某一形式的精度時，可以利用目標初始化隱變量的集合中的目標初始化隱變量及其相對應的臨時模型的性能來構造一個新的訓練樣本集中的一個樣本。該樣本例如可以通過(x_i,y_i)來表示，其中x_i表示目標初始化隱變量的集合中的第i個目標初始化隱變量，y_i表示與第i個目標初始化隱變量相對應的臨時模型的性能(例如某一形式的精度)。

在另一個實施例中，當與目標初始化隱變量的集合中的第j個目標初始化隱變量相對應的臨時模型的性能具有多個(例如m個)特征，例如多種形式的精度和/或多種形式的時效性時，可以構造新的訓練樣本集中的多個樣本。該多個樣本例如可以通過(x_j,y_jp)來表示，其中x_j表示第j個目標初始化隱變量，y_ip表示與第i個目標初始化隱變量相對應的臨時模型的性能的第p個特征，其中p＝1,2,...,m。

在構建好新的訓練樣本集之后，可以在該新的訓練樣本集上進行監(jiān)督學習以訓練預定的統(tǒng)計模型。預定的統(tǒng)計模型例如可以是用戶預先設置的或者是系統(tǒng)要求的統(tǒng)計模型。預定的統(tǒng)計模型例如可以是高斯過程模型、student-t過程模型或者其他適當?shù)慕y(tǒng)計模型。

應當理解上述實施例僅僅是示例性的，無意對本發(fā)明的范圍進行限制。在本發(fā)明的其他實施例中，在構造新的訓練樣本集時，可以基于目標初始化隱變量的集合中的所有目標初始化隱變量來進行，也可以僅基于部分目標初始化隱變量來進行。

在步驟S345，利用經(jīng)過訓練的預定的統(tǒng)計模型來預測與第二初始化隱變量的集合中的第二初始化隱變量相對應的臨時模型的性能。

在此步驟中，可以利用經(jīng)過訓練的預定統(tǒng)計模型來計算與第二初始化隱變量相對應的臨時模型的性能的均值和方差。然后，可以根據(jù) 所計算的均值和方差來確定與第二初始化隱變量相對應的臨時模型的性能預測值。

在一個實施例中，如果在步驟S344中得到的與目標初始化隱變量的集合中的第i個目標初始化隱變量相對應的臨時模型的性能具有一個特征，對應的樣本為(x_i,y_i)，則在步驟S345中利用經(jīng)過訓練的預定統(tǒng)計模型可以計算該臨時模型的性能的一個均值(例如表示為mean_i)和一個方差(例如表示為variance_i)。然后，可以基于該均值和方差來得到一個性能預測值。例如，可以如下計算：

P_i＝mean_i+α*variance_i (2)其中P_i表示與第i個目標初始化隱變量相對應的性能預測值；α表示加權因子，其例如可以被用戶根據(jù)需要進行設定或者預定為某個固定值。

在另一個實施例中，如果在步驟S344中得到的臨時模型的性能具有多個特征，對應的樣本為(x_j,y_jp)，則在步驟S345中利用經(jīng)過訓練的預定統(tǒng)計模型可以計算該臨時模型的性能的多個均值(例如mean_jp)和多個方差(例如variance_jp)。然后，可以基于這些均值和方差來得到一個性能預測值。例如，可以如下計算：

$P_j=\frac{1}{m}\underset{p=1}{\overset{m}{\mathrm{\Σ}}}({\mathrm{mean}}_{\mathrm{jp}}+\mathrm{\α}\·\mathrm{var}\mathrm{}{\mathrm{iance}}_{\mathrm{jp}})---\left(3\right)$

其中P_j表示與第j個目標初始化隱變量相對應的性能預測值；α表示加權因子，其例如可以被用戶根據(jù)需要進行設定或者預定為某個固定值。

應當理解，在本發(fā)明的實施例中，性能預測值可以通過多種其他適當?shù)姆绞絹淼玫健Ｒ陨蠈嵤├齼H僅是為了便于討論之目的，無意對本發(fā)明的范圍進行限制。

在步驟S346，按照所預測的性能，選擇第二初始化隱變量的集合中的至少一個第二初始化隱變量來更新目標初始化隱變量的集合。

在一個實施例中，可以將第二初始化隱變量的集合中的與所預測的最優(yōu)性能相對應的第二初始化隱變量確定為目標初始化隱變量的 集合中的一個目標初始化隱變量。然后，可以從第二初始化隱變量的集合中去除與所預測的最優(yōu)性能相對應的第二初始化隱變量，從而可以更新第二初始化隱變量的集合。在一種實現(xiàn)方式中，可以基于所確定的性能對第二初始化隱變量的集合中的第二初始化隱變量進行排序。例如，可以按照性能預測值從高到低的順序對第二初始化隱變量進行排序。由此，可以選擇與最優(yōu)性能(即，性能預測值最大的性能)相對應一個第二初始化隱變量。在這種情況下，在步驟S346可以將選出的一個第二初始化隱變量加入到目標初始化隱變量的集合中，從而完成對目標初始化隱變量的集合的更新。

作為備選方案，在一個實施例中，可以選擇與排序靠前的兩個或兩個以上性能相關聯(lián)的第二初始化隱變量。在這種情況下，在步驟S346可以將選出的兩個或兩個以上第二初始化隱變量加入到目標初始化隱變量的集合中，從而完成對目標初始化隱變量的集合的更新。

在步驟S347，確定目標初始化隱變量的數(shù)目是否達到預定閾值。

在一個實施例中，可以對于目標初始化隱變量的集合中的元素數(shù)目設定一個預定閾值，該預定閾值可以是本領域技術人員根據(jù)經(jīng)驗或者偏好設置的，也以是系統(tǒng)固定設置的。如果確定目標初始化隱變量的集合中的目標初始化隱變量的數(shù)目未達到該預定閾值，則可以迭代地執(zhí)行步驟S343至S346，以確定的新的目標初始化隱變量。如果確定目標初始化隱變量的集合中的目標初始化隱變量的數(shù)目達到該預定閾值，則可以停止迭代；然后，可以通過訓練目標初始化隱變量來生成中間模型，并基于中間模型的性能來確定目標模型。

圖4示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的方法的一個圖形化表示400的示意圖。圖4示出的混合模型選擇過程與圖1的步驟S110-S130相對應。如圖4所示，首先，可以基于訓練樣本集確定候選模型。然后，可以基于該候選模型的第一初始化隱變量和更新隱變量中的至少一個，生成第二初始化隱變量的集合。該第二初始化隱變量的集合可以包括一個或多個第二初始化隱變量，其被分別表示為Z₁,Z₂,…,Z_k1，其中Z表示第二初始化隱變量，k1表示所得到的第二 初始化隱變量的個數(shù)。接下來，可以基于該第二初始化隱變量的集合來確定目標模型。如圖4所示，可以通過訓練多個第二初始化隱變量Z₁,Z₂,…,Z_k1來生成多個中間模型，即中間模型1、中間模型2、……中間模型k1，然后可以基于這k1個中間模型的性能來選擇其中之一來作為目標模型。

應當理解，圖4所示的圖僅僅是示例性的，無意以任何方式限制本發(fā)明的范圍。根據(jù)本發(fā)明的實施例，并不一定要從與第二初始化隱變量Z₁,Z₂,…,Z_k1相對應的中間模型1、中間模型2、……中間模型k1來得到目標模型。例如，在一個備選實施例中，可以利用預定的統(tǒng)計模型，基于第二初始化隱變量Z₁,Z₂,…,Z_k1來確定目標初始化隱變量的集合，然后可以基于該目標初始化隱變量的集合來確定目標模型。應當理解，上述實施例僅僅是示例性的，并不是對本發(fā)明的范圍的限制。在本發(fā)明的范圍內(nèi)，本領域技術人員可以對本發(fā)明的實施例進行各種變形。

圖5示出了根據(jù)本發(fā)明實施例的用于混合模型選擇的裝置500的示意性框圖。如圖所示，裝置500包括：候選模型確定單元510，被配置為基于訓練樣本集來確定候選模型；生成單元520，被配置為基于候選模型的第一初始化隱變量和更新隱變量中的至少一個，生成第二初始化隱變量的集合，其中候選模型根據(jù)第一初始化隱變量而生成，并且更新隱變量表示候選模型輸出的樣本分組結果；以及目標模型確定單元530，被配置為基于第二初始化隱變量的集合來確定目標模型。

在一個實施例中，候選模型確定單元510可以包括：第一初始化隱變量確定單元，被配置為基于訓練樣本集來確定第一初始化隱變量；以及第一候選模型生成單元，被配置為根據(jù)第一初始化隱變量生成候選模型。

在一個實施例中，候選模型確定單元510可以包括：第一初始化隱變量確定單元，被配置為基于訓練樣本集來確定多個第一初始化隱變量；初始模型確定單元，被配置為基于多個第一初始化隱變量生成多個初始模型；以及第二候選模型生成單元，被配置為根據(jù)多個初始 模型的性能，選擇多個初始模型中的至少一個作為候選模型。

在一個實施例中，生成單元520可以包括：第三隱變量確定單元，被配置為基于候選模型的第一初始化隱變量，生成第三初始化隱變量的集合；第四隱變量確定單元，被配置為基于候選模型的更新隱變量，生成第四初始化隱變量的集合；以及第二隱變量確定單元，被配置為基于第三初始化隱變量的集合和第四初始化隱變量的集合，確定第二初始化隱變量的集合。

在一個實施例中，生成單元520的第三隱變量確定單元可以包括：第三隱變量生成單元，被配置為通過對候選模型的第一初始化隱變量以及參考隱變量進行加權求和，生成第三初始化隱變量的集合中的第三初始化隱變量。

在一個實施例中，生成單元520的第四隱變量確定單元可以包括：第一選擇單元，被配置為從候選模型的更新隱變量中的多個樣本組中選擇一個樣本組；分組單元，被配置為將所選擇的樣本組分為多個子組；并且第四隱變量確定單元可以被進一步配置為基于多個子組確定第四初始化隱變量的集合中的第四初始化隱變量。

在一個實施例中，生成單元520的第四隱變量確定單元的第一選擇單元可以包括：樣本數(shù)目確定單元，被配置為確定多個樣本組中的每個樣本組的樣本數(shù)目；以及樣本組選擇單元，被配置為從多個樣本組中選擇樣本數(shù)目最大的一個樣本組。

在一個實施例中，目標模型確定單元530可以包括：中間模型生成單元，被配置為通過訓練第二初始化隱變量的集合中的每個第二初始化隱變量來生成中間模型；以及目標模型生成單元，被配置為基于中間模型的性能來確定目標模型。

在一個實施例中，目標模型確定單元530可以包括：目標初始化隱變量確定單元，被配置為利用預定的統(tǒng)計模型，基于第二初始化隱變量的集合來確定目標初始化隱變量的集合；中間模型生成單元，被配置為通過訓練目標初始化隱變量的集合中的每個目標初始化隱變量來生成中間模型；以及目標模型生成單元，被配置為基于中間模型 的性能來確定目標模型。

在一個實施例中，目標模型確定單元530的目標初始化隱變量確定單元可以包括：初始化單元，被配置為根據(jù)第二初始化隱變量的集合對目標初始化隱變量的集合進行初始化；統(tǒng)計模型訓練單元，被配置為利用目標初始化隱變量的集合中的目標初始化隱變量以及與目標初始化隱變量相對應的臨時模型的性能來訓練預定的統(tǒng)計模型；以及第一更新單元，被配置為基于經(jīng)過訓練的預定的統(tǒng)計模型從第二初始化隱變量的集合中選擇第二初始化隱變量，以更新目標初始化隱變量的集合。

在一個實施例中，目標模型確定單元530的目標初始化隱變量確定單元的初始化單元可以包括：第二選擇單元，被配置為從第二初始化隱變量的集合中選擇至少一個第二初始化隱變量，作為目標初始化隱變量的集合中的目標初始化隱變量。

在一個實施例中，目標模型確定單元530的目標初始化隱變量確定單元的第一更新單元可以包括：性能預測單元，被配置為利用經(jīng)過訓練的預定的統(tǒng)計模型來預測與第二初始化隱變量的集合中的第二初始化隱變量相對應的臨時模型的性能；以及第二更新單元，被配置為按照所預測的性能，選擇第二初始化隱變量的集合中的至少一個第二初始化隱變量來更新目標初始化隱變量的集合。

在一個實施例中，性能預測單元可以包括：第一計算單元，被配置為利用經(jīng)過訓練的預定統(tǒng)計模型來計算與第二初始化隱變量相對應的臨時模型的性能的均值和方差；以及第二計算單元，被配置為根據(jù)均值和方差來確定與第二初始化隱變量相對應的臨時模型的性能預測值。

在一個實施例中，第二更新單元可以包括：目標初始化隱變量獲取單元，被配置為將第二初始化隱變量的集合中的與所預測的最優(yōu)性能相對應的第二初始化隱變量確定為目標初始化隱變量的集合中的一個目標初始化隱變量；以及第二初始化隱變量更新單元，被配置為從第二初始化隱變量的集合中去除與所預測的最優(yōu)性能相對應的第 二初始化隱變量。

為清晰起見，在圖5中沒有示出裝置500包含的可選單元以及各個單元所包含的子單元。應當理解，裝置500可以利用各種方式實現(xiàn)。例如，在某些實施例中，裝置500可以利用軟件和/或固件來實現(xiàn)。例如，裝置500可以被實現(xiàn)為包含在計算機可讀介質(zhì)上的計算機程序產(chǎn)品，其中的每個單元是通過計算機指令來實現(xiàn)其功能的程序模塊。備選地或附加地，裝置500可以部分地或者完全地基于硬件來實現(xiàn)。例如，裝置500可被實現(xiàn)為集成電路(IC)芯片、專用集成電路(ASIC)或者片上系統(tǒng)(SOC)?，F(xiàn)在已知或者將來開發(fā)的其他方式也是可行的，本發(fā)明的范圍在此方面不受限制。

圖6示出了適于用來實現(xiàn)本發(fā)明實施例的示例性計算機系統(tǒng)600的示意性框圖。如圖所示，計算機系統(tǒng)600包括中央處理單元(CPU)601，其可以根據(jù)存儲在只讀存儲器(ROM)602中的程序或者從存儲單元608加載到隨機訪問存儲器(RAM)603中的程序而執(zhí)行各種適當?shù)膭幼骱吞幚怼Ｔ赗AM 603中，還存儲有CPU 601執(zhí)行各種處理等所需的數(shù)據(jù)。CPU 601、ROM 602以及RAM 603通過總線604彼此相連。輸入/輸出(I/O)單元605也連接至總線604。

以下部件連接至I/O接口605：包括鍵盤、鼠標等的輸入單元606；包括諸如陰極射線管(CRT)、液晶顯示器(LCD)等以及揚聲器等的輸出單元607；包括硬盤等的存儲單元608；以及包括諸如LAN卡、調(diào)制解調(diào)器等的網(wǎng)絡接口卡的通信單元609。通信單元609經(jīng)由諸如因特網(wǎng)的網(wǎng)絡執(zhí)行通信處理。驅動器610也根據(jù)需要連接至I/O接口605?？梢苿咏橘|(zhì)611，諸如磁盤、光盤、磁光盤、半導體存儲器等等，根據(jù)需要安裝在驅動610上，以便于從其上讀出的計算機程序根據(jù)需要被安裝入存儲單元608。

特別地，根據(jù)本發(fā)明的實施例，上文描述的各個過程可以被實現(xiàn)為計算機軟件程序。例如，本發(fā)明的實施例包括一種計算機程序產(chǎn)品，其包括有形地包含在機器可讀介質(zhì)上的計算機程序，所述計算機程序包含用于執(zhí)行各方法的程序代碼。在這樣的實施例中，該計算機程序 可以通過通信單元609從網(wǎng)絡上被下載和安裝，和/或從可移動介質(zhì)611被安裝。

一般而言，本發(fā)明的各種示例實施例可以在硬件或專用電路、軟件、邏輯，或其任何組合中實施。某些方面可以在硬件中實施，而其他方面可以在可以由控制器、微處理器或其他計算設備執(zhí)行的固件或軟件中實施。當本發(fā)明的實施例的各方面被圖示或描述為框圖、流程圖或使用某些其他圖形表示時，將理解此處描述的方框、裝置、系統(tǒng)、技術或方法可以作為非限制性的示例在硬件、軟件、固件、專用電路或邏輯、通用硬件或控制器或其他計算設備，或其某些組合中實施。

而且，流程圖中的各框可以被看作是方法步驟，和/或計算機程序代碼的操作生成的操作，和/或理解為執(zhí)行相關功能的多個耦合的邏輯電路元件。例如，本發(fā)明的實施例包括計算機程序產(chǎn)品，該計算機程序產(chǎn)品包括有形地實現(xiàn)在機器可讀介質(zhì)上的計算機程序，該計算機程序包含被配置為實現(xiàn)上文描述方法的程序代碼。

在本公開的上下文中，機器可讀介質(zhì)可以是包含或存儲用于或有關于指令執(zhí)行系統(tǒng)、裝置或設備的程序的任何有形介質(zhì)。機器可讀介質(zhì)可以是機器可讀信號介質(zhì)或機器可讀存儲介質(zhì)。機器可讀介質(zhì)可以包括但不限于電子的、磁的、光學的、電磁的、紅外的或半導體系統(tǒng)、裝置或設備，或其任意合適的組合。機器可讀存儲介質(zhì)的更詳細示例包括帶有一根或多根導線的電氣連接、便攜式計算機磁盤、硬盤、隨機存儲存取器(RAM)、只讀存儲器(ROM)、可擦除可編程只讀存儲器(EPROM或閃存)、光存儲設備、磁存儲設備，或其任意合適的組合。

用于實現(xiàn)本發(fā)明的方法的計算機程序代碼可以用一種或多種編程語言編寫。這些計算機程序代碼可以提供給通用計算機、專用計算機或其他可編程的數(shù)據(jù)處理裝置的處理器，使得程序代碼在被計算機或其他可編程的數(shù)據(jù)處理裝置執(zhí)行的時候，引起在流程圖和/或框圖中規(guī)定的功能/操作被實施。程序代碼可以完全在計算機上、部分在計算機上、作為獨立的軟件包、部分在計算機上且部分在遠程計算機上或 完全在遠程計算機或服務器上執(zhí)行。

另外，盡管操作以特定順序被描繪，但這并不應該理解為要求此類操作以示出的特定順序或以相繼順序完成，或者執(zhí)行所有圖示的操作以獲取期望結果。在某些情況下，多任務或并行處理會是有益的。同樣地，盡管上述討論包含了某些特定的實施細節(jié)，但這并不應解釋為限制任何發(fā)明或權利要求的范圍，而應解釋為對可以針對特定發(fā)明的特定實施例的描述。本說明書中在分開的實施例的上下文中描述的某些特征也可以整合實施在單個實施例中。相反地，在單個實施例的上下文中描述的各種特征也可以分離地在多個實施例或在任意合適的子組合中實施。

針對前述本發(fā)明的示例實施例的各種修改、改變將在連同附圖查看前述描述時對相關技術領域的技術人員變得明顯。任何及所有修改將仍落入非限制的和本發(fā)明的示例實施例范圍。此外，前述說明書和附圖存在啟發(fā)的益處，涉及本發(fā)明的這些實施例的技術領域的技術人員將會想到此處闡明的本發(fā)明的其他實施例。

將會理解，本發(fā)明的實施例不限于公開的特定實施例，并且修改和其他實施例都應包含于所附的權利要求范圍內(nèi)。盡管此處使用了特定的術語，但是它們僅在通用和描述的意義上使用，而并不用于限制目的。