本發(fā)明涉及互聯(lián)網技術領域，尤其涉及一種請求分發(fā)方法和裝置。

背景技術：

在互聯(lián)網中服務器的一些應用場景下，例如，用戶通常使用的銀行系統(tǒng)的后臺服務器，由于總行與各分行處于不同的城市或城市中的各個地區(qū)，在業(yè)務上它們需要處理各自的數據，也需要彼此之間的交換和處理，這種場景下需要部署分布式服務器。相關技術中，根據分布式服務器中每個服務器的編號順序對客戶端發(fā)送的請求進行交替或者隨機的分發(fā)，或者，根據每個服務器負載指數，選取負載指數較小的服務器分發(fā)請求。

第一種方式下，未有結合服務器負載指數的因素動態(tài)控制客戶端請求的分發(fā)，第二種方式下，分布式服務器緩存的使用效率不高。

技術實現(xiàn)要素：

本發(fā)明旨在至少在一定程度上解決相關技術中的技術問題之一。

為此，本發(fā)明的一個目的在于提出一種請求分發(fā)方法，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

本發(fā)明的另一個目的在于提出一種請求分發(fā)裝置。

為達到上述目的，本發(fā)明第一方面實施例提出的請求分發(fā)方法，包括：在接收到客戶端發(fā)送的請求時，獲取與所述客戶端的標識對應的多個服務器的映射值；獲取所述對應的多個服務器中每個服務器在請求的時間點上的負載指數；根據所述每個服務器的映射值和所述負載指數生成所述每個服務器的評分值；根據所述評分值從所述對應的多個服務器中選取目標服務器，并將所述請求分發(fā)至所述目標服務器。

在本發(fā)明的一個實施例中，所述根據所述評分值從所述對應的多個服務器中選取目標服務器，包括：

將所述每個服務器的評分值中最大的評分值對應的服務器作為所述目標服務器。

在本發(fā)明的一個實施例中，所述根據所述每個服務器的映射值和所述負載指數生成所述每個服務器的評分值，包括：

對所述每個服務器的映射值和所述負載指數進行加權求和處理，以生成所述每個服務器的評分值。

在本發(fā)明的一個實施例中，所述獲取與所述客戶端的標識對應的多個服務器的映射值，包括：

從日志文件中獲取與所述客戶端的標識對應的多個服務器的請求分發(fā)信息；

根據所述請求的時間點和所述請求分發(fā)信息獲取所述多個服務器的映射值。

在本發(fā)明的一個實施例中，所述日志文件通過以下步驟配置：

獲取所述請求的時間點之前的至少一個時間點的請求分發(fā)信息；

根據所述請求分發(fā)信息配置日志文件，其中，所述請求分發(fā)信息包括：在所述請求的時間點之前的至少一個時間點，以及在所述至少一個時間點中每個時間點上，所述客戶端的請求被轉發(fā)至所述每個服務器的次數。

在本發(fā)明的一個實施例中，所述獲取所述對應的多個服務器中每個服務器在請求的時間點上的負載指數，包括：

將所述對應的多個服務器中每個服務器在所述請求的時間點上的實際請求連接數，和所述服務器所能承載的最大請求連接數的比值作為所述負載指數。

本發(fā)明第一方面實施例提出的請求分發(fā)方法，通過在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值，獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數，根據每個服務器的映射值和負載指數生成每個服務器的評分值，以及根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

為達到上述目的，本發(fā)明第二方面實施例提出的請求分發(fā)裝置，包括：第一獲取模塊，用于在接收到客戶端發(fā)送的請求時，獲取與所述客戶端的標識對應的多個服務器的映射值；第二獲取模塊，用于獲取所述對應的多個服務器中每個服務器在請求的時間點上的負載指數；生成模塊，用于根據所述每個服務器的映射值和所述負載指數生成所述每個服務器的評分值；選取模塊，用于根據所述評分值從所述對應的多個服務器中選取目標服務器，并將所述請求分發(fā)至所述目標服務器。

在本發(fā)明的一個實施例中，所述選取模塊具體用于：

將所述每個服務器的評分值中最大的評分值對應的服務器作為所述目標服務器。

在本發(fā)明的一個實施例中，所述生成模塊具體用于：

對所述每個服務器的映射值和所述負載指數進行加權求和處理，以生成所述每個服務器的評分值。

在本發(fā)明的一個實施例中，所述第一獲取模塊包括：

第一獲取子模塊，用于從日志文件中獲取與所述客戶端的標識對應的多個服務器的請求分發(fā)信息；

第二獲取子模塊，用于根據所述請求的時間點和所述請求分發(fā)信息獲取所述多個服務器的映射值。

在本發(fā)明的一個實施例中，所述日志文件通過以下模塊配置：

第三獲取模塊，用于獲取所述請求的時間點之前的至少一個時間點的請求分發(fā)信息；

配置模塊，用于根據所述請求分發(fā)信息配置日志文件，其中，所述請求分發(fā)信息包括：在所述請求的時間點之前的至少一個時間點，以及在所述至少一個時間點中每個時間點上，所述客戶端的請求被轉發(fā)至所述每個服務器的次數。

在本發(fā)明的一個實施例中，所述第二獲取模塊具體用于：

將所述對應的多個服務器中每個服務器在所述請求的時間點上的實際請求連接數，和所述服務器所能承載的最大請求連接數的比值作為所述負載指數。

本發(fā)明第二方面實施例提出的請求分發(fā)裝置，通過在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值，獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數，根據每個服務器的映射值和負載指數生成每個服務器的評分值，以及根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

本發(fā)明附加的方面和優(yōu)點將在下面的描述中部分給出，部分將從下面的描述中變得明顯，或通過本發(fā)明的實踐了解到。

附圖說明

本發(fā)明上述的和/或附加的方面和優(yōu)點從下面結合附圖對實施例的描述中將變得明顯和容易理解，其中：

圖1是本發(fā)明一實施例提出的請求分發(fā)方法的流程示意圖；

圖2是本發(fā)明另一實施例提出的請求分發(fā)方法的流程示意圖；

圖3是本發(fā)明一實施例提出的請求分發(fā)裝置的結構示意圖；

圖4是本發(fā)明另一實施例提出的請求分發(fā)裝置的結構示意圖。

具體實施方式

下面詳細描述本發(fā)明的實施例，所述實施例的示例在附圖中示出，其中自始至終相同或類似的標號表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附圖描述的實施例是示例性的，僅用于解釋本發(fā)明，而不能理解為對本發(fā)明的限制。相反，本發(fā)明的實施例包括落入所附加權利要求書的精神和內涵范圍內的所有變化、修改和等同物。

圖1是本發(fā)明一實施例提出的請求分發(fā)方法的流程示意圖。

參見圖1，該方法包括：

S11：在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值。

該方法可以應用于分布式服務器中。

本實施例的執(zhí)行主體可以例如為分布式服務器中的用于分發(fā)請求的服務器節(jié)點，也可以例如為用于分發(fā)客戶端請求的前端模塊，在此不作限制。

在互聯(lián)網中服務器的一些應用場景下，例如，用戶通常使用的銀行系統(tǒng)的后臺服務器，由于總行與各分行處于不同的城市或城市中的各個地區(qū)，在業(yè)務上它們需要處理各自的數據，也需要彼此之間的交換和處理，這種場景下需要部署分布式服務器。

可選地，客戶端發(fā)送的請求中可以預設有客戶端的標識，客戶端的標識可以用于唯一標識該客戶端。

在本發(fā)明的實施例中，多個服務器的映射值可以用于標記在請求的時間點之前的至少一個時間點的請求分發(fā)信息，其中，請求分發(fā)信息包括：在所述請求的時間點之前的至少一個時間點，以及在至少一個時間點中每個時間點上，客戶端的請求被轉發(fā)至每個服務器的次數。

進一步地，多個服務器中每個服務器在每個時間點上的映射值可以根據當前時間點、上述客戶端的請求被轉發(fā)至每個服務器的次數，以及上述客戶端的請求每次被轉發(fā)至分布式服務器中服務器時對應的時間點獲取。

可以理解的是，在分布式服務器的應用場景下，會有多個客戶端向分布式服務器發(fā)送請求，因此，假設上述發(fā)送請求的客戶端為客戶端A或者也可以為客戶端B，則在本發(fā)明的實施例中，與客戶端A的標識對應的多個服務器為分布式服務器中轉發(fā)過客戶端A的請求的服務器，而與客戶端B的標識對應的多個服務器為分布式服務器中轉發(fā)過客戶端B的請求的服務器，進一步地，與客戶端A的標識對應的多個服務器，和與客戶端B的標識對應的多個服務器可以存在或者不存在交集服務器，對此不作限制。

可選地，可以從日志文件中獲取與客戶端的標識對應的多個服務器的請求分發(fā)信息；根據請求的時間點和請求分發(fā)信息獲取所述多個服務器的映射值，映射值的個數與對應的多個服務器的個數相同。

S12：獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數。

可以理解的是，根據服務器的工作機制，在不同的時間點上，服務器的負載指數可以不同或者相同。

可選地，可以將服務器在訪問請求的時間點上的實際請求連接數，和服務器所能承載的最大請求連接數的比值作為負載指數。

S13：根據每個服務器的映射值和負載指數生成每個服務器的評分值。

可選地，可以對每個服務器的映射值和負載指數進行加權求和處理，以生成每個服務器的評分值。

相關技術中，根據分布式服務器中每個服務器的編號順序對客戶端發(fā)送的請求進行交替或者隨機的分發(fā)，或者，根據每個服務器負載指數，選取負載指數較小的服務器分發(fā)請求。第一種方式下，未有結合服務器負載指數的因素動態(tài)控制客戶端請求的分發(fā)，第二種方式下，分布式服務器緩存的使用效率不高。

而本發(fā)明的實施例中，通過對每個服務器的映射值和負載指數進行加權求和處理，以生成每個服務器的評分值，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

S14：根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器。

可選地，根據評分值從對應的多個服務器中選取目標服務器，包括：將每個服務器的評分值中最大的評分值對應的服務器作為目標服務器。

本實施例中，通過在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值，獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數，根據每個服務器的映射值和負載指數生成每個服務器的評分值，以及根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

圖2是本發(fā)明另一實施例提出的請求分發(fā)方法的流程示意圖。

參見圖2，該方法包括：

S21：獲取請求的時間點之前的至少一個時間點的請求分發(fā)信息。

其中，請求分發(fā)信息包括：在至少一個時間點中每個時間點上，客戶端的請求被轉發(fā)至每個服務器的次數，以及客戶端的請求被轉發(fā)的總的次數。

S22：根據請求分發(fā)信息配置日志文件。

本步驟中，能夠實現(xiàn)將請求的時間點之前的至少一個時間點的請求分發(fā)信息納入每個服務器評分值的考量范疇，能夠保證分布式服務器緩存的使用效率。

S23：在接收到客戶端發(fā)送的請求時，從日志文件中獲取與客戶端的標識對應的多個服務器的映射值。

在本發(fā)明的實施例中，多個服務器的映射值可以用于標記在請求的時間點之前的至少一個時間點的請求分發(fā)信息，其中，請求分發(fā)信息包括：在所述請求的時間點之前的至少一個時間點，以及在至少一個時間點中每個時間點上，客戶端的請求被轉發(fā)至每個服務器的次數。

進一步地，多個服務器中每個服務器在每個時間點上的映射值可以根據當前時間點、上述客戶端的請求被轉發(fā)至每個服務器的次數，以及上述客戶端的請求每次被轉發(fā)至分布式服務器中服務器時對應的時間點獲取。

具體公式例如，

$weight(customer,{\mathrm{server}}_i)=\underset{k=1}{\overset{m}{\Σ}}\frac{1}{t-t_k};$

其中，m表示客戶端customer發(fā)送的請求被轉發(fā)至分布式服務器中服務器server_i的次數，t表示當前時間點，t_k表示請求每次被轉發(fā)至分布式服務器中服務器server_i時對應的時間點。

S24：獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數。

可選地，假設服務器server_i在請求的時間點上的實際請求連接數為m'，且該服務器server_i所能承載的最大請求連接數為m，則根據下述公式得到服務器的負載指數為：

loadFactor(server_i)＝m'/m；

本步驟中，通過計算得到服務器的負載指數，可以不僅考慮請求的時間點上的映射值，而且綜合考慮每個服務器在請求的時間點上的負載指數，提升請求分發(fā)效果。

S25：對每個服務器的映射值和負載指數進行加權求和處理，以生成每個服務器的評分值。

在本發(fā)明的實施例中，可以根據預設公式對服務器的映射值和負載指數進行加權求和處理，以生成每個服務器的評分值，其中，預設公式為：

$Hit\left({\mathrm{server}}_i\right)=Max\{\mathrm{\α}\·weight(customer,{\mathrm{server}}_i)+(1-\mathrm{\α})\·\frac{1}{loadFactor\left({\mathrm{server}}_i\right)}\};$

其中，Hit(server_i)為每個服務器的評分值，α∈[0,1]為權重值，α可以根據經驗取值為0.6，或者，也可以取其他權重值，在此不作限制。

本步驟中，通過根據不同的權重值對每個服務器的映射值和負載指數進行加權求和處理，能夠有效提升該方法的靈活性及適用性。

S26：將每個服務器的評分值中最大的評分值對應的服務器作為目標服務器。

可選地，將每個服務器的評分值中最大的評分值對應的服務器作為目標服務器，以將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

S27：將請求分發(fā)至目標服務器。

可選地，將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

本實施例中，通過獲取請求的時間點之前的至少一個時間點的請求分發(fā)信息，根據請求分發(fā)信息配置日志文件，能夠實現(xiàn)將請求的時間點之前的至少一個時間點的請求分發(fā)信息納入每個服務器評分值的考量范疇，能夠保證分布式服務器緩存的使用效率。通過根據不同的權重值對每個服務器的映射值和負載指數進行加權求和處理，能夠有效提升該方法的靈活性及適用性。通過計算得到服務器的負載指數，可以不僅考慮請求的時間點上的映射值，而且綜合考慮每個服務器在請求的時間點上的負載指數，提升請求分發(fā)效果。通過在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值，獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數，根據每個服務器的映射值和負載指數生成每個服務器的評分值，以及根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

圖3是本發(fā)明一實施例提出的請求分發(fā)裝置的結構示意圖。該請求分發(fā)裝置300可以通過軟件、硬件或者兩者的結合實現(xiàn)。

參見圖3，該請求分發(fā)裝置300可以包括：第一獲取模塊310、第二獲取模塊320、生成模塊330，以及選取模塊340。其中，

第一獲取模塊310，用于在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值。

第二獲取模塊320，用于獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數。

生成模塊330，用于根據每個服務器的映射值和負載指數生成每個服務器的評分值。

選取模塊340，用于根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器。

一些實施例中，參見圖4，該請求分發(fā)裝置300還可以包括：

可選地，第一獲取模塊310包括：

第一獲取子模塊311，用于從日志文件中獲取與客戶端的標識對應的多個服務器的請求分發(fā)信息；

第二獲取子模塊312，用于根據所述請求的時間點和所述請求分發(fā)信息獲取所述多個服務器的映射值。

可選地，第二獲取模塊320具體用于：將對應的多個服務器中每個服務器在請求的時間點上的實際請求連接數，和服務器所能承載的最大請求連接數的比值作為負載指數。

可選地，生成模塊330具體用于：對每個服務器的映射值和負載指數進行加權求和處理，以生成每個服務器的評分值。

可選地，選取模塊340具體用于：將每個服務器的評分值中最大的評分值對應的服務器作為目標服務器。

可選地，日志文件通過以下模塊配置：

第三獲取模塊350，用于獲取請求的時間點之前的至少一個時間點的請求分發(fā)信息。

配置模塊360，用于根據請求分發(fā)信息配置日志文件，其中，請求分發(fā)信息包括：在所述請求的時間點之前的至少一個時間點，以及在至少一個時間點中每個時間點上，客戶端的請求被轉發(fā)至每個服務器的次數。

需要說明的是，前述圖1-圖2實施例中對請求分發(fā)方法實施例的解釋說明也適用于該請求分發(fā)裝置，其實現(xiàn)原理類似，此處不再贅述。

本實施例中，在接收到客戶端發(fā)送的請求時，獲取與客戶端的標識對應的多個服務器的映射值，獲取對應的多個服務器中每個服務器在請求的時間點上的負載指數，根據每個服務器的映射值和負載指數生成每個服務器的評分值，以及根據評分值從對應的多個服務器中選取目標服務器，并將請求分發(fā)至目標服務器，能夠實現(xiàn)結合服務器的映射值和負載指數對客戶端發(fā)送的請求進行分發(fā)，有效避免分布式服務器中單個服務器節(jié)點過載，且保障緩存的使用效率。

需要說明的是，在本發(fā)明的描述中，術語“第一”、“第二”等僅用于描述目的，而不能理解為指示或暗示相對重要性。此外，在本發(fā)明的描述中，除非另有說明，“多個”的含義是兩個或兩個以上。

流程圖中或在此以其他方式描述的任何過程或方法描述可以被理解為，表示包括一個或更多個用于實現(xiàn)特定邏輯功能或過程的步驟的可執(zhí)行指令的代碼的模塊、片段或部分，并且本發(fā)明的優(yōu)選實施方式的范圍包括另外的實現(xiàn)，其中可以不按所示出或討論的順序，包括根據所涉及的功能按基本同時的方式或按相反的順序，來執(zhí)行功能，這應被本發(fā)明的實施例所屬技術領域的技術人員所理解。

應當理解，本發(fā)明的各部分可以用硬件、軟件、固件或它們的組合來實現(xiàn)。在上述實施方式中，多個步驟或方法可以用存儲在存儲器中且由合適的指令執(zhí)行系統(tǒng)執(zhí)行的軟件或固件來實現(xiàn)。例如，如果用硬件來實現(xiàn)，和在另一實施方式中一樣，可用本領域公知的下列技術中的任一項或他們的組合來實現(xiàn)：具有用于對數據信號實現(xiàn)邏輯功能的邏輯門電路的離散邏輯電路，具有合適的組合邏輯門電路的專用集成電路，可編程門陣列(PGA)，現(xiàn)場可編程門陣列(FPGA)等。

本技術領域的普通技術人員可以理解實現(xiàn)上述實施例方法攜帶的全部或部分步驟是可以通過程序來指令相關的硬件完成，所述的程序可以存儲于一種計算機可讀存儲介質中，該程序在執(zhí)行時，包括方法實施例的步驟之一或其組合。

此外，在本發(fā)明各個實施例中的各功能單元可以集成在一個處理模塊中，也可以是各個單元單獨物理存在，也可以兩個或兩個以上單元集成在一個模塊中。上述集成的模塊既可以采用硬件的形式實現(xiàn)，也可以采用軟件功能模塊的形式實現(xiàn)。所述集成的模塊如果以軟件功能模塊的形式實現(xiàn)并作為獨立的產品銷售或使用時，也可以存儲在一個計算機可讀取存儲介質中。

上述提到的存儲介質可以是只讀存儲器，磁盤或光盤等。

在本說明書的描述中，參考術語“一個實施例”、“一些實施例”、“示例”、“具體示例”、或“一些示例”等的描述意指結合該實施例或示例描述的具體特征、結構、材料或者特點包含于本發(fā)明的至少一個實施例或示例中。在本說明書中，對上述術語的示意性表述不一定指的是相同的實施例或示例。而且，描述的具體特征、結構、材料或者特點可以在任何的一個或多個實施例或示例中以合適的方式結合。

盡管上面已經示出和描述了本發(fā)明的實施例，可以理解的是，上述實施例是示例性的，不能理解為對本發(fā)明的限制，本領域的普通技術人員在本發(fā)明的范圍內可以對上述實施例進行變化、修改、替換和變型。