本發(fā)明涉及互聯(lián)網(wǎng)技術(shù)領(lǐng)域，具體涉及一種聊天信息的處理方法和服務(wù)器。

背景技術(shù)：

隨著互聯(lián)網(wǎng)技術(shù)的不斷發(fā)展，通過網(wǎng)絡(luò)中的各種平臺、論壇、應(yīng)用等進行聊天會話已成為當(dāng)前互聯(lián)網(wǎng)用戶最常見的互動方式之一，目前，在各種聊天場景中，仍然存在大量的惡意用戶發(fā)布包含廣告、營銷、拉人、語言攻擊等不正當(dāng)意圖的聊天信息，還有很多是采用程序來發(fā)送長時間的刷屏信息，嚴重擾亂了聊天場景的正常秩序，損害了其他用戶的正當(dāng)利益。

如何在互聯(lián)網(wǎng)聊天交互場景中準(zhǔn)確有效地篩選出不合理的聊天信息以保障聊天環(huán)境的純凈性，是當(dāng)前亟待解決的問題。

技術(shù)實現(xiàn)要素：

鑒于上述問題，提出了本發(fā)明以便提供一種克服上述問題或者至少部分地解決上述問題的聊天信息的處理方法和服務(wù)器。

依據(jù)本發(fā)明的一個方面，提供了一種聊天信息的處理方法，其中，該方法包括：

通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中；

對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；

當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分 值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；

當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可選地，所述計算該聊天信息發(fā)布消息中的聊天信息的分值包括：

預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；

獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

可選地，所述獲取該聊天信息中的關(guān)鍵字包括：

對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；

對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

可選地，所述計算該聊天信息發(fā)布消息中的聊天信息的分值包括：

預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；

獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

可選地，該方法進一步包括：

當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中；

對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

可選地，所述將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中包括：根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；

則該方法進一步包括：對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

可選地，所述聊天信息發(fā)布消息中進一步包括：發(fā)布時間信息；

當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，該方法進一步包括：

從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的發(fā)布時間信息；

根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長度時，過濾該聊天信息發(fā)布消息，并將該用戶表示放入封禁名單中；

當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可選地，該方法進一步包括：

通過數(shù)據(jù)接口接收客戶端發(fā)送的聊天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息；

對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄；

當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。

依據(jù)本發(fā)明的另一個方面，還提供了一種聊天信息的處理服務(wù)器，其中，該服務(wù)器包括：

信息接收單元，適于通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中；

信息處理單元，適于對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可選地，信息處理單元，適于預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

可選地，信息處理單元，適于對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

可選地，信息處理單元，適于預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

可選地，信息處理單元，進一步適于當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中；對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

可選地，信息處理單元，適于根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；

信息處理單元，進一步適于對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

可選地，所述聊天信息發(fā)布消息中進一步包括：發(fā)布時間信息；

信息處理單元，進一步適于當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的發(fā)布時間信息；根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長度時，過濾該聊天信息發(fā)布消息，并將該用戶表示放入封禁名單中；當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可選地，信息接收單元，進一步適于通過數(shù)據(jù)接口接收客戶端發(fā)送的聊 天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息；

信息處理單元，進一步適于對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄；當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。

由上述可知，本發(fā)明提供的技術(shù)方案接收客戶端發(fā)送的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，根據(jù)該分值來判斷該聊天信息是否為合理的聊天信息，進一步地，還計算發(fā)送該聊天信息發(fā)布消息的用戶的歷史聊天信息的分值總和，根據(jù)該分值總和來判斷該用戶是否為正常用戶，通過以上判斷過濾不合理的聊天信息，過濾非正常的用戶發(fā)起的聊天信息。依據(jù)此方案，對每條聊天信息進行計分，對每個用戶進行累積計分，設(shè)定分值標(biāo)準(zhǔn)來衡量聊天信息的意圖是否正當(dāng)以及用戶的聊天行為是否合理，細化了對不合理聊天行為的判斷粒度，提高了判斷的準(zhǔn)確性，能夠更為精確有效地過濾不合理聊天行為。

上述說明僅是本發(fā)明技術(shù)方案的概述，為了能夠更清楚了解本發(fā)明的技術(shù)手段，而可依照說明書的內(nèi)容予以實施，并且為了讓本發(fā)明的上述和其它目的、特征和優(yōu)點能夠更明顯易懂，以下特舉本發(fā)明的具體實施方式。

附圖說明

通過閱讀下文優(yōu)選實施方式的詳細描述，各種其他的優(yōu)點和益處對于本領(lǐng)域普通技術(shù)人員將變得清楚明了。附圖僅用于示出優(yōu)選實施方式的目的，而并不認為是對本發(fā)明的限制。而且在整個附圖中，用相同的參考符號表示相同的部件。在附圖中：

圖1示出了根據(jù)本發(fā)明一個實施例的一種聊天信息的處理方法的流程圖；

圖2示出了根據(jù)本發(fā)明一個實施例的一種聊天信息的處理服務(wù)器的示意圖。

具體實施方式

下面將參照附圖更詳細地描述本公開的示例性實施例。雖然附圖中顯示了本公開的示例性實施例，然而應(yīng)當(dāng)理解，可以以各種形式實現(xiàn)本公開而不應(yīng)被這里闡述的實施例所限制。相反，提供這些實施例是為了能夠更透徹地理解本公開，并且能夠?qū)⒈竟_的范圍完整的傳達給本領(lǐng)域的技術(shù)人員。

圖1示出了根據(jù)本發(fā)明一個實施例的一種聊天信息的處理方法的流程圖。如圖1所示，該方法包括：

步驟s110：通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中。

其中，聊天信息發(fā)布消息中的用戶標(biāo)識標(biāo)示出相應(yīng)聊天信息的發(fā)布者，聊天信息即為所發(fā)布的聊天信息的文本內(nèi)容，發(fā)布范圍信息標(biāo)示出相應(yīng)聊天信息在什么平臺上發(fā)布，且標(biāo)示出能夠看到該聊天信息的用戶范圍；例如，一條聊天信息發(fā)布消息中包括：用戶標(biāo)識：“a”，聊天信息：“聊聊最近看的書”，發(fā)布范圍：論壇b中積分在1000分以上的用戶。

步驟s120：對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息。

其中，每條聊天信息的分值用于衡量該聊天信息的合理性，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，說明該聊天信息為不合理的聊天信息，應(yīng)當(dāng)進行過濾。

步驟s130：當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息。

其中，所述聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和是指：該用戶標(biāo)識對應(yīng)的用戶所有的歷史聊天信 息的分值總和，從總體反映該用戶在一段時間內(nèi)的聊天行為，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，說明該用戶在這一段時間內(nèi)的聊天行為構(gòu)成不合理現(xiàn)象，即該用戶可能是非正常用戶，則過濾該用戶發(fā)送的聊天信息。

步驟s140：當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可見，圖1所示的方法接收客戶端發(fā)送的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，根據(jù)該分值來判斷該聊天信息是否為合理的聊天信息，進一步地，還計算發(fā)送該聊天信息發(fā)布消息的用戶的歷史聊天信息的分值總和，根據(jù)該分值總和來判斷該用戶是否為正常用戶，通過以上判斷過濾不合理的聊天信息，過濾非正常的用戶發(fā)起的聊天信息。依據(jù)此方案，對每條聊天信息進行計分，對每個用戶進行累積計分，設(shè)定分值標(biāo)準(zhǔn)來衡量聊天信息的意圖是否正當(dāng)以及用戶的聊天行為是否合理，細化了對不合理聊天行為的判斷粒度，提高了判斷的準(zhǔn)確性，能夠更為精確有效地過濾不合理聊天行為。

在本發(fā)明的一個實施例中，步驟s120中所述計算該聊天信息發(fā)布消息中的聊天信息的分值包括：預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

例如，第一特征庫中預(yù)設(shè)廣告信息相關(guān)的關(guān)鍵字，并為各關(guān)鍵字設(shè)置超過了第一預(yù)設(shè)閾值的分值；則當(dāng)一個用戶發(fā)布的聊天信息發(fā)布消息中的聊天信息為廣告時，獲取該聊天信息的關(guān)鍵字，在第一特征庫中找到匹配的關(guān)鍵字的分值，超過第一預(yù)設(shè)閾值，過濾該聊天信息。同理，基于第一特征庫，可以識別出聊天信息中的營銷信息、拉人信息、語言攻擊信息等不正當(dāng)信息，進而進行相應(yīng)的過濾，保證了各種網(wǎng)絡(luò)平臺中的聊天信息的純凈性。

其中，上述獲取該聊天信息中的關(guān)鍵字包括：對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

在本發(fā)明的另一個實施例中，步驟s120中所述計算該聊天信息發(fā)布消息中的聊天信息的分值包括：預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

例如，第二特征庫中預(yù)設(shè)常見的廣告語式的正則表達式，并為各正則表達式設(shè)置超過第一預(yù)設(shè)閾值的分值；當(dāng)一個用戶發(fā)布的聊天信息發(fā)布消息中的聊天信息為常見廣告語式時，在第二特征庫中找到與該聊天信息匹配的正則表達式并獲取對應(yīng)的分值，超過第一預(yù)設(shè)閾值便過濾該聊天信息。同理，基于第二特征庫，可以識別出聊天信息中的營銷語式、拉人語式、語言攻擊語式等不正當(dāng)信息，進而進行相應(yīng)的過濾，保證了各種網(wǎng)絡(luò)平臺中的聊天信息的純凈性。

進一步地，在本發(fā)明的一個實施例中，圖1所示的方法還包括步驟s150，分為以下幾步：

步驟s151：當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中。

其中，所述封禁名單中的所有用戶標(biāo)識對應(yīng)的用戶均為被確認的不合理用戶，當(dāng)一個用戶在一段時間內(nèi)的歷史聊天信息的分值總和超過第二預(yù)設(shè)閾值，則確定該用戶在該段時間內(nèi)是不合理用戶，將其放入封禁名單中。

步驟s152：對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

其中，一個用戶的歷史聊天信息的分值總和超過第二預(yù)設(shè)閾值越高表示該用戶的聊天行為的不合理程度越高，則在本發(fā)明的一個實施例中，步驟s151中的所述將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中包括：根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；例如，分值總和越大設(shè)置封禁時間越長，則圖1所示的方法進一步包括：對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

或者，在其他實施例中，可以根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的解禁條件，例如，該解禁條件可以包括：通過充值進行解禁；用戶標(biāo)識對應(yīng)的分值總和越多，則設(shè)置其解禁條件越高。對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的解禁條件時，將該用戶標(biāo)識從封禁名單中刪除。本實施例依據(jù)通常情況下惡意用戶不愿意付出代價的特點，篩選出偶然執(zhí)行過不合理的聊天行為的正常用戶。

進一步地，在本發(fā)明的一個實施例中，步驟s110中所述聊天信息發(fā)布消息中還包括：發(fā)布時間信息；當(dāng)所述聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和未超過第二預(yù)設(shè)閾值時，圖1所示的方法還包括步驟s160，分為以下幾步：

步驟s161：從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的發(fā)布時間信息。

步驟s162：根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長度時，過濾該聊天信息發(fā)布消息，并將該用戶標(biāo)識放入封禁名單中。

步驟s163：當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

例如，在一個游戲論壇中，用戶a利用程序進行長時間刷屏干擾到其他用戶的正常聊天交互，通過檢測，發(fā)現(xiàn)用戶a對應(yīng)的每條聊天信息的分值沒有超過第一預(yù)設(shè)閾值，并且，用戶a在預(yù)設(shè)時間段內(nèi)對應(yīng)的所有聊天信息的分值總和也沒有超過第二預(yù)設(shè)閾值，此時，進一步檢測用戶a在預(yù)設(shè)時間段內(nèi)對應(yīng)的所有聊天信息的發(fā)布時間，發(fā)現(xiàn)用戶a所發(fā)布的每條聊天信息之間的時間間隔非常小，平均小于預(yù)設(shè)時間長度，說明該用戶a所進行的是利用程序進行長時間刷屏的惡意聊天行為，因此，將該用戶a的用戶標(biāo)識放入封禁名單中，以過濾該用戶a發(fā)布的聊天信息。

進一步地，在本發(fā)明的一個實施例中，圖1所示的方法還包括步驟s170，分為以下幾步：

步驟s171：通過數(shù)據(jù)接口接收客戶端發(fā)送的聊天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息。

步驟s172：對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄。

步驟s173：當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。

可見，本實施例進一步通過接收客戶端發(fā)送的聊天信息舉報消息來彌補上文所述方案中可能出現(xiàn)的判斷遺漏，在接收到聊天信息舉報消息后，對于聊天信息舉報消息中的聊天信息和相應(yīng)的用戶標(biāo)識對應(yīng)的歷史聊天信息重新進行計分評判，以獲得更準(zhǔn)確的判斷結(jié)果進行進行處理，對網(wǎng)絡(luò)平臺中現(xiàn)存的被遺漏的不正當(dāng)聊天信息和不合理用戶進行過濾，以保證其他正常用戶在所述網(wǎng)絡(luò)平臺上的用戶體驗。

圖2示出了根據(jù)本發(fā)明一個實施例的一種聊天信息的處理服務(wù)器的示意圖。如圖2所示，該聊天信息的處理服務(wù)器200包括：

信息接收單元210，適于通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中。

信息處理單元220，適于對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

可見，圖2所示的服務(wù)器接收客戶端發(fā)送的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，根據(jù)該分值來判斷該聊天信息是否為合理的聊天信息，進一步地，還計算發(fā)送該聊天信息發(fā)布消息的用戶的歷史聊天信息的分值總和，根據(jù)該分值總和來判斷該用戶是否為正常用戶，通 過以上判斷過濾不合理的聊天信息，過濾非正常的用戶發(fā)起的聊天信息。依據(jù)此方案，對每條聊天信息進行計分，對每個用戶進行累積計分，設(shè)定分值標(biāo)準(zhǔn)來衡量聊天信息的意圖是否正當(dāng)以及用戶的聊天行為是否合理，細化了對不合理聊天行為的判斷粒度，提高了判斷的準(zhǔn)確性，能夠更為精確有效地過濾不合理聊天行為。

在本發(fā)明的一個實施例中，信息處理單元220，適于預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

在本發(fā)明的一個實施例中，信息處理單元220，適于對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

在本發(fā)明的一個實施例中，信息處理單元220，適于預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

進一步地，在本發(fā)明的一個實施例中，信息處理單元220，還適于當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中；對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

在本發(fā)明的一個實施例中，信息處理單元220，適于根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；信息處理單元220，進一步適于對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

進一步地，在本發(fā)明的一個實施例中，所述聊天信息發(fā)布消息中還包括：發(fā)布時間信息；信息處理單元220，進一步適于當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用 戶標(biāo)識的發(fā)布時間信息；根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長度時，過濾該聊天信息發(fā)布消息，并將該用戶表示放入封禁名單中；當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

進一步地，在本發(fā)明的一個實施例中，信息接收單元210，還適于通過數(shù)據(jù)接口接收客戶端發(fā)送的聊天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息；信息處理單元220，還適于對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄；當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。

需要說明的是，圖2所示服務(wù)器的各實施例與圖1所示方法的各實施例對應(yīng)相同，上文中已有詳細說明，在此不再贅述。

綜上所述，本發(fā)明提供的技術(shù)方案接收客戶端發(fā)送的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，根據(jù)該分值來判斷該聊天信息是否為合理的聊天信息，進一步地，還計算發(fā)送該聊天信息發(fā)布消息的用戶的歷史聊天信息的分值總和，根據(jù)該分值總和來判斷該用戶是否為正常用戶，通過以上判斷過濾不合理的聊天信息，過濾非正常的用戶發(fā)起的聊天信息。依據(jù)此方案，對每條聊天信息進行計分，對每個用戶進行累積計分，設(shè)定分值標(biāo)準(zhǔn)來衡量聊天信息的意圖是否正當(dāng)以及用戶的聊天行為是否合理，細化了對不合理聊天行為的判斷粒度，提高了判斷的準(zhǔn)確性，能夠更為精確有效地過濾不合理聊天行為。

需要說明的是：

在此提供的算法和顯示不與任何特定計算機、虛擬裝置或者其它設(shè)備固有相關(guān)。各種通用裝置也可以與基于在此的示教一起使用。根據(jù)上面的描述，構(gòu)造這類裝置所要求的結(jié)構(gòu)是顯而易見的。此外，本發(fā)明也不針對任何特定 編程語言。應(yīng)當(dāng)明白，可以利用各種編程語言實現(xiàn)在此描述的本發(fā)明的內(nèi)容，并且上面對特定語言所做的描述是為了披露本發(fā)明的最佳實施方式。

在此處所提供的說明書中，說明了大量具體細節(jié)。然而，能夠理解，本發(fā)明的實施例可以在沒有這些具體細節(jié)的情況下實踐。在一些實例中，并未詳細示出公知的方法、結(jié)構(gòu)和技術(shù)，以便不模糊對本說明書的理解。

類似地，應(yīng)當(dāng)理解，為了精簡本公開并幫助理解各個發(fā)明方面中的一個或多個，在上面對本發(fā)明的示例性實施例的描述中，本發(fā)明的各個特征有時被一起分組到單個實施例、圖、或者對其的描述中。然而，并不應(yīng)將該公開的方法解釋成反映如下意圖：即所要求保護的本發(fā)明要求比在每個權(quán)利要求中所明確記載的特征更多的特征。更確切地說，如下面的權(quán)利要求書所反映的那樣，發(fā)明方面在于少于前面公開的單個實施例的所有特征。因此，遵循具體實施方式的權(quán)利要求書由此明確地并入該具體實施方式，其中每個權(quán)利要求本身都作為本發(fā)明的單獨實施例。

本領(lǐng)域那些技術(shù)人員可以理解，可以對實施例中的設(shè)備中的模塊進行自適應(yīng)性地改變并且把它們設(shè)置在與該實施例不同的一個或多個設(shè)備中?？梢园褜嵤├械哪K或單元或組件組合成一個模塊或單元或組件，以及此外可以把它們分成多個子模塊或子單元或子組件。除了這樣的特征和/或過程或者單元中的至少一些是相互排斥之外，可以采用任何組合對本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的所有特征以及如此公開的任何方法或者設(shè)備的所有過程或單元進行組合。除非另外明確陳述，本說明書(包括伴隨的權(quán)利要求、摘要和附圖)中公開的每個特征可以由提供相同、等同或相似目的的替代特征來代替。

此外，本領(lǐng)域的技術(shù)人員能夠理解，盡管在此所述的一些實施例包括其它實施例中所包括的某些特征而不是其它特征，但是不同實施例的特征的組合意味著處于本發(fā)明的范圍之內(nèi)并且形成不同的實施例。例如，在下面的權(quán)利要求書中，所要求保護的實施例的任意之一都可以以任意的組合方式來使用。

本發(fā)明的各個部件實施例可以以硬件實現(xiàn)，或者以在一個或者多個處理器上運行的軟件模塊實現(xiàn)，或者以它們的組合實現(xiàn)。本領(lǐng)域的技術(shù)人員應(yīng)當(dāng) 理解，可以在實踐中使用微處理器或者數(shù)字信號處理器(dsp)來實現(xiàn)根據(jù)本發(fā)明實施例的一種聊天信息的處理服務(wù)器中的一些或者全部部件的一些或者全部功能。本發(fā)明還可以實現(xiàn)為用于執(zhí)行這里所描述的方法的一部分或者全部的設(shè)備或者裝置程序(例如，計算機程序和計算機程序產(chǎn)品)。這樣的實現(xiàn)本發(fā)明的程序可以存儲在計算機可讀介質(zhì)上，或者可以具有一個或者多個信號的形式。這樣的信號可以從因特網(wǎng)網(wǎng)站上下載得到，或者在載體信號上提供，或者以任何其他形式提供。

應(yīng)該注意的是上述實施例對本發(fā)明進行說明而不是對本發(fā)明進行限制，并且本領(lǐng)域技術(shù)人員在不脫離所附權(quán)利要求的范圍的情況下可設(shè)計出替換實施例。在權(quán)利要求中，不應(yīng)將位于括號之間的任何參考符號構(gòu)造成對權(quán)利要求的限制。單詞“包含”不排除存在未列在權(quán)利要求中的元件或步驟。位于元件之前的單詞“一”或“一個”不排除存在多個這樣的元件。本發(fā)明可以借助于包括有若干不同元件的硬件以及借助于適當(dāng)編程的計算機來實現(xiàn)。在列舉了若干裝置的單元權(quán)利要求中，這些裝置中的若干個可以是通過同一個硬件項來具體體現(xiàn)。單詞第一、第二、以及第三等的使用不表示任何順序?？蓪⑦@些單詞解釋為名稱。

本發(fā)明公開了a1、一種聊天信息的處理方法，其中，該方法包括：

通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中；

對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；

當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；

當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

a2、如a1所述的方法，其中，所述計算該聊天信息發(fā)布消息中的聊天 信息的分值包括：

預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；

獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

a3、如a2所述的方法，其中，所述獲取該聊天信息中的關(guān)鍵字包括：

對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；

對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

a4、如a1所述的方法，其中，所述計算該聊天信息發(fā)布消息中的聊天信息的分值包括：

預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；

獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

a5、如a1所述的方法，其中，該方法進一步包括：

當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中；

對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

a6、如a5所述的方法，其中，所述將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中包括：根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；

則該方法進一步包括：對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

a7、如a1所述的方法，其中，所述聊天信息發(fā)布消息中進一步包括：發(fā)布時間信息；

當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，該方法進一步包括：

從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的發(fā)布時間信息；

根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長度時，過濾該聊天信息發(fā)布消息，并將該用戶表示放入封禁名單中；

當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

a8、如a1-a7中任一項所述的方法，其中，該方法進一步包括：

通過數(shù)據(jù)接口接收客戶端發(fā)送的聊天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息；

對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄；

當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。

本發(fā)明還公開了b9、一種聊天信息的處理服務(wù)器，其中，該服務(wù)器包括：

信息接收單元，適于通過數(shù)據(jù)接口接收各客戶端發(fā)送的聊天信息發(fā)布消息；每條聊天信息發(fā)布消息中包括：用戶標(biāo)識，聊天信息，發(fā)布范圍信息；將所述用戶標(biāo)識和聊天信息對應(yīng)保存到聊天信息數(shù)據(jù)庫中；

信息處理單元，適于對于當(dāng)前接收到的聊天信息發(fā)布消息，計算該聊天信息發(fā)布消息中的聊天信息的分值，當(dāng)該聊天信息的分值超過第一預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，過濾該聊天信息發(fā)布消息；當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

b10、如b9所述的服務(wù)器，其中，

信息處理單元，適于預(yù)設(shè)第一特征庫，所述第一特征庫中包括：多個關(guān)鍵字和各關(guān)鍵字對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息中的關(guān)鍵字與第一特征庫中的關(guān)鍵字相匹配，則將所匹配的關(guān)鍵字的分值作為該聊天信息的分值。

b11、如b10所述的服務(wù)器，其中，

信息處理單元，適于對該聊天信息進行簡化處理，包括：過濾該聊天信息中的無意義的字符，和/或，對該聊天信息進行相似信息轉(zhuǎn)換；對簡化處理后的聊天信息進行分詞處理，根據(jù)分詞處理結(jié)果提取出該聊天信息的關(guān)鍵字。

b12、如b9所述的服務(wù)器，其中，

信息處理單元，適于預(yù)設(shè)第二特征庫，所述第二特征庫中包括：多個正則表達式和各正則表達式對應(yīng)的分值；獲取該聊天信息中的關(guān)鍵字，如果該聊天信息的內(nèi)容與第二特征庫中的正則表達式相匹配，則將所匹配的正則表達式的分值作為該聊天信息的分值。

b13、如b9所述的服務(wù)器，其中，

信息處理單元，進一步適于當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，將該聊天信息發(fā)布消息所包含的用戶標(biāo)識放入封禁名單中；對于當(dāng)前接收到的聊天信息發(fā)布消息，判斷該聊天信息發(fā)布消息中包含的用戶標(biāo)識是否在封禁名單中，是則，直接過濾該聊天信息發(fā)布消息。

b14、如b13所述的服務(wù)器，其中，

信息處理單元，適于根據(jù)該用戶標(biāo)識對應(yīng)的分值總和設(shè)置該用戶標(biāo)識的封禁時間；

信息處理單元，進一步適于對于放入封禁名單中的每個用戶標(biāo)識，當(dāng)滿足該用戶標(biāo)識對應(yīng)的封禁時間時，將該用戶標(biāo)識從封禁名單中刪除。

b15、如b9所述的服務(wù)器，其中，所述聊天信息發(fā)布消息中進一步包括：發(fā)布時間信息；

信息處理單元，進一步適于當(dāng)該分值總和未超過第二預(yù)設(shè)閾值時，從聊天信息數(shù)據(jù)庫中獲取對應(yīng)于該聊天信息發(fā)布消息所包含的用戶標(biāo)識的發(fā)布時間信息；根據(jù)所獲取的各發(fā)布時間信息計算預(yù)設(shè)統(tǒng)計周期內(nèi)該用戶標(biāo)識對應(yīng)的用戶發(fā)出的聊天信息的平均時間間隔，當(dāng)該平均時間間隔小于預(yù)設(shè)時間長 度時，過濾該聊天信息發(fā)布消息，并將該用戶表示放入封禁名單中；當(dāng)該平均時間間隔不小于預(yù)設(shè)時間長度時，根據(jù)該聊天信息發(fā)布消息中的發(fā)布范圍信息將該聊天信息發(fā)布消息推送至相應(yīng)的各客戶端。

b16、如b9-b15中任一項所述的服務(wù)器，其中，

信息接收單元，進一步適于通過數(shù)據(jù)接口接收客戶端發(fā)送的聊天信息舉報消息，每條聊天信息舉報消息中包括：被舉報的用戶標(biāo)識，被舉報的聊天信息；

信息處理單元，進一步適于對于當(dāng)前接收到的聊天信息舉報消息，計算該聊天信息舉報消息中的被舉報的聊天信息的分值，當(dāng)該被舉報的聊天信息的分值超過第一預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄；當(dāng)該被舉報的聊天信息的分值未超過第一預(yù)設(shè)閾值時，計算聊天信息數(shù)據(jù)庫中對應(yīng)于該聊天信息舉報消息中的被舉報的用戶標(biāo)識的聊天信息的分值總和，當(dāng)該分值總和超過第二預(yù)設(shè)閾值時，刪除該被舉報的聊天信息的記錄，并將相應(yīng)的被舉報的用戶標(biāo)識放入封禁名單中。