本發(fā)明涉信息安全技術(shù)領(lǐng)域，尤其涉及一種信息管理方法及裝置。

背景技術(shù)：

融合通信業(yè)務(wù)的快速發(fā)展，大量語音、視頻類消息(即富媒體消息)在用戶間大量傳播。在帶給用戶全新業(yè)務(wù)體驗(yàn)的同時(shí)，使得的不良信息管控難度空前增大。

在2G(第二代手機(jī)通信技術(shù)規(guī)格)和3G(第三代手機(jī)通信技術(shù)規(guī)格)時(shí)代，不良信息管控主要針對(duì)文本消息和少量圖片，融合通信業(yè)務(wù)富媒體消息的數(shù)量將是傳統(tǒng)短彩信的數(shù)倍到數(shù)十倍。由于通信費(fèi)用大幅降低，大量富媒體消息以圖片、語音、視頻等多媒體形式進(jìn)行發(fā)送。

現(xiàn)有技術(shù)中，對(duì)不良信息的管控方法主要有：

根據(jù)內(nèi)容特征對(duì)消息進(jìn)行語義分析和識(shí)別；根據(jù)用戶發(fā)送規(guī)律進(jìn)行分辨，包括發(fā)送頻率，接收者離散度等，這類方法通常不能夠獨(dú)立使用進(jìn)行不良消息判別；基于用戶的社會(huì)網(wǎng)絡(luò)距離，利用用戶通信錄、通話記錄和消息收發(fā)記錄建立用戶社會(huì)網(wǎng)絡(luò)，通過用戶間的社會(huì)網(wǎng)絡(luò)距離來判別垃圾短信的可能性；根據(jù)用戶的反饋，通過記錄或上傳用戶對(duì)消息的處置方式來判別不良信息的可能性發(fā)現(xiàn)違規(guī)內(nèi)容。

在現(xiàn)有技術(shù)中，基于用戶發(fā)送規(guī)律和用戶標(biāo)記的管控方式需要在不良消息發(fā)送者發(fā)送一定數(shù)量的不良消息后才能夠判定不良消息發(fā)送者，不能夠有效維護(hù)用戶的業(yè)務(wù)健康體驗(yàn)；基于消息內(nèi)容的判別方式，由于業(yè)界富媒體內(nèi)容識(shí)別時(shí)間效率瓶頸，對(duì)富媒體內(nèi)容進(jìn)行全面內(nèi)容識(shí)別的時(shí)間效率較低，很難保障用戶的實(shí)時(shí)性體驗(yàn)；基于用戶社會(huì)網(wǎng)絡(luò)距離的方式，根據(jù)社會(huì)網(wǎng)絡(luò)距離的遠(yuǎn)近與不良消息發(fā)送的可能性并無必然邏輯關(guān)系，以此來判定不良消息的可能性與實(shí)際人類社會(huì)模式有一定差異，導(dǎo)致較高的誤判和漏判。

綜上，現(xiàn)有技術(shù)中信息管理方法存在效率低、可靠性差的問題。

技術(shù)實(shí)現(xiàn)要素：

本發(fā)明提供一種信息管理方法及裝置，用于解決現(xiàn)有技術(shù)中的不良信息管理方法存在效率低、可靠性差的問題。

本發(fā)明實(shí)施例提供一種信息管理方法，所述方法包括：

在收到發(fā)送方需要發(fā)送給接收方的消息后，根據(jù)發(fā)送方的標(biāo)識(shí)信息以及所述接收方的標(biāo)識(shí)信息，查找所述接收方對(duì)所述發(fā)送方的信任度；

判斷所述信任度是否大于信任度閾值，若所述接收方對(duì)所述發(fā)送方的信任度大于信任度閾值，則將所述消息發(fā)送給所述接收方；

其中，所述接收方對(duì)所述發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的。

本發(fā)明實(shí)施例中，根據(jù)接收方與發(fā)送方的信任度確定是否能夠?qū)l(fā)送方發(fā)送的信息發(fā)送給接收方，并且接收方與發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的，提高了對(duì)不良信息管理的準(zhǔn)確性以及實(shí)時(shí)性。

進(jìn)一步地，所述判斷所述信任度是否大于信任度閾值，還包括：

若所述接收方對(duì)所述發(fā)送方的信任度不大于信任度閾值，則將所述信息攔截。

本發(fā)明實(shí)施例中，若確定接收方對(duì)所述發(fā)送方的信任度不大于閾值，則認(rèn)為該信息為不良信息，需要將所述信息進(jìn)行攔截，保證了用戶之間通信的安全性。

進(jìn)一步地，所述將所述消息發(fā)送給所述接收方后，還包括：

將所述信息保存在判定數(shù)據(jù)庫中，從所述判定數(shù)據(jù)庫中查找到所述信息，并對(duì)所述信息進(jìn)行深層過濾，確定所述信息的深層過濾結(jié)果；

若所述信息的深層過濾結(jié)果與所述從信任度數(shù)據(jù)庫中查找接收方對(duì)所述發(fā)送方的信任度不一致，則根據(jù)所述信息的深層過濾結(jié)果更新所述信任度數(shù)據(jù)庫中所述信息的接收方對(duì)所述發(fā)送方的信任度。

本發(fā)明實(shí)施例中，在將消息發(fā)送到接收方后，將信息再次進(jìn)行深層過濾，并確定出信息的深層過濾結(jié)果，若深層過濾結(jié)果與所述從信任度數(shù)據(jù)庫中查找接收方對(duì)所述發(fā)送方的信任度不一致，則認(rèn)為該信息為不良信息，為了在下一次更好的判斷接收方對(duì)發(fā)送方的信任度，利用所述信息的深層過濾結(jié)果更新所述信任度數(shù)據(jù)庫中所述信息的接收方對(duì)所述發(fā)送方的信任度。

進(jìn)一步地，所述方法還包括：

根據(jù)接收方以及發(fā)送方之間的通信歷史記錄確定所述發(fā)送方與所述接收方的信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間存在通訊歷史記錄，且通訊次數(shù)大于通訊信任閾值時(shí)，則確定所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間不存在通訊歷史記錄，但接收方與發(fā)送方之間存在至少一個(gè)共同通訊用戶，且所述接收方與所述共同通訊用戶之間為直接信任關(guān)系，則確定所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系。

本發(fā)明實(shí)施例中，確定了接收方與發(fā)送方之間的信任關(guān)系，能夠更好的確定接收方與發(fā)送方之間的信任度。

進(jìn)一步地，述根據(jù)下列方式確定所述接收方對(duì)所述發(fā)送方的信任度：

若所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度根據(jù)所述接收方以及發(fā)送方之間的通信歷史記錄中交互的比例確定的；

若所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度是根據(jù)接收方與所述發(fā)送方各自的信譽(yù)度級(jí)別以及所述接收方與所述發(fā)送方的信任度確定的。

本發(fā)明實(shí)施例中，根據(jù)接收方以及發(fā)送方之間的通信歷史記錄確定所述發(fā)送方與所述接收方的信任關(guān)系以及信譽(yù)級(jí)別，并根據(jù)接收方以及發(fā)送方之間的信任關(guān)系和/或信譽(yù)級(jí)別確定接收方與所述發(fā)送方的信任度，更加準(zhǔn)確的描述了接收方和發(fā)送方在實(shí)際生活網(wǎng)絡(luò)中的信任關(guān)系，更加準(zhǔn)確的對(duì)不良信息進(jìn)行攔截與管理。

本發(fā)明還提供一種不良信息管理裝置，包括：

查找單元，用于在收到發(fā)送方需要發(fā)送給接收方的消息后，根據(jù)發(fā)送方的標(biāo)識(shí)信息以及所述接收方的標(biāo)識(shí)信息，查找所述接收方對(duì)所述發(fā)送方的信任度；

判斷單元，用于判斷所述信任度是否大于信任度閾值，若所述接收方對(duì)所述發(fā)送方的信任度大于信任度閾值，則將所述消息發(fā)送給所述接收方；

其中，所述接收方對(duì)所述發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的。

本發(fā)明實(shí)施例中，根據(jù)接收方與發(fā)送方的信任度確定是否能夠?qū)l(fā)送方發(fā)送的信息發(fā)送給接收方，并且接收方與發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的，提高了對(duì)不良信息管理的準(zhǔn)確性以及實(shí)時(shí)性。

進(jìn)一步地，所述判斷單元還用于：

若所述接收方對(duì)所述發(fā)送方的信任度不大于信任度閾值，則將所述信息攔截。

進(jìn)一步地，所述裝置還包括：

過濾單元，用于將所述信息保存在判定數(shù)據(jù)庫中，從所述判定數(shù)據(jù)庫中查找到所述信息，并對(duì)所述信息進(jìn)行深層過濾，確定所述信息的深層過濾結(jié)果；

若所述信息的深層過濾結(jié)果與所述從信任度數(shù)據(jù)庫中查找接收方對(duì)所述發(fā)送方的信任度不一致，則根據(jù)所述信息的深層過濾結(jié)果更新所述信任度數(shù)據(jù)庫中所述信息的接收方對(duì)所述發(fā)送方的信任度。

進(jìn)一步地，所述裝置還包括：

信任關(guān)系確定單元，用于根據(jù)接收方以及發(fā)送方之間的通信歷史記錄確定所述發(fā)送方與所述接收方的信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間存在通訊歷史記錄，且通訊次數(shù)大于通訊信任閾值時(shí)，則確定所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間不存在通訊歷史記錄，但接收方與發(fā)送方之間存在至少一個(gè)共同通訊用戶，且所述接收方與所述共同通訊用戶之間為直接信任關(guān)系，則確定所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系。

進(jìn)一步地，所述根據(jù)下列方式確定所述接收方對(duì)所述發(fā)送方的信任度：

若所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度根據(jù)所述接收方以及發(fā)送方之間的通信歷史記錄中交互的比例確定的；

若所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度是根據(jù)接收方與所述發(fā)送方各自的信譽(yù)度級(jí)別以及所述接收方與所述發(fā)送方的信任度確定的。

附圖說明

為了更清楚地說明本發(fā)明實(shí)施例中的技術(shù)方案，下面將對(duì)實(shí)施例描述中所需要使用的附圖作簡要介紹，顯而易見地，下面描述中的附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域的普通技術(shù)人員來講，在不付出創(chuàng)造性勞動(dòng)性的前提下，還可以根據(jù)這些附圖獲得其他的附圖。

圖1為本發(fā)明實(shí)施例提供一種信息管理方法的流程示意圖；

圖2為本發(fā)明實(shí)施例提供的通訊用戶之間的關(guān)聯(lián)關(guān)系的示意圖；

圖3為本發(fā)明實(shí)施例提供的一種確定用戶的信譽(yù)級(jí)別的流程示意圖；

圖4為本發(fā)明實(shí)施例提供的通訊用戶之間的信任路徑的示意圖；

圖5為本發(fā)明實(shí)施例提供一種信息管理裝置的結(jié)構(gòu)示意圖。

具體實(shí)施方式

為了使本發(fā)明的目的、技術(shù)方案和優(yōu)點(diǎn)更加清楚，下面將結(jié)合附圖對(duì)本發(fā)明作進(jìn)一步地詳細(xì)描述，顯然，所描述的實(shí)施例僅僅是本發(fā)明一部份實(shí)施例，而不是全部的實(shí)施例。基于本發(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒有做出創(chuàng)造性勞動(dòng)前提下所獲得的所有其它實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。

本發(fā)明提供一種信息管理方法，如圖1所示，包括：

步驟101，在收到發(fā)送方需要發(fā)送給接收方的消息后，根據(jù)發(fā)送方的標(biāo)識(shí)信息以及所述接收方的標(biāo)識(shí)信息，查找所述接收方對(duì)所述發(fā)送方的信任度；

步驟102，判斷所述信任度是否大于信任度閾值，若所述接收方對(duì)所述發(fā)送方的信任度大于信任度閾值，則將所述消息發(fā)送給所述接收方；

其中，所述接收方對(duì)所述發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的。

在本發(fā)明實(shí)施例中，發(fā)送方發(fā)送的消息包括接收方以及所述發(fā)送方的標(biāo)識(shí)信息，所述標(biāo)識(shí)信息可以為接收方以及發(fā)送方的IMSI(International Mobile Subscriber Identification Number，國際移動(dòng)用戶識(shí)別碼)或者其他可以標(biāo)識(shí)衛(wèi)接收方以及發(fā)送方設(shè)備的設(shè)備號(hào)，或者當(dāng)接收方與發(fā)送方為移動(dòng)終端時(shí)，接收方與發(fā)送方的標(biāo)識(shí)信息為接收方與發(fā)送方的移動(dòng)終端號(hào)碼，或者為接收方以及發(fā)送方用來辦理移動(dòng)業(yè)務(wù)時(shí)的身份證信息。

可選的，在本發(fā)明實(shí)施例中，用同一張身份證辦理的不同移動(dòng)終端號(hào)碼認(rèn)為是不同用戶。

在本發(fā)明實(shí)施例中，在接收到發(fā)送方發(fā)送的信息后，根據(jù)發(fā)送方和接收方的標(biāo)識(shí)信息，可選的，在本發(fā)明實(shí)施例中，發(fā)送方和接收方的標(biāo)識(shí)信息為移動(dòng)終端號(hào)碼，則根據(jù)所述發(fā)送方和接收方的移動(dòng)終端號(hào)碼，在信任度數(shù)據(jù)庫中查找所述接收方對(duì)發(fā)送方的信任度。

可選的，在本發(fā)明實(shí)施例中，信任度數(shù)據(jù)庫中保存了接收方對(duì)發(fā)送方的信任度，可選的，接收方為A用戶，信任度數(shù)據(jù)庫中保存了與A用戶之間與有直接聯(lián)系的聯(lián)系人，例如用戶A在一段時(shí)間內(nèi)發(fā)送并接受過用戶B的新消息，則稱B用戶為A用戶的常用聯(lián)系人，則信任數(shù)據(jù)庫中保存了A用戶的所有常用聯(lián)系人的信任度，例如C、D、E、F……，則信任庫中保存的A用戶對(duì)其常用聯(lián)系人的信任度如表1所示：

表1：A用戶對(duì)其常用聯(lián)系人的信任度

在本發(fā)明上述實(shí)施例中，用戶A為接收消息的接收方，用戶B、用戶C、用戶D、用戶E、用戶F等為用戶A的發(fā)送方，在上述實(shí)施例中，用戶A以及用戶B、用戶C、用戶D、用戶E、用戶F等的標(biāo)識(shí)信息為用戶A以及用戶B、用戶C、用戶D、用戶E、用戶F等的移動(dòng)終端號(hào)碼。

當(dāng)確定了接收方對(duì)所述發(fā)送方的信任度，需要判斷所述信任度是否大于信任度閾值，在本發(fā)明實(shí)施例中，信任度閾值可以根據(jù)用戶對(duì)消息的敏感度以及用戶的信譽(yù)級(jí)別確定，當(dāng)確定了信任度是否大于信任度閾值，則認(rèn)為該消息是安全消息，發(fā)送給接收方。

例如，在本發(fā)明實(shí)施例中，當(dāng)用戶A接收到的是用戶B發(fā)送的消息，并且根據(jù)表1查詢到用戶A對(duì)用戶B的信任度為N_B，若信任度閾值為N_threshold，確定了T_A→B>N_threshold，則將消息發(fā)送給用戶A，也就是說，用戶A能夠接收到用戶B的消息，即用戶A是對(duì)用戶B信任的，用戶A能夠接收用戶B發(fā)送的消息。

在本發(fā)明實(shí)施例中，當(dāng)確定了信任度是不大于信任度閾值，則認(rèn)為該消息是不良消息，則認(rèn)為接收方對(duì)發(fā)送方是不信任的，需要對(duì)該不良消息進(jìn)行攔截。

例如，用戶A接收到的消息來自于用戶C，根據(jù)表1查詢到用戶A對(duì)用戶C的信任度為T_A→C，且T_A→C≤N_threshold，則將該消息進(jìn)行攔截，也就是說，用戶A對(duì)用戶C的信任度較低，不接收用戶C發(fā)送的可能為不良消息的信息。

在本發(fā)明實(shí)施例中，不良消息可以包括以下幾類：

1、“違反法律”類信息：違背《中華人民共和國憲法》和《全國人大常委會(huì)關(guān)于維護(hù)互聯(lián)網(wǎng)安全的決定》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》所明文嚴(yán)禁的信息以及其它法律法規(guī)明文禁止傳播的各類信息；

2、“違反道德”類信息：違背社會(huì)主義精神文明建設(shè)要求、違背中華民族優(yōu)良文化傳統(tǒng)與習(xí)慣以及其它違背社會(huì)公德的各類信息，包括文字、圖片、音視頻等等；

3、破壞信息安全類信息：含有病毒、木馬、后門的高風(fēng)險(xiǎn)類信息，對(duì)訪問者電腦及數(shù)據(jù)構(gòu)成安全威脅的信息。

在本發(fā)明實(shí)施例中，所述接收方對(duì)所述發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的。

在本發(fā)明中，首先需要建立用戶的信譽(yù)模型，計(jì)算用戶的信譽(yù)級(jí)別，由于用戶之間可能不是直接關(guān)聯(lián)，例如，如圖2所示，用戶A與用戶C之間為直接關(guān)聯(lián)，即用戶A與用戶C之間進(jìn)行過通訊，用戶A與用戶B之間為直接關(guān)聯(lián)，即用戶B與用戶A之間進(jìn)行過通訊，用戶C與用戶M之間為直接關(guān)聯(lián)，即用戶C與用戶M之間進(jìn)行過通訊，用戶C與用戶N之間為直接關(guān)聯(lián)，即用戶C與用戶N之間進(jìn)行過通訊，則用戶A與用戶M、用戶N之間為間接關(guān)聯(lián)。則還需要計(jì)算用戶之間的信任傳遞。

首先需要定義的是用戶的信譽(yù)以及信譽(yù)云模型，在本發(fā)明上述實(shí)施例中，已經(jīng)確定了用戶的常用聯(lián)系人，根據(jù)用戶的常用聯(lián)系人，還可以確定用戶的常用聯(lián)系人分布率。

例如，在一段時(shí)間段內(nèi)，用戶A共發(fā)送了用戶A共發(fā)送了z條新消息，其中n條新消息是發(fā)送給常用聯(lián)系人列表中的k個(gè)用戶，p_i為發(fā)送給常用聯(lián)系人中某個(gè)用戶的新消息數(shù)量，i的范圍為[1,k]，則稱為用戶A在這段時(shí)間內(nèi)常用聯(lián)系人分布率。

在定義了用戶A在一段時(shí)間內(nèi)的常用聯(lián)系人分布率后，還需要計(jì)算用戶A在一段時(shí)間內(nèi)的收方分布率，例如，如在一段時(shí)間內(nèi)，用戶A共發(fā)送z條新消息，其中b條不是發(fā)送給常用聯(lián)系人的，這b條的接收方為w個(gè)手機(jī)用戶，q_j為發(fā)送給手機(jī)用戶j的新消息數(shù)量，j的范圍為[1,w]則稱為用戶A的收方分布率。

在定義了用戶的發(fā)送的常用聯(lián)系人的分布率以及接收的常用聯(lián)系人的分布率后，可以定義用戶A的信譽(yù)模型為R_A:

R_A＝(h,i,c,l,s,w)_A

其中，h為對(duì)A用戶進(jìn)行處置的數(shù)量，即用戶因發(fā)送不良消息被關(guān)停用戶或者其它操作的次數(shù)；

i為攔截A用戶發(fā)出的垃圾信息信息數(shù)量；

c為10086收到投訴A用戶發(fā)送垃圾信息的投訴次數(shù)，其中，同一用戶對(duì)同一內(nèi)容的投訴不重復(fù)計(jì)數(shù)；

l為A用戶的常用聯(lián)系人的分布率；

s為A用戶的收方分布率；

w為A用戶使用的移動(dòng)終端被舉報(bào)數(shù)量，同一用戶對(duì)同一內(nèi)容的舉報(bào)不重復(fù)計(jì)數(shù)。

定義了用戶的信譽(yù)模型后，還需要將所有用戶的信譽(yù)模型進(jìn)行大規(guī)模統(tǒng)計(jì)，形成信譽(yù)云模型，針對(duì)用戶A的信譽(yù)云模型Ru_A為：

Ru_A＝(hu,iu,cu,lu,su,wu)_A

其中，

對(duì)于任意用戶A在某一時(shí)間段t內(nèi)的信譽(yù)云為則稱為用戶A的信譽(yù)云滴，則用戶A在N個(gè)時(shí)間段(t₁,t₂,...,t_N)的信譽(yù)云滴為

在定義了用戶的信譽(yù)云數(shù)字特征后，還需要計(jì)算用戶的信譽(yù)云數(shù)字特征，例如用戶A在N個(gè)時(shí)間段(t₁,t₂,...,t_N)的信譽(yù)云滴為則信譽(yù)云滴在屬性j上的值分別為(j₁,j₂,...,j_N)，定義用戶A在屬性j上的云數(shù)字特征為(Ex_j,En_j,He_j)：

En_j＝(π/2)^1/2×B

其中：

若存在j_N個(gè)屬性，則計(jì)算用戶A在每個(gè)屬性的云數(shù)字特征，就能夠得到用戶A的信譽(yù)云數(shù)字特征，用下列公式表示：

Cloud(Ex_h,Ex_i,Ex_c,Ex_l,Ex_s,Ex_w,En_h,En_i,En_c,En_l,En_s,En_w,He_h,He_i,He_c,He_l,He_s,He_w)_A

可選的，在本發(fā)明實(shí)施例中，還可以定義屬性j為用戶A的信譽(yù)云中參數(shù)，即j₁為信譽(yù)云滴在用戶A的信譽(yù)云中hu的屬性上的值，j₂為信譽(yù)云滴在用戶A的信譽(yù)云中iu的屬性上的值，j₃為信譽(yù)云滴在用戶A的信譽(yù)云中cu的屬性上的值，j₄為信譽(yù)云滴在用戶A的信譽(yù)云中l(wèi)u的屬性上的值，j₅為信譽(yù)云滴在用戶A的信譽(yù)云中su的屬性上的值，j₆為信譽(yù)云滴在用戶A的信譽(yù)云中wu的屬性上的值。

則可以對(duì)用戶A的信譽(yù)云特征可以用用戶A的期望值{Ex_j|j＝1，…，6}，用戶A的熵{En_j|j＝1，…，6}，用戶A的超熵{He_j|j＝1，…，6}來表示，即用戶A的信譽(yù)云數(shù)字特征為C_A(Ex_j，En_j,He_j)。

其中，用戶A的期望值為(Ex_hu,Ex_iu,Ex_cu,Ex_lu,Ex_su,Ex_wu)，用戶A的熵為(En_hu,En_iu,En_cu,En_lu,En_su,En_wu)，用戶A的超熵為(He_hu,He_iu,He_cu,He_lu,He_su,He_wu)。

在確定了用戶的信譽(yù)云數(shù)字特征后，還需要確定信譽(yù)級(jí)別的基準(zhǔn)云，利用信譽(yù)級(jí)別的基準(zhǔn)云，能夠確定所有通訊用戶的信譽(yù)級(jí)別的基準(zhǔn)，即所有通訊用戶的一個(gè)平均信譽(yù)級(jí)別。

選取具有共同信譽(yù)特征的m個(gè)用戶，在本發(fā)明實(shí)施例中，共同信譽(yù)特征為m個(gè)具有共同信譽(yù)特征的用戶的信譽(yù)云的數(shù)字特征為(C₁,C₂,...C_m)，將這m個(gè)云合并成為云模型C^B，在本發(fā)明實(shí)施例中，確定云模型C^B在屬性j上云數(shù)字特征為其中：

則稱云模型C^B則稱云模型C^B該類信譽(yù)特征的的基準(zhǔn)云，簡稱信譽(yù)級(jí)別基準(zhǔn)云。

在本發(fā)明實(shí)施例中，可以根據(jù)用戶的通訊習(xí)慣將用戶的信譽(yù)特征分為三類，一類是用戶正常進(jìn)行短信的收發(fā)以及撥打以及接聽電話，該類用戶可以認(rèn)為是信譽(yù)特征高的用戶；一類是用戶只發(fā)送短信或者，只撥出電話，該類用戶可以認(rèn)為信譽(yù)級(jí)別較低；還有一類用戶是在正常的短信的收發(fā)以及撥打以及接聽電話之中還會(huì)發(fā)送廣告或者其它不良消息，則該類用戶的信譽(yù)為中。

在本發(fā)明實(shí)施例中，可選的，可以選取具有共同信譽(yù)特征的三類用戶，所選的三類用戶分別對(duì)應(yīng)高、中、低三類信譽(yù)。對(duì)于每類信譽(yù)的用戶，計(jì)算每個(gè)用戶的信譽(yù)云數(shù)字特征，再計(jì)算出三個(gè)信譽(yù)級(jí)別的基準(zhǔn)云數(shù)字特征。三類信譽(yù)級(jí)別基準(zhǔn)云分別用C^H，C^M，C^L表示，分別代表高信譽(yù)、中信譽(yù)和低信譽(yù)的基準(zhǔn)云。

當(dāng)然，在本發(fā)明實(shí)施例中，只認(rèn)為用戶的信譽(yù)級(jí)別可以分為三類，在實(shí)際中，也可以根據(jù)實(shí)際情況對(duì)用戶信譽(yù)級(jí)別進(jìn)行多個(gè)分類，在此不做贅述。

在本發(fā)明實(shí)施例中，用戶信譽(yù)級(jí)別在不同的時(shí)間段可能具有不同的特性，實(shí)際評(píng)估中應(yīng)該將近期信譽(yù)情況作為用戶信譽(yù)評(píng)級(jí)的重要參考，距離當(dāng)前時(shí)間越遠(yuǎn)的信譽(yù)情況作為參考的程度越低。在對(duì)用戶進(jìn)行信譽(yù)度評(píng)估時(shí)，引入時(shí)間因子進(jìn)行計(jì)算。

在本發(fā)明實(shí)施例中，對(duì)用戶A進(jìn)行信譽(yù)計(jì)算的時(shí)間段設(shè)為T，以t做為計(jì)算信譽(yù)的單位時(shí)間，將時(shí)間段T按時(shí)間先后劃分為m個(gè)分段t₁,t₂,…t_m，用戶A在時(shí)間段t_k的時(shí)間因子為w_k，k的范圍為[1,m]:

其中，d為阻尼系數(shù)，阻尼系數(shù)決定了用戶A的歷史情況在信譽(yù)評(píng)價(jià)中的重要程度。

在計(jì)算出用戶在時(shí)間段t_k的時(shí)間因子為w_k后，確定用戶的信譽(yù)云相似度，對(duì)于用戶A在某段時(shí)間T，將時(shí)間段T按時(shí)間先后劃分為m個(gè)分段t₁,t₂,…t_m，其中用戶A的信譽(yù)云的數(shù)字特征為C^A，用戶A的信譽(yù)特征的基準(zhǔn)云為C^B，則定義了為用戶A的信譽(yù)云的數(shù)字特征為C^A，用戶A的信譽(yù)特征的基準(zhǔn)云為C^B的相似度：

其中，用戶A的信譽(yù)級(jí)別基準(zhǔn)云為：

用戶A在時(shí)間段t_k的信譽(yù)云數(shù)字特征為：

在本發(fā)明實(shí)施例中，定義了用戶的云滴，用戶的信譽(yù)云數(shù)字特征以及用戶的信譽(yù)級(jí)別基準(zhǔn)云以及用戶信譽(yù)特征的基準(zhǔn)云的相似度后，可以根據(jù)下列方法確定該用戶的信譽(yù)級(jí)別，在本發(fā)明實(shí)施例中，信譽(yù)級(jí)別包括信譽(yù)級(jí)別為高級(jí)別，對(duì)應(yīng)的信譽(yù)級(jí)別基準(zhǔn)云為C^H，信譽(yù)級(jí)別為低級(jí)別，則對(duì)應(yīng)的信譽(yù)級(jí)別基準(zhǔn)云為C^L，信譽(yù)級(jí)別為中級(jí)別，則對(duì)應(yīng)的信譽(yù)級(jí)別基準(zhǔn)云為C^M，η(1≥η≥0)，為信譽(yù)級(jí)別相似度最小差值，由本行業(yè)的技術(shù)人員根據(jù)實(shí)際工程經(jīng)驗(yàn)設(shè)定，在本發(fā)明實(shí)施例中，可以取η＝0.5，如圖3所示，包括：

步驟301，計(jì)算用戶的云滴，在本發(fā)明實(shí)施例中，以用戶A為例，用戶A的云滴為ru_A＝(hu,iu,cu,lu,su,wu)_A，其中ru_A∈Ru_A,即用戶A的云滴屬于用戶A的信譽(yù)云模型；

步驟302，將時(shí)間段T按時(shí)間先后劃分為m個(gè)分段t₁,t₂,…t_m，其中根據(jù)用戶A的云滴計(jì)算周期T內(nèi)用戶A的信譽(yù)云數(shù)字特征C^B；

步驟303，計(jì)算用戶A的信譽(yù)云數(shù)字特征C^B和三類信譽(yù)級(jí)別基準(zhǔn)云C^H，C^M和C^L的相似度和

步驟304，判斷是否存在并且存在并且f≠g，且滿足且η＝0.5，若存在，即如果用戶A與某個(gè)基準(zhǔn)云的相似度最高，且相似度明顯高于與另兩個(gè)基準(zhǔn)云的相似度，則執(zhí)行步驟305；否則執(zhí)行步驟306；

步驟305，確定對(duì)應(yīng)的基準(zhǔn)云就是A用戶的信譽(yù)級(jí)別，也就是說對(duì)應(yīng)的三類信譽(yù)級(jí)別基準(zhǔn)云就是用戶A的信譽(yù)級(jí)別；

步驟306，判斷是否存在并且存在且且η＝0.5，若存在，也就是在本發(fā)明實(shí)施例中，存在以及兩個(gè)相似度，是最高相似度，是次高相似度，則執(zhí)行步驟307；否則執(zhí)行步驟310；

步驟307，計(jì)算用戶A與信譽(yù)級(jí)別u及v的屬性相似度以及其中j＝1,…,6；

步驟308，判斷是否若存在若存在，則執(zhí)行步驟309；否則執(zhí)行步驟311；

步驟309，確定用戶A的信譽(yù)級(jí)別為u對(duì)應(yīng)的基準(zhǔn)云級(jí)別；

步驟310，取u和v中對(duì)應(yīng)較低級(jí)別的信譽(yù)級(jí)別作為用戶A的信譽(yù)級(jí)別；

步驟311，將用戶A的信譽(yù)級(jí)別設(shè)置為低信譽(yù)級(jí)別。

在本發(fā)明實(shí)施例中，計(jì)算信譽(yù)級(jí)別可以更好的識(shí)別用戶在通訊過程中發(fā)送的消息否屬于不良消息，在本發(fā)明實(shí)施例中，若用戶的信譽(yù)級(jí)別為信譽(yù)級(jí)別的高級(jí)別，則認(rèn)為該用戶是可以信任的，該用戶發(fā)送的消息為可信任消息；若用戶的信譽(yù)級(jí)別為級(jí)別的最低級(jí)，則認(rèn)為該用戶是不可信任的，該用戶發(fā)送的消息為不良消息的可能性較大。

綜上所述，在本發(fā)明實(shí)施例中，對(duì)于任意用戶A，用戶A的信譽(yù)度為R_A，

其中，δ、θ為信譽(yù)級(jí)別因子，且滿足1＞δ＞θ。具體數(shù)值可由本領(lǐng)域的技術(shù)人員根據(jù)實(shí)際情況設(shè)定。

本發(fā)明實(shí)施例中，通信用戶間存在多種業(yè)務(wù)模式進(jìn)行溝通，包括消息，通話和朋友圈等多種業(yè)務(wù)模式，這些通過不同的業(yè)務(wù)模式用戶之間進(jìn)行通訊稱為用戶交互方式。

在確定了用戶的信譽(yù)級(jí)別以及信譽(yù)度后，還需要確定在通訊業(yè)務(wù)中多個(gè)用戶之間的信任關(guān)系，例如，如圖2所示，用戶之間存在著直接關(guān)聯(lián)以及間接關(guān)聯(lián)的關(guān)系，如何確定用戶之間存在的間接關(guān)聯(lián)關(guān)系的用戶之間的關(guān)聯(lián)關(guān)系，在本發(fā)明實(shí)施例中，首先要確定所有通訊用戶之間的通訊交互量。

在本發(fā)明實(shí)施例中，用戶p與用戶q之間，如對(duì)于某種用戶交互方式v，存在s個(gè)p向q發(fā)起的交互，以及t個(gè)q向p發(fā)起的交互，設(shè)u＝min(s，t)，稱u為用戶p和用戶q之間基于交互方式v的交互量，記為

在本發(fā)明實(shí)施例中，對(duì)于用戶p的聯(lián)系人集合(q₁,q₂,…q_n)，對(duì)于交互方式v，存在用戶p和q_i的交互量其中i∈[1,n]，并且存在一個(gè)最小k(k≤n)，滿足：

其中，則稱用戶p與用戶f₁,f₂,…,f_k之間分別存在直接信任關(guān)系。

在本發(fā)明實(shí)施例中，如果用戶p和用戶q之間存在的交互方式為直接通話或消息收發(fā)，則用戶p對(duì)用戶q之間可以計(jì)算直接信任強(qiáng)度，定義直接信任強(qiáng)度T_p→q為:

其中，vi為用戶p和用戶q之間的某一種交互方式，即直接通話或消息收發(fā)，為用戶p和用戶q發(fā)起的vi交互方式的數(shù)量，為用戶q和用戶p發(fā)起的vi業(yè)務(wù)的數(shù)量，α(vi)為vi交互方式所占的權(quán)重，例如，在本發(fā)明實(shí)施例中，可以設(shè)置直接通話的交互方式的權(quán)重為0.6，則消息接收的交互方式的權(quán)重為0.4。

在本發(fā)明上述實(shí)施例中，確定了有直接關(guān)聯(lián)關(guān)系的兩個(gè)用戶，例如圖2中，用戶A與用戶B、用戶A與用戶C之間計(jì)算用戶之間的信任關(guān)系，以及計(jì)算用戶之間的信任強(qiáng)度，也就是說，在本發(fā)明實(shí)施例中，若用戶之間存在的信任關(guān)系是直接信任關(guān)系，則將用戶之間的通信歷史記錄中交互的比例確定用戶之間的信任度，即用戶之間的直接信任強(qiáng)度就是所述用戶之間的信任度。

對(duì)于圖2中，用戶A與用戶M之間存在間接關(guān)聯(lián)關(guān)系，確定用戶A與用戶M之間的信任關(guān)系需要通過用戶A與用戶C之間的信任關(guān)系以及用戶C與用戶M之間的信任關(guān)系進(jìn)行確認(rèn)。

在本發(fā)明實(shí)施例中，對(duì)于用戶p和用戶q之間，不存在任何的交互方式進(jìn)行通訊，但是存在用戶a₁,a₂,…,a_n，如圖4所示，任意有向邊的兩個(gè)節(jié)點(diǎn)a_i之間存在直接信任關(guān)系，其中a_i∈{p,a₁,a₂,…,a_n,q}，則稱圖4為從用戶p到用戶q的信任路徑。

也就是，在本發(fā)明實(shí)施例中，雖然用戶p和用戶q之間，不存在任何的交互方式進(jìn)行通訊，但由于用戶p和用戶q之間存在信任路徑，還是可以根據(jù)任意有向邊的兩個(gè)節(jié)點(diǎn)a_i之間存在直接信任關(guān)系確定用戶p對(duì)用戶q的信任度。

可選的，在本發(fā)明實(shí)施例中，根據(jù)六度空間理論可以得知，你和任何一個(gè)陌生人之間所間隔的人不會(huì)超過六個(gè)，也就是說，最多通過五個(gè)中間人你就能夠認(rèn)識(shí)任何一個(gè)陌生人。在本發(fā)明實(shí)施例中，根據(jù)六度空間理論，任何兩個(gè)人之間所間隔的人不會(huì)超過六個(gè)。在實(shí)際計(jì)算中，并不需要窮舉用戶p和用戶q之間的所有信任路徑，只需要考慮用戶p和用戶q之間n≤9的信任路徑。

在本發(fā)明實(shí)施例中，根據(jù)用戶p到用戶q的信任路徑可以計(jì)算出用戶p對(duì)用戶q的信任度T_p→q，

本發(fā)明上述實(shí)施例中，一般性的，用戶p到用戶q之間存在多條信任路徑(rt₁，rt₂，…，rt_n)，則用戶p對(duì)用戶q的信任度T_p→q為：

其中，為基于路徑rt_i的信任度，為信任路徑rt_i除去用戶p以外所有用戶的信譽(yù)度之和，|ψ|為集合ψ的基數(shù)。

也就是說，在本發(fā)明實(shí)施例中，可以通過p到用戶q的信任路徑，確定p對(duì)用戶q的信任度T_p→q，可以更加準(zhǔn)確的確定在通訊過程中兩個(gè)用戶之間的信任度。

可選的，在本發(fā)明實(shí)施例中，可以將根據(jù)現(xiàn)實(shí)中用戶之間通訊的關(guān)系確定，若兩個(gè)用戶之間為間接關(guān)聯(lián)關(guān)系，且兩個(gè)用戶之間通過3條信任路徑還沒有關(guān)聯(lián)到，則認(rèn)為兩個(gè)用戶之間的信任度為0。

綜上所述，在本發(fā)明實(shí)施例中，若兩個(gè)用戶之間的信任關(guān)系為直接信任關(guān)系，則將兩個(gè)用戶之間的直接信任強(qiáng)度作為兩個(gè)用戶之間的信任度；而當(dāng)兩個(gè)用戶之間為間接信任關(guān)系時(shí)，則利用兩個(gè)用戶之間的信任路徑以及兩個(gè)用戶與信任路徑中的其它用戶的信任度確定兩個(gè)用戶之間的信任度。

在本發(fā)明實(shí)施例中，計(jì)算的用戶之間的信任度保存在信任度數(shù)據(jù)庫中，可以根據(jù)用戶之間的標(biāo)識(shí)信息在信任度數(shù)據(jù)庫中查找到用戶之間的信任度。假設(shè)用戶A為消息的接收用戶，用戶B為消息的發(fā)送用戶，若根據(jù)用戶A以及用戶B的標(biāo)識(shí)信息在信任度數(shù)據(jù)庫中查詢到的用戶A對(duì)用戶B的信任度為T_A→B，若T_A→B不大于信任度閾值，則將消息發(fā)送給用戶A，用戶A能夠正常的接收到用戶B發(fā)送的消息。

可選的，在本發(fā)明實(shí)施例中，將消息發(fā)送給用戶A后，還需要將信息保存在信息判定數(shù)據(jù)庫中，為了能夠在空閑時(shí)再對(duì)消息進(jìn)行深層過濾。在本發(fā)明實(shí)施例中，當(dāng)確定空閑時(shí)，將信息從信息判定數(shù)據(jù)庫中調(diào)出，然后根據(jù)若根據(jù)用戶A以及用戶B的標(biāo)識(shí)信息在信任度數(shù)據(jù)庫中查詢到的用戶A對(duì)用戶B的信任度為若與T_A→B不相等，則將作為用戶A對(duì)用戶B的信任度。

可選的，在本發(fā)明實(shí)施例中，在空閑時(shí)，計(jì)算的與T_A→B不相等的原因包括用戶B在這段時(shí)間內(nèi)的信譽(yù)發(fā)生了變化，或者用戶B與用戶A之間的信任路徑中有用戶的信譽(yù)發(fā)生了變化，利用深層過濾能夠更加準(zhǔn)確的更新用戶之間的信任度，有效的攔截不良消息。

基于相同的發(fā)明構(gòu)思，本發(fā)明實(shí)施例還提供不良信息管理裝置，該裝置可以執(zhí)行上述方法，如圖5所示，包括：

查找單元501，用于在收到發(fā)送方需要發(fā)送給接收方的消息后，根據(jù)發(fā)送方的標(biāo)識(shí)信息以及所述接收方的標(biāo)識(shí)信息，查找所述接收方對(duì)所述發(fā)送方的信任度；

判斷單元502，用于判斷所述信任度是否大于信任度閾值，若所述接收方對(duì)所述發(fā)送方的信任度大于信任度閾值，則將所述消息發(fā)送給所述接收方；

其中，所述接收方對(duì)所述發(fā)送方的信任度是根據(jù)所述接收方和發(fā)送方之間的信譽(yù)級(jí)別和/或所述接收方和發(fā)送方之間的信任關(guān)系確定的。

進(jìn)一步地，所述判斷單元502還用于：

若所述接收方對(duì)所述發(fā)送方的信任度不大于信任度閾值，則攔截所述信息。

進(jìn)一步地，所述裝置還包括：

過濾單元503，用于將所述信息保存在判定數(shù)據(jù)庫中，從所述判定數(shù)據(jù)庫中查找到所述信息，并對(duì)所述信息進(jìn)行深層過濾，確定所述信息的深層過濾結(jié)果；

若所述信息的深層過濾結(jié)果與所述從信任度數(shù)據(jù)庫中查找接收方對(duì)所述發(fā)送方的信任度不一致，則根據(jù)所述信息的深層過濾結(jié)果更新所述信任度數(shù)據(jù)庫中所述信息的接收方對(duì)所述發(fā)送方的信任度。

進(jìn)一步地，所述裝置還包括：

信任關(guān)系確定單元504，用于根據(jù)接收方以及發(fā)送方之間的通信歷史記錄確定所述發(fā)送方與所述接收方的信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間存在通訊歷史記錄，且通訊次數(shù)大于通訊信任閾值時(shí)，則確定所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系；

若確定所述接收方與所述發(fā)送方之間不存在通訊歷史記錄，但接收方與發(fā)送方之間存在至少一個(gè)共同通訊用戶，且所述接收方與所述共同通訊用戶之間為直接信任關(guān)系，則確定所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系。

進(jìn)一步地，所述根據(jù)下列方式確定所述接收方對(duì)所述發(fā)送方的信任度：

若所述發(fā)送方與所述接收方的信任關(guān)系為直接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度根據(jù)所述接收方以及發(fā)送方之間的通信歷史記錄中交互的比例確定的；

若所述發(fā)送方與所述接收方的信任關(guān)系為間接信任關(guān)系，則所述發(fā)送方與所述接收方的信任度是根據(jù)接收方與所述發(fā)送方各自的信譽(yù)度級(jí)別以及所述接收方與所述發(fā)送方的信任度確定的。

本發(fā)明是參照根據(jù)本發(fā)明實(shí)施例的方法、設(shè)備(系統(tǒng))、和計(jì)算機(jī)程序產(chǎn)品的流程圖和/或方框圖來描述的。應(yīng)理解可由計(jì)算機(jī)程序指令實(shí)現(xiàn)流程圖和/或方框圖中的每一流程和/或方框、以及流程圖和/或方框圖中的流程和/或方框的結(jié)合。可提供這些計(jì)算機(jī)程序指令到通用計(jì)算機(jī)、專用計(jì)算機(jī)、嵌入式處理機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器以產(chǎn)生一個(gè)機(jī)器，使得通過計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備的處理器執(zhí)行的指令產(chǎn)生用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的裝置。

這些計(jì)算機(jī)程序指令也可存儲(chǔ)在能引導(dǎo)計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備以特定方式工作的計(jì)算機(jī)可讀存儲(chǔ)器中，使得存儲(chǔ)在該計(jì)算機(jī)可讀存儲(chǔ)器中的指令產(chǎn)生包括指令裝置的制造品，該指令裝置實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能。

這些計(jì)算機(jī)程序指令也可裝載到計(jì)算機(jī)或其他可編程數(shù)據(jù)處理設(shè)備上，使得在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行一系列操作步驟以產(chǎn)生計(jì)算機(jī)實(shí)現(xiàn)的處理，從而在計(jì)算機(jī)或其他可編程設(shè)備上執(zhí)行的指令提供用于實(shí)現(xiàn)在流程圖一個(gè)流程或多個(gè)流程和/或方框圖一個(gè)方框或多個(gè)方框中指定的功能的步驟。

盡管已描述了本發(fā)明的優(yōu)選實(shí)施例，但本領(lǐng)域內(nèi)的技術(shù)人員一旦得知了基本創(chuàng)造性概念，則可對(duì)這些實(shí)施例作出另外的變更和修改。所以，所附權(quán)利要求意欲解釋為包括優(yōu)選實(shí)施例以及落入本發(fā)明范圍的所有變更和修改。

顯然，本領(lǐng)域的技術(shù)人員可以對(duì)本發(fā)明進(jìn)行各種改動(dòng)和變型而不脫離本發(fā)明的精神和范圍。這樣，倘若本發(fā)明的這些修改和變型屬于本發(fā)明權(quán)利要求及其等同技術(shù)的范圍之內(nèi)，則本發(fā)明也意圖包含這些改動(dòng)和變型在內(nèi)。