專利名稱：一種消息審核的方法和裝置的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及計(jì)算機(jī)領(lǐng)域，特別涉及一種消息審核的方法和裝置。
背景技術(shù)：
微博，即微博客(MiCToBlog)的簡(jiǎn)稱，是一個(gè)基于用戶關(guān)系的信息分享、傳播以及獲取平臺(tái)，用戶可以通過(guò)WEB、WAP(Wireless Application Protocol,無(wú)線應(yīng)用協(xié)議)以及各種客戶端組建個(gè)人社區(qū)，以140字左右的文字更新信息，并實(shí)現(xiàn)即時(shí)分享。在微博中包括原創(chuàng)消息和轉(zhuǎn)播消息，原創(chuàng)消息為用戶發(fā)表的原創(chuàng)，轉(zhuǎn)播消息為用戶對(duì)原創(chuàng)消息的轉(zhuǎn)發(fā)，并可自行加入點(diǎn)評(píng)消息。如圖I和2所示，分別為用 戶的原創(chuàng)消息和轉(zhuǎn)播的微博。在微博的原創(chuàng)消息和轉(zhuǎn)播實(shí)現(xiàn)中，一般將原創(chuàng)消息和轉(zhuǎn)播作為消息根節(jié)點(diǎn)和消息子節(jié)點(diǎn)進(jìn)行處理。其中，消息根節(jié)點(diǎn)中的內(nèi)容為原創(chuàng)微博消息，該消息不基于其他用戶的微博消息，是一條原創(chuàng)發(fā)表，類似發(fā)表新貼子；消息子節(jié)點(diǎn)為在其他用戶(或自己)的某條消息基礎(chǔ)上進(jìn)行轉(zhuǎn)播操作，可以增加自己的轉(zhuǎn)播點(diǎn)評(píng)(轉(zhuǎn)播理由)，最終效果是原創(chuàng)內(nèi)容和轉(zhuǎn)播點(diǎn)評(píng)的內(nèi)容一同展示出來(lái)，類似于回貼概念。在現(xiàn)有情況下，一般對(duì)于用戶發(fā)表的微博要進(jìn)行審核，用刪除的方式處理用戶發(fā)表的不當(dāng)消息內(nèi)容。當(dāng)微博消息含有不當(dāng)信息時(shí)，微博后臺(tái)安全人員從后臺(tái)對(duì)該消息進(jìn)行物理刪除，使得消息停止傳播。當(dāng)消息內(nèi)容不存在問(wèn)題時(shí)，不對(duì)消息做任何處理。在發(fā)明人實(shí)現(xiàn)本發(fā)明的過(guò)程中，發(fā)明人發(fā)現(xiàn)現(xiàn)有技術(shù)至少存在如下缺點(diǎn)在現(xiàn)有的消息根節(jié)點(diǎn)和消息子節(jié)點(diǎn)中不包括有豐富的狀態(tài)標(biāo)識(shí)，只能標(biāo)識(shí)該節(jié)點(diǎn)中的消息存在還是不存在。因此，在現(xiàn)有的對(duì)微博消息的審核并進(jìn)行刪除操作時(shí)存在如下問(wèn)題1)從用戶體驗(yàn)上看，用戶能明顯感受到自己的消息被刪除，方式不夠友好，給用戶的感覺(jué)是態(tài)度蠻橫、強(qiáng)硬。2)不能靈活應(yīng)對(duì)惡劣級(jí)別不同的場(chǎng)景。如，并不是所有消息內(nèi)容都要完全消失才是最好，更多情況下，希望是有限制范圍的傳播。3)特殊時(shí)間處理掉的消息，事后無(wú)法原樣恢復(fù)出來(lái)。4)已經(jīng)傳播開(kāi)的消息，不容易控制讓整個(gè)傳播路徑都一起消失。

發(fā)明內(nèi)容
為了解決現(xiàn)有技術(shù)中對(duì)微博發(fā)表的消息進(jìn)行審核時(shí)存在的問(wèn)題，本發(fā)明提出了一種消息審核的方法和裝置。所述技術(shù)方案如下一種消息審核的方法，所述方法包括接收微博消息；判斷所述微博消息是否適合傳播，如果不適合傳播，將所述微博消息置為審核狀態(tài)或根審核狀態(tài)；當(dāng)所述微博消息被置為審核狀態(tài)或根審核狀態(tài)后，判斷所述微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)。進(jìn)一步地，所述將所述微博消息置為審核狀態(tài)或根審核狀態(tài)，具體包括
判斷所述微博消息處于消息根節(jié)點(diǎn)還是消息子節(jié)點(diǎn)，如果處于消息根節(jié)點(diǎn)，則將所述微博消息置為根審核狀態(tài)，如果處于消息子節(jié)點(diǎn)，則將所述微博消息置為審核狀態(tài)。進(jìn)一步地，所述將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)，具體包括當(dāng)所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根刪除狀態(tài)，當(dāng)所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為系統(tǒng)刪除狀態(tài)。進(jìn)一步地，所述接收微博消息之后，所述方法還包括接收用戶發(fā)送的刪除消息的請(qǐng)求，將所述微博消息置為用戶刪除狀態(tài)；其中，當(dāng)所述微博消息處于用戶刪除狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息，轉(zhuǎn)播者可見(jiàn)所述微博消息，旁觀者通過(guò)轉(zhuǎn)播者可見(jiàn)所述微博消息，發(fā)表者、轉(zhuǎn)播者和旁觀者均不能對(duì)所述微博消息進(jìn)行轉(zhuǎn)播操作。進(jìn)一步地，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括接收對(duì)所述微博消息進(jìn)行恢復(fù)的請(qǐng)求，將所述微博消息置為正常狀態(tài)。進(jìn)一步地，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括將所述微博消息的轉(zhuǎn)播消息置為與所述微博消息相同的狀態(tài)。進(jìn)一步地，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括 接收訪問(wèn)者發(fā)出的對(duì)所述微博消息的轉(zhuǎn)播消息的瀏覽請(qǐng)求；判斷所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者是否可見(jiàn)；如果所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)，生成加密串，并將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者；接收所述訪問(wèn)者發(fā)送的所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID和所述加密串;對(duì)所述訪問(wèn)者發(fā)送的加密串進(jìn)行解密，得到所述訪問(wèn)者的身份，并根據(jù)所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID判斷所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)對(duì)所述訪問(wèn)者的可見(jiàn)性，根據(jù)所述可見(jiàn)性重新為所述微博消息的轉(zhuǎn)播消息重置狀態(tài)；其中，所述微博消息的轉(zhuǎn)播消息包括所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)信息和消息子節(jié)點(diǎn)信息，所述微博消息的轉(zhuǎn)播消息的消息子節(jié)點(diǎn)信息中包括所述微博消息的消息根節(jié)點(diǎn)的ID。進(jìn)一步地,所述生成加密串，具體包括獲取并對(duì)所述訪問(wèn)者的ID、所述微博消息的轉(zhuǎn)播消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID、所述微博消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)中存儲(chǔ)的消息的發(fā)表者的ID、當(dāng)前時(shí)間戳進(jìn)行簽名運(yùn)算，得到所述加密串。進(jìn)一步地，對(duì)于上述任一方法，當(dāng)所述微博消息處于審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息，可見(jiàn)所述微博消息的點(diǎn)評(píng)并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作；當(dāng)所述微博消息處于根審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息并且不能進(jìn)行轉(zhuǎn)播操作；當(dāng)所述微博消息處于系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)時(shí)，發(fā)表者、轉(zhuǎn)播者和旁觀者均不可見(jiàn)所述微博消息且不能進(jìn)行轉(zhuǎn)播操作。一種消息審核的裝置，所述裝置包括第一接收模塊，用于接收微博消息；第一審核模塊，用于判斷所述微博消息是否適合傳播，如果不適合傳播，將所述微博消息置為審核狀態(tài)或根審核狀態(tài)；第二審核模塊，用于當(dāng)所述微博消息被宿松第一審核模塊置為審核狀態(tài)或根審核狀態(tài)后，判斷所述微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)。 進(jìn)一步地，所述第一審核模塊，具體包括第一判斷單元，用于判斷所述微博消息是否適合傳播；第二判斷單元，用于當(dāng)所述第一判斷單元判斷出所述微博消息不適合傳播時(shí)，判斷所述微博消息處于消息根節(jié)點(diǎn)還是消息子節(jié)點(diǎn)；第一審核單元，用于當(dāng)所述第二判斷單元判斷出所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根審核狀態(tài)；第二審核單元，用于當(dāng)所述第二判斷單元判斷出所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為審核狀態(tài)。進(jìn)一步地,所述第二審核模塊,具體包括第三判斷單元，用于判斷所述微博消息是否為惡意內(nèi)容；第三審核單元，用于當(dāng)所述第三判斷單元判斷出所述微博消息為惡意內(nèi)容且所述第二判斷單元判斷出所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根刪除狀態(tài)；第四審核單元，用于當(dāng)所述第三判斷單元判斷出所述微博消息為惡意內(nèi)容且所述第二判斷單元判斷出所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為系統(tǒng)刪除狀態(tài)。進(jìn)一步地，所述裝置還包括第二接收模塊，用于在所述第一接收模塊接收微博消息之后，接收用戶發(fā)送的刪除消息的請(qǐng)求，將所述微博消息置為用戶刪除狀態(tài)；其中，當(dāng)所述微博消息處于用戶刪除狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息，轉(zhuǎn)播者可見(jiàn)所述微博消息，旁觀者通過(guò)轉(zhuǎn)播者可見(jiàn)所述微博消息，發(fā)表者、轉(zhuǎn)播者和旁觀者均不能對(duì)所述微博消息進(jìn)行轉(zhuǎn)播操作。進(jìn)一步地，所述裝置還包括第三接收模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，接收對(duì)所述微博消息進(jìn)行恢復(fù)的請(qǐng)求，將所述微博消息置為正常狀態(tài)。進(jìn)一步地，所述裝置還包括轉(zhuǎn)播消息處理模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，將所述微博消息的轉(zhuǎn)播消息置為與所述微博消息相同的狀態(tài)。進(jìn)一步地，所述裝置還包括第四接收模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，接收訪問(wèn)者發(fā)出的對(duì)所述微博消息的轉(zhuǎn)播消息的瀏覽請(qǐng)求；第一判斷模塊，用于判斷所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者是否可見(jiàn)；加密串生成模塊，用于當(dāng)所述第一判斷模塊判斷得出所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)時(shí)，生成加密串，并將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者；第五接收模塊，用于接收所述訪問(wèn)者發(fā)送的所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID和所述加密串； 重置模塊，用于對(duì)所述訪問(wèn)者發(fā)送的加密串進(jìn)行解密，得到所述訪問(wèn)者的身份，并根據(jù)所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID判斷所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)對(duì)所述訪問(wèn)者的可見(jiàn)性，根據(jù)所述可見(jiàn)性重新為所述微博消息的轉(zhuǎn)播消息重置狀態(tài)；其中，所述微博消息的轉(zhuǎn)播消息包括所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)信息和消息子節(jié)點(diǎn)信息，所述微博消息的轉(zhuǎn)播消息的消息子節(jié)點(diǎn)信息中包括所述微博消息的消息根節(jié)點(diǎn)的ID。進(jìn)一步地，所述加密串生成模塊，具體包括加密串生成單元，用于當(dāng)所述第一判斷模塊判斷得出所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)時(shí)，獲取并對(duì)所述訪問(wèn)者的ID、所述微博消息的轉(zhuǎn)播消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID、所述微博消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)中存儲(chǔ)的消息的發(fā)表者的ID、當(dāng)前時(shí)間戳進(jìn)行簽名運(yùn)算，得到所述加密串；發(fā)送單元，用于將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者。進(jìn)一步地，對(duì)于上述任一裝置，當(dāng)所述微博消息處于審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息，可見(jiàn)所述微博消息的點(diǎn)評(píng)并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作；當(dāng)所述微博消息處于根審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息并且不能進(jìn)行轉(zhuǎn)播操作；當(dāng)所述微博消息處于系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)時(shí)，發(fā)表者、轉(zhuǎn)播者和旁觀者均不可見(jiàn)所述微博消息且不能進(jìn)行轉(zhuǎn)播操作。本發(fā)明實(shí)施例提供的技術(shù)方案的有益效果是可以將微博消息置為多種狀態(tài)，使得用戶的體驗(yàn)更加良好，能夠?qū)Σ煌膽?yīng)用場(chǎng)景分別處理，靈活應(yīng)對(duì)各種場(chǎng)景，并且能夠便于在后續(xù)過(guò)程中對(duì)微博消息進(jìn)行有效的刪除控制和恢復(fù)。


為了更清楚地說(shuō)明本發(fā)明實(shí)施例的技術(shù)方案，下面將對(duì)實(shí)施例中使用的附圖并做簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面所列附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)的前提下，還可以根據(jù)這些附圖獲得其他的附圖。圖I為本發(fā)明背景技術(shù)中所提供的原創(chuàng)消息的微博截圖；圖2為本發(fā)明背景技術(shù)中所提供的轉(zhuǎn)播微博截圖；圖3為本發(fā)明實(shí)施例I中所提供的一種消息審核方法的流程示意圖；圖4為本發(fā)明實(shí)施例2中所提供的微博消息的各種狀態(tài)之間的轉(zhuǎn)換示意圖；圖5為本發(fā)明實(shí)施例2中所提供的一種消息審核方法的流程示意圖；圖6為本發(fā)明實(shí)施例2中所提供的微博服務(wù)器對(duì)轉(zhuǎn)播消息重新置狀態(tài)的方法的流 程不意圖；圖7為本發(fā)明實(shí)施例2中所提供的微博中的轉(zhuǎn)播消息的結(jié)構(gòu)示意圖；圖8為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置的結(jié)構(gòu)示意圖；圖9為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置中的第一審核模塊的結(jié)構(gòu)示意圖；圖10為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置中的第二審核模塊的結(jié)構(gòu)示意圖；圖11為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置的第二種結(jié)構(gòu)示意圖；圖12為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置的第三種結(jié)構(gòu)示意圖；圖13為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置的第四種結(jié)構(gòu)示意圖；圖14為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置的第五種結(jié)構(gòu)示意圖；圖15為本發(fā)明實(shí)施例3中所提供的一種消息審核的裝置中的加密串生成模塊的結(jié)構(gòu)示意圖。
具體實(shí)施例方式為使本發(fā)明的目的、技術(shù)方案和優(yōu)點(diǎn)更加清楚，下面將結(jié)合附圖對(duì)本發(fā)明實(shí)施方式作進(jìn)一步地詳細(xì)描述。實(shí)施例I本發(fā)明實(shí)施例I提出了一種消息審核方法，其流程如圖3所示，該方法包括步驟101、接收微博消息；步驟102、判斷上述微博消息是否適合傳播，如果不適合傳播，將該微博消息置為審核或根審核狀態(tài)；步驟103、當(dāng)微博消息被置為審核狀態(tài)或根審核狀態(tài)后，判斷上述微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將該微博消息置為系統(tǒng)刪除或根刪除狀態(tài)。本發(fā)明實(shí)施例所提供的一種消息審核的方法，可以將微博消息置為多種狀態(tài)，使得用戶的體驗(yàn)更加良好，能夠?qū)Σ煌膽?yīng)用場(chǎng)景分別處理，靈活應(yīng)對(duì)各種場(chǎng)景，并且能夠便于在后續(xù)過(guò)程中對(duì)微博消息進(jìn)行有效的刪除控制和恢復(fù)。實(shí)施例2本發(fā)明實(shí)施例2提出了一種消息審核的方法，是在實(shí)施例I基礎(chǔ)上改進(jìn)而來(lái)。在本實(shí)施例中，通過(guò)將消息根節(jié)點(diǎn)和消息子節(jié)點(diǎn)增加更多的狀態(tài)使得在消息審核過(guò)程時(shí)更加人性化，其中，增加的狀態(tài)如表I所示表I
權(quán)利要求
1.一種消息審核的方法，其特征在于，所述方法包括 接收微博消息； 判斷所述微博消息是否適合傳播，如果不適合傳播，將所述微博消息置為審核狀態(tài)或根審核狀態(tài)； 當(dāng)所述微博消息被置為審核狀態(tài)或根審核狀態(tài)后，判斷所述微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)。
2.根據(jù)權(quán)利要求I所述的方法，其特征在于，所述將所述微博消息置為審核狀態(tài)或根審核狀態(tài)，具體包括 判斷所述微博消息處于消息根節(jié)點(diǎn)還是消息子節(jié)點(diǎn)，如果處于消息根節(jié)點(diǎn)，則將所述微博消息置為根審核狀態(tài)，如果處于消息子節(jié)點(diǎn)，則將所述微博消息置為審核狀態(tài)。
3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)，具體包括 當(dāng)所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根刪除狀態(tài)，當(dāng)所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為系統(tǒng)刪除狀態(tài)。
4.根據(jù)權(quán)利要求I所述的方法，其特征在于，所述接收微博消息之后，所述方法還包括 接收用戶發(fā)送的刪除消息的請(qǐng)求，將所述微博消息置為用戶刪除狀態(tài)； 其中，當(dāng)所述微博消息處于用戶刪除狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息，轉(zhuǎn)播者可見(jiàn)所述微博消息，旁觀者通過(guò)轉(zhuǎn)播者可見(jiàn)所述微博消息，發(fā)表者、轉(zhuǎn)播者和旁觀者均不能對(duì)所述微博消息進(jìn)行轉(zhuǎn)播操作。
5.根據(jù)權(quán)利要求I所述的方法，其特征在于，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括 接收對(duì)所述微博消息進(jìn)行恢復(fù)的請(qǐng)求，將所述微博消息置為正常狀態(tài)。
6.根據(jù)權(quán)利要求I所述的方法，其特征在于，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括 將所述微博消息的轉(zhuǎn)播消息置為與所述微博消息相同的狀態(tài)。
7.根據(jù)權(quán)利要求I所述的方法，其特征在于，所述微博消息被置為審核狀態(tài)、根審核狀態(tài)、系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，所述方法還包括 接收訪問(wèn)者發(fā)出的對(duì)所述微博消息的轉(zhuǎn)播消息的瀏覽請(qǐng)求； 判斷所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者是否可見(jiàn)； 如果所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)，生成加密串，并將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者； 接收所述訪問(wèn)者發(fā)送的所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID和所述加密串； 對(duì)所述訪問(wèn)者發(fā)送的加密串進(jìn)行解密，得到所述訪問(wèn)者的身份，并根據(jù)所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID判斷所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)對(duì)所述訪問(wèn)者的可見(jiàn)性，根據(jù)所述可見(jiàn)性重新為所述微博消息的轉(zhuǎn)播消息重置狀態(tài)； 其中，所述微博消息的轉(zhuǎn)播消息包括所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)信息和消息子節(jié)點(diǎn)信息，所述微博消息的轉(zhuǎn)播消息的消息子節(jié)點(diǎn)信息中包括所述微博消息的消息根節(jié)點(diǎn)的ID。
8.根據(jù)權(quán)利要求7所述的方法，其特征在于，所述生成加密串，具體包括 獲取并對(duì)所述訪問(wèn)者的ID、所述微博消息的轉(zhuǎn)播消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID、所述微博消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)中存儲(chǔ)的消息的發(fā)表者的ID、當(dāng)前時(shí)間戳進(jìn)行簽名運(yùn)算，得到所述加密串。
9.根據(jù)權(quán)利要求1-8所述的任一權(quán)利要求，其特征在于，當(dāng)所述微博消息處于審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息，可見(jiàn)所述微博消息的點(diǎn)評(píng)并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作； 當(dāng)所述微博消息處于根審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息并且不能進(jìn)行轉(zhuǎn)播操作； 當(dāng)所述微博消息處于系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)時(shí)，發(fā)表者、轉(zhuǎn)播者和旁觀者均不可見(jiàn)所述微博消息且不能進(jìn)行轉(zhuǎn)播操作。
10.一種消息審核的裝置，其特征在于，所述裝置包括 第一接收模塊，用于接收微博消息； 第一審核模塊，用于判斷所述微博消息是否適合傳播，如果不適合傳播，將所述微博消息置為審核狀態(tài)或根審核狀態(tài)； 第二審核模塊，用于當(dāng)所述微博消息被所述第一審核模塊置為審核狀態(tài)或根審核狀態(tài)后，判斷所述微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)。
11.根據(jù)權(quán)利要求10所述的裝置，其特征在于，所述第一審核模塊，具體包括 第一判斷單元，用于判斷所述微博消息是否適合傳播； 第二判斷單元，用于當(dāng)所述第一判斷單元判斷出所述微博消息不適合傳播時(shí)，判斷所述微博消息處于消息根節(jié)點(diǎn)還是消息子節(jié)點(diǎn)； 第一審核單元，用于當(dāng)所述第二判斷單元判斷出所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根審核狀態(tài)； 第二審核單元，用于當(dāng)所述第二判斷單元判斷出所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為審核狀態(tài)。
12.根據(jù)權(quán)利要求11所述的裝置，其特征在于，所述第二審核模塊，具體包括 第三判斷單元，用于判斷所述微博消息是否為惡意內(nèi)容； 第三審核單元，用于當(dāng)所述第三判斷單元判斷出所述微博消息為惡意內(nèi)容且所述第二判斷單元判斷出所述微博消息處于消息根節(jié)點(diǎn)時(shí)，將所述微博消息置為根刪除狀態(tài)； 第四審核單元，用于當(dāng)所述第三判斷單元判斷出所述微博消息為惡意內(nèi)容且所述第二判斷單元判斷出所述微博消息處于消息子節(jié)點(diǎn)時(shí)，將所述微博消息置為系統(tǒng)刪除狀態(tài)。
13.根據(jù)權(quán)利要求10所述的裝置，其特征在于，所述裝置還包括 第二接收模塊，用于在所述第一接收模塊接收微博消息之后，接收用戶發(fā)送的刪除消息的請(qǐng)求，將所述微博消息置為用戶刪除狀態(tài)； 其中，當(dāng)所述微博消息處于用戶刪除狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息，轉(zhuǎn)播者可見(jiàn)所述微博消息，旁觀者通過(guò)轉(zhuǎn)播者可見(jiàn)所述微博消息，發(fā)表者、轉(zhuǎn)播者和旁觀者均不能對(duì)所述微博消息進(jìn)行轉(zhuǎn)播操作。
14.根據(jù)權(quán)利要求10所述的裝置，其特征在于，所述裝置還包括 第三接收模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，接收對(duì)所述微博消息進(jìn)行恢復(fù)的請(qǐng)求，將所述微博消息置為正常狀態(tài)。
15.根據(jù)權(quán)利要求10所述的裝置，其特征在于，所述裝置還包括 轉(zhuǎn)播消息處理模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，將所述微博消息的轉(zhuǎn)播消息置為與所述微博消息相同的狀態(tài)。
16.根據(jù)權(quán)利要求10所述的裝置，其特征在于，所述裝置還包括 第四接收模塊，用于在所述第一審核模塊將所述微博消息置為審核狀態(tài)或根審核狀態(tài)、所述第二審核模塊將所述微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)之后，接收訪問(wèn)者發(fā)出的對(duì)所述微博消息的轉(zhuǎn)播消息的瀏覽請(qǐng)求； 第一判斷模塊，用于判斷所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者是否可見(jiàn)； 加密串生成模塊，用于當(dāng)所述第一判斷模塊判斷得出所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)時(shí)，生成加密串，并將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者； 第五接收模塊，用于接收所述訪問(wèn)者發(fā)送的所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID和所述加密串； 重置模塊，用于對(duì)所述訪問(wèn)者發(fā)送的加密串進(jìn)行解密，得到所述訪問(wèn)者的身份，并根據(jù)所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID判斷所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)對(duì)所述訪問(wèn)者的可見(jiàn)性，根據(jù)所述可見(jiàn)性重新為所述微博消息的轉(zhuǎn)播消息重置狀態(tài)； 其中，所述微博消息的轉(zhuǎn)播消息包括所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)信息和消息子節(jié)點(diǎn)信息，所述微博消息的轉(zhuǎn)播消息的消息子節(jié)點(diǎn)信息中包括所述微博消息的消息根節(jié)點(diǎn)的ID。
17.根據(jù)權(quán)利要求16所述的裝置，其特征在于，所述加密串生成模塊，具體包括 加密串生成單元，用于當(dāng)所述第一判斷模塊判斷得出所述微博消息的轉(zhuǎn)播消息對(duì)所述訪問(wèn)者可見(jiàn)時(shí)，獲取并對(duì)所述訪問(wèn)者的ID、所述微博消息的轉(zhuǎn)播消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)的ID、所述微博消息的發(fā)表者的ID、所述微博消息的轉(zhuǎn)播消息的消息根節(jié)點(diǎn)中存儲(chǔ)的消息的發(fā)表者的ID、當(dāng)前時(shí)間戳進(jìn)行簽名運(yùn)算，得到所述加密串； 發(fā)送單元，用于將所述微博消息的轉(zhuǎn)播消息中的消息子節(jié)點(diǎn)信息和所述加密串返回給所述訪問(wèn)者。
18.根據(jù)權(quán)利要求10-17所述的任一權(quán)利要求，其特征在于，當(dāng)所述微博消息處于審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息，可見(jiàn)所述微博消息的點(diǎn)評(píng)并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作； 當(dāng)所述微博消息處于根審核狀態(tài)時(shí)，發(fā)表者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，轉(zhuǎn)播者可見(jiàn)所述微博消息并在所述微博消息通過(guò)審核后可進(jìn)行轉(zhuǎn)播操作，旁觀者不可見(jiàn)所述微博消息并且不能進(jìn)行轉(zhuǎn)播操作； 當(dāng)所述微博消息處于系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)時(shí)，發(fā)表者、轉(zhuǎn)播者和旁觀者均不可見(jiàn)所述微博消息且 不能進(jìn)行轉(zhuǎn)播操作。
全文摘要
本發(fā)明提出了一種消息審核的方法和裝置，屬于計(jì)算機(jī)領(lǐng)域，本發(fā)明通過(guò)接收微博消息，判斷微博消息是否適合傳播，如果不適合傳播，將微博消息置為審核狀態(tài)或根審核狀態(tài)，當(dāng)微博消息被置為審核狀態(tài)或根審核狀態(tài)后，判斷該微博消息是否為惡意內(nèi)容，如果為惡意內(nèi)容，將微博消息置為系統(tǒng)刪除狀態(tài)或根刪除狀態(tài)，可以將微博消息置為多種狀態(tài)，使得用戶的體驗(yàn)更加良好，能夠?qū)Σ煌膽?yīng)用場(chǎng)景分別處理，靈活應(yīng)對(duì)各種場(chǎng)景，并且能夠便于在后續(xù)過(guò)程中對(duì)微博消息進(jìn)行有效的刪除控制和恢復(fù)。
文檔編號(hào)H04L29/08GK102801640SQ201110133949
公開(kāi)日2012年11月28日 申請(qǐng)日期2011年5月23日 優(yōu)先權(quán)日2011年5月23日
發(fā)明者范質(zhì)彬, 舒軍, 熊歡, 李瑩, 劉科 申請(qǐng)人:騰訊科技(深圳)有限公司