專(zhuān)利名稱(chēng)：一種網(wǎng)絡(luò)言論監(jiān)控方法、設(shè)備及系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及網(wǎng)絡(luò)言論安全監(jiān)控技術(shù)領(lǐng)域，尤其涉及一種網(wǎng)絡(luò)言論監(jiān)控方法、設(shè)備及系統(tǒng)。
背景技術(shù)：
隨著網(wǎng)絡(luò)的普及，越來(lái)越多的人利用網(wǎng)絡(luò)進(jìn)行交流，比如網(wǎng)絡(luò)留言、網(wǎng)絡(luò)評(píng)論、發(fā)表各種網(wǎng)絡(luò)言論等等，網(wǎng)絡(luò)的快捷給人們的生活帶來(lái)便利的同時(shí)，也讓許多惡意分子有機(jī)可乘，比如惡意分子利用網(wǎng)絡(luò)發(fā)布中獎(jiǎng)詐騙信息、廣告信息、惡意言論信息等，給網(wǎng)絡(luò)的應(yīng)用帶來(lái)了極壞的影響，嚴(yán)重?fù)p壞了用戶(hù)的業(yè)務(wù)體驗(yàn)。
請(qǐng)參見(jiàn)圖1，為現(xiàn)有的網(wǎng)絡(luò)言論系統(tǒng)的結(jié)構(gòu)示意圖。用戶(hù)通過(guò)客戶(hù)端發(fā)布網(wǎng)絡(luò)言論(如網(wǎng)絡(luò)留言、論壇評(píng)論等)，客戶(hù)端將用戶(hù)發(fā)布的網(wǎng)絡(luò)言論發(fā)送至業(yè)務(wù)服務(wù)器，業(yè)務(wù)服務(wù)器處理業(yè)務(wù)邏輯，包括驗(yàn)證發(fā)布者的用戶(hù)名(ID)、密碼等信息，并將用戶(hù)發(fā)布的該網(wǎng)絡(luò)言論添加至相應(yīng)的發(fā)布隊(duì)列中，將發(fā)布隊(duì)列返回給客戶(hù)端進(jìn)行顯示，用戶(hù)即可查看到自己發(fā)布的網(wǎng)絡(luò)言論。業(yè)務(wù)服務(wù)器將該網(wǎng)絡(luò)言論傳送至數(shù)據(jù)服務(wù)器進(jìn)行存儲(chǔ)和管理。為了防止惡意分子對(duì)網(wǎng)絡(luò)應(yīng)用進(jìn)行破壞，現(xiàn)有的網(wǎng)絡(luò)言論的安全監(jiān)控方案基于關(guān)鍵詞技術(shù)進(jìn)行網(wǎng)絡(luò)言論的安全控制，具體為在業(yè)務(wù)服務(wù)器中預(yù)先存儲(chǔ)不安全網(wǎng)絡(luò)言論的關(guān)鍵詞庫(kù)，對(duì)關(guān)鍵詞庫(kù)中的各個(gè)關(guān)鍵詞進(jìn)行級(jí)別劃分，如可劃分為嚴(yán)重惡意、惡意、輕微惡意三個(gè)級(jí)別，針對(duì)不同級(jí)別制定相應(yīng)的控制方式，如嚴(yán)重惡意級(jí)別對(duì)應(yīng)的控制方式為“封號(hào)”，惡意級(jí)別對(duì)應(yīng)的控制方式為“禁言”，輕微惡意級(jí)別對(duì)應(yīng)的控制方式為“禁止發(fā)表該條言論”。當(dāng)接收到用戶(hù)發(fā)表的各種網(wǎng)絡(luò)言論時(shí)，業(yè)務(wù)服務(wù)器首先對(duì)各種網(wǎng)絡(luò)言論進(jìn)行解析，當(dāng)解析出網(wǎng)絡(luò)言論中包含關(guān)鍵詞庫(kù)中的關(guān)鍵詞，確定該關(guān)鍵詞的級(jí)別，井根據(jù)確定的級(jí)別對(duì)應(yīng)的控制方式對(duì)網(wǎng)絡(luò)言論進(jìn)行控制。發(fā)明人發(fā)現(xiàn)，現(xiàn)有的網(wǎng)絡(luò)言論的安全監(jiān)控方案里然能在一定程度上過(guò)濾掉部分不安全網(wǎng)絡(luò)言論(如惡意言論)，但這種基于關(guān)鍵詞技術(shù)的方案在應(yīng)用中存在一些缺陷
I、控制過(guò)于武斷。現(xiàn)有的網(wǎng)絡(luò)言論的安全監(jiān)控方案往往在判斷網(wǎng)絡(luò)言論中存在某ー個(gè)匹配的關(guān)鍵詞吋，即認(rèn)為該網(wǎng)絡(luò)言論為不安全網(wǎng)絡(luò)言論，隨即采取相應(yīng)的控制方式進(jìn)行控制，這種僅僅憑借ー個(gè)關(guān)鍵詞來(lái)判定一段網(wǎng)絡(luò)言論的方式太過(guò)草率和武斷，容易影響用戶(hù)的業(yè)務(wù)體驗(yàn)。2、對(duì)中性詞很難界定，容易形成控制盲區(qū)?，F(xiàn)有的網(wǎng)絡(luò)言論的安全監(jiān)控方案對(duì)于模糊性質(zhì)的中性詞很難處理，比如“獎(jiǎng)品”一詞，在中獎(jiǎng)詐騙類(lèi)言論中，該詞用于欺騙用戶(hù)，屬于惡意關(guān)鍵詞，但是正常用戶(hù)交流中，該詞可能是用戶(hù)發(fā)表的正常言論；對(duì)于這ー類(lèi)中性詞，現(xiàn)有方案往往無(wú)法準(zhǔn)確進(jìn)行判斷和處理，因此可能造成許多安全控制的盲區(qū)，從而降低了對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。

發(fā)明內(nèi)容
本發(fā)明實(shí)施例所要解決的技術(shù)問(wèn)題在于，提供一種網(wǎng)絡(luò)言論監(jiān)控方法、設(shè)備及系統(tǒng)，可有效地對(duì)不安全網(wǎng)絡(luò)言論進(jìn)行理解識(shí)別和過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。為了解決上述技術(shù)問(wèn)題，本發(fā)明實(shí)施例提供了一種網(wǎng)絡(luò)言論監(jiān)控方法，包括 獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；
判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)；
根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述網(wǎng)絡(luò)言論的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。其中，所述獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論包括
接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；或者，
接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；
其中，所述網(wǎng)絡(luò)言論包括微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任ー種或多種。其中，所述判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)，包括
解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句；
對(duì)所述短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配；
若判斷結(jié)果為是，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。其中，所述解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句，包括
基于標(biāo)點(diǎn)符號(hào)對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句；或者，
基于短句長(zhǎng)度的統(tǒng)計(jì)規(guī)律對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句。其中，所述獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論之前，還包括
預(yù)先設(shè)定各種識(shí)別規(guī)則，及預(yù)先設(shè)定各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系；
所述預(yù)設(shè)的識(shí)別規(guī)則包括以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)則、政治類(lèi)言論識(shí)別規(guī)則；
所述標(biāo)識(shí)包括以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)；
所述控制方式包括禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種；
所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。其中，所述預(yù)先設(shè)定各種識(shí)別規(guī)則，包括
從網(wǎng)絡(luò)中獲取各種不安全網(wǎng)絡(luò)言論的樣本；
從所述樣本中提取每種不安全網(wǎng)絡(luò)言論的共有特征，并從所述樣本中提煉每種不安全網(wǎng)絡(luò)言論的必要信息要素；
根據(jù)每種不安全網(wǎng)絡(luò)言論的共有特征和必要信息要素，生成每種不安全網(wǎng)絡(luò)言論的識(shí)別規(guī)則。相應(yīng)地，本發(fā)明實(shí)施例還提供了一種網(wǎng)絡(luò)言論監(jiān)控設(shè)備，包括獲取模塊，用于獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；
標(biāo)注模塊，用于判斷所述獲取模塊獲取的所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，當(dāng)判斷結(jié)果為是時(shí)，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)；
安全控制模塊，用于根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述標(biāo)注模塊為所述網(wǎng)絡(luò)言論標(biāo)注的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。其中，所述獲取模塊接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；或者，所述獲取模塊接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；
其中，所述網(wǎng)絡(luò)言論包括微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任ー種或多種。 其中，所述標(biāo)注模塊包括
解析単元，用于解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句；
識(shí)別判斷単元，用于對(duì)所述解析單元獲得的短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配；
標(biāo)注單元，用于當(dāng)所述識(shí)別判斷単元判斷結(jié)果為是時(shí)，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。其中，所述解析単元用于基于標(biāo)點(diǎn)符號(hào)對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句；或者，基于短句長(zhǎng)度的統(tǒng)計(jì)規(guī)律對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句。其中，所述設(shè)備還包括
存儲(chǔ)模塊，用于存儲(chǔ)預(yù)先設(shè)定的各種識(shí)別規(guī)則，及預(yù)先設(shè)定的各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系；
所述預(yù)設(shè)的識(shí)別規(guī)則包括以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)則、政治類(lèi)言論識(shí)別規(guī)則；
所述標(biāo)識(shí)包括以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)；
所述控制方式包括禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種；
所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。相應(yīng)地，本發(fā)明實(shí)施例還提供了一種網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)，包括上述的網(wǎng)絡(luò)言論監(jiān)控設(shè)備。實(shí)施本發(fā)明實(shí)施例，具有如下有益效果
1、本發(fā)明實(shí)施例采用預(yù)設(shè)的識(shí)別規(guī)則對(duì)用戶(hù)發(fā)表的網(wǎng)絡(luò)言論進(jìn)行識(shí)別和判斷，當(dāng)判斷所述網(wǎng)絡(luò)言論與預(yù)設(shè)的識(shí)別規(guī)則相匹配吋，自動(dòng)為該網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)，并采用與該標(biāo)識(shí)相對(duì)應(yīng)的控制方式進(jìn)行安全控制，基于該識(shí)別規(guī)則對(duì)網(wǎng)絡(luò)言論進(jìn)行監(jiān)控，可有效過(guò)濾掉不安全的網(wǎng)絡(luò)言論，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度；
2、本發(fā)明實(shí)施例的網(wǎng)絡(luò)監(jiān)控所基于的預(yù)設(shè)的識(shí)別規(guī)則，是從網(wǎng)絡(luò)中各種不安全網(wǎng)絡(luò)言論的樣本的指導(dǎo)學(xué)習(xí)過(guò)程中提煉而成，能夠有效地對(duì)各種不安全網(wǎng)絡(luò)言論進(jìn)行理解識(shí)別，有利于提高網(wǎng)絡(luò)言論安全的監(jiān)控カ度。


為了更清楚地說(shuō)明本發(fā)明實(shí)施例或現(xiàn)有技術(shù)中的技術(shù)方案，下面將對(duì)實(shí)施例或現(xiàn)有技術(shù)描述中所需要使用的附圖作簡(jiǎn)單地介紹，顯而易見(jiàn)地，下面描述中的附圖僅僅是本發(fā)明的一些實(shí)施例，對(duì)于本領(lǐng)域普通技術(shù)人員來(lái)講，在不付出創(chuàng)造性勞動(dòng)性的前提下，還可以根據(jù)這些附圖獲得其他的附圖。圖I為現(xiàn)有的網(wǎng)絡(luò)言論系統(tǒng)的結(jié)構(gòu)示意 圖2為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第一實(shí)施例的結(jié)構(gòu)示意 圖3為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第二實(shí)施例的結(jié)構(gòu)示意 圖4為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第三實(shí)施例的結(jié)構(gòu)示意圖；
圖5為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的第一實(shí)施例的結(jié)構(gòu)示意 圖6為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的第二實(shí)施例的結(jié)構(gòu)示意 圖7為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的標(biāo)注模塊的實(shí)施例的結(jié)構(gòu)示意 圖8為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控方法的第一實(shí)施例的流程 圖9為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控方法的第二實(shí)施例的流程圖。
具體實(shí)施例方式下面將結(jié)合本發(fā)明實(shí)施例中的附圖，對(duì)本發(fā)明實(shí)施例中的技術(shù)方案進(jìn)行清楚、完整地描述，顯然，所描述的實(shí)施例僅僅是本發(fā)明一部分實(shí)施例，而不是全部的實(shí)施例?；诒景l(fā)明中的實(shí)施例，本領(lǐng)域普通技術(shù)人員在沒(méi)有作出創(chuàng)造性勞動(dòng)前提下所獲得的所有其他實(shí)施例，都屬于本發(fā)明保護(hù)的范圍。請(qǐng)參見(jiàn)圖2，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第一實(shí)施例的結(jié)構(gòu)示意圖；所述網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)包括客戶(hù)端、業(yè)務(wù)服務(wù)器和數(shù)據(jù)服務(wù)器，還包括網(wǎng)絡(luò)言論監(jiān)控設(shè)備。本實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備可以為安全保護(hù)服務(wù)器，其采用異步離線(xiàn)的方式去保護(hù)系統(tǒng)的網(wǎng)絡(luò)言論的安全，如圖2所示，用戶(hù)通過(guò)客戶(hù)端發(fā)表網(wǎng)絡(luò)言論，業(yè)務(wù)服務(wù)器接收到客戶(hù)端發(fā)送的用戶(hù)的網(wǎng)絡(luò)言論時(shí)，一方面進(jìn)行正常的業(yè)務(wù)邏輯處理；另ー方面，業(yè)務(wù)服務(wù)器將接收到的網(wǎng)絡(luò)言論上報(bào)至安全保護(hù)服務(wù)器，安全保護(hù)服務(wù)器基于預(yù)設(shè)的識(shí)別規(guī)則對(duì)業(yè)務(wù)服務(wù)器上報(bào)的網(wǎng)絡(luò)言論進(jìn)行識(shí)別判斷，并采用相應(yīng)的控制方式控制該網(wǎng)絡(luò)言論，過(guò)濾惡意的網(wǎng)絡(luò)言論，保護(hù)系統(tǒng)的網(wǎng)絡(luò)言論安全；最后，安全保護(hù)服務(wù)器還需要到數(shù)據(jù)服務(wù)器中對(duì)所述安全控制后的網(wǎng)絡(luò)言論進(jìn)行離線(xiàn)清理，刪除被安全保護(hù)服務(wù)器識(shí)別并進(jìn)行安全控制的網(wǎng)絡(luò)言論，避免這些網(wǎng)絡(luò)言論干擾到正常用戶(hù)的業(yè)務(wù)體驗(yàn)。請(qǐng)ー并參見(jiàn)圖3，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第二實(shí)施例的結(jié)構(gòu)示意圖；與上一實(shí)施例相同，所述網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)包括客戶(hù)端、業(yè)務(wù)服務(wù)器、數(shù)據(jù)服務(wù)器和網(wǎng)絡(luò)言論監(jiān)控設(shè)備。本實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備可以為安全過(guò)濾網(wǎng)，其采用同步的方式去保護(hù)系統(tǒng)的網(wǎng)絡(luò)言論的安全，如圖3所示，該安全過(guò)濾網(wǎng)設(shè)置于業(yè)務(wù)邏輯的關(guān)鍵路徑上，在進(jìn)行業(yè)務(wù)邏輯處理時(shí)直接進(jìn)行保護(hù)。安全過(guò)濾網(wǎng)對(duì)系統(tǒng)的網(wǎng)絡(luò)言論的安全保護(hù)過(guò)程與上一實(shí)施例過(guò)程相同，在此不贅述。
請(qǐng)ー并參見(jiàn)圖4，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)的第三實(shí)施例的結(jié)構(gòu)示意圖；與上一實(shí)施例相同，所述網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)包括客戶(hù)端、業(yè)務(wù)服務(wù)器、數(shù)據(jù)服務(wù)器和網(wǎng)絡(luò)言論監(jiān)控設(shè)備。本實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備可以為安全防火墻，該安全防火墻可以為軟件防火墻或硬件防火墻，其采用同步的方式去保護(hù)系統(tǒng)的網(wǎng)絡(luò)言論的安全，如圖4所示，該安全防火墻設(shè)置于業(yè)務(wù)服務(wù)器與客戶(hù)端之間，直接接收客戶(hù)端發(fā)送的網(wǎng)絡(luò)言論，并在進(jìn)行業(yè)務(wù)邏輯之前對(duì)系統(tǒng)的網(wǎng)絡(luò)言論進(jìn)行過(guò)濾和保護(hù)。安全防火墻對(duì)系統(tǒng)的網(wǎng)絡(luò)言論的安全保護(hù)過(guò)程與上一實(shí)施例過(guò)程類(lèi)似，在此不贅述。為了更清楚地說(shuō)明本發(fā)明，下面將對(duì)本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)中的網(wǎng)絡(luò)言論監(jiān)控設(shè)備進(jìn)行詳細(xì)介紹。請(qǐng)參見(jiàn)圖5，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的第一實(shí)施例的結(jié)構(gòu)示意圖；所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備包括 獲取模塊10，用于獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論。具體實(shí)現(xiàn)中，所述獲取模塊10可以接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論，如圖4所示實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于客戶(hù)端與業(yè)務(wù)服務(wù)器之間，此時(shí)所述獲取模塊10則直接接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；所述獲取模塊10也可以接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論，如圖2所示實(shí)施列中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于業(yè)務(wù)邏輯的關(guān)鍵路徑之外，其接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；如圖3所示實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于業(yè)務(wù)邏輯的關(guān)鍵路徑上，其也可接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論。具體地，所述網(wǎng)絡(luò)言論包括但不限干微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任ー種或多種。標(biāo)注模塊20，用于判斷所述獲取模塊10獲取的所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，當(dāng)判斷結(jié)果為是時(shí)，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)。所述預(yù)設(shè)的識(shí)別規(guī)則包括但不限于以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)貝1J、政治類(lèi)言論識(shí)別規(guī)則。所述標(biāo)注模塊20首先將所述獲取模塊10獲取的網(wǎng)絡(luò)言論進(jìn)行解析，獲得至少ー個(gè)獨(dú)立的短句，然后基于所述預(yù)設(shè)的識(shí)別規(guī)則識(shí)別各個(gè)短句，當(dāng)識(shí)別到所述短句與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配時(shí)，為所述網(wǎng)絡(luò)言論自動(dòng)標(biāo)注相應(yīng)的標(biāo)識(shí)，所述標(biāo)識(shí)包括但不限于以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)。安全控制模塊30，用于根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述標(biāo)注模塊20為所述網(wǎng)絡(luò)言論標(biāo)注的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。具體實(shí)現(xiàn)中，所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。所述控制方式包括但不限于禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種。需要說(shuō)明的是，標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系可以根據(jù)實(shí)際需要進(jìn)行設(shè)定，比如根據(jù)實(shí)際需要，可預(yù)設(shè)“廣告標(biāo)識(shí)”與“禁止所述網(wǎng)絡(luò)言論的發(fā)表”的控制方式相對(duì)應(yīng)；也可預(yù)設(shè)“廣告標(biāo)識(shí)+惡意標(biāo)識(shí)”與“封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID”的控制方式對(duì)應(yīng)；還可預(yù)設(shè)“廣告標(biāo)識(shí)”與“禁止所述網(wǎng)絡(luò)言論的發(fā)表”及“封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID”兩種控制方式相對(duì)應(yīng)，等等，其他情況可類(lèi)似分析，在此不贅述。所述安全控制模塊30針對(duì)不同標(biāo)識(shí)的網(wǎng)絡(luò)言論，采用相對(duì)應(yīng)的適當(dāng)措施來(lái)對(duì)該網(wǎng)絡(luò)言論進(jìn)行対抗，有效地阻止了惡意的網(wǎng)絡(luò)言論泛濫，保護(hù)了系統(tǒng)的網(wǎng)絡(luò)言論安全。本發(fā)明實(shí)施例可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。請(qǐng)參見(jiàn)圖6，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的第二實(shí)施例的結(jié)構(gòu)示意圖；與上一實(shí)施例相同，所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備包括獲取模塊10、標(biāo)注模塊20和安全控制模塊30。本實(shí)施例中，所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備還包括
存儲(chǔ)模塊40，用于存儲(chǔ)預(yù)先設(shè)定的各種識(shí)別規(guī)則，及預(yù)先設(shè)定的各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系。 所述預(yù)設(shè)的識(shí)別規(guī)則包括但不限于以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)貝1J、政治類(lèi)言論識(shí)別規(guī)則。所述存儲(chǔ)模塊40則用于存儲(chǔ)所述預(yù)設(shè)的識(shí)別規(guī)則的集合，具體實(shí)現(xiàn)中，所述存儲(chǔ)模塊40可構(gòu)建ー個(gè)知識(shí)庫(kù)，該知識(shí)庫(kù)的構(gòu)建過(guò)程包括各種識(shí)別規(guī)則的設(shè)置過(guò)程及更新修正過(guò)程。下面以中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則為例，來(lái)具體說(shuō)明識(shí)別規(guī)則的設(shè)置過(guò)程和更新修正過(guò)程。首先，所述存儲(chǔ)模塊40從網(wǎng)絡(luò)中獲取大量的中獎(jiǎng)詐騙類(lèi)言論的樣本，比如“恭喜用戶(hù)，你獲得了某官方3萬(wàn)元大獎(jiǎng)ー份,請(qǐng)來(lái)www. zhongjiang. com領(lǐng)??！ ”、“尊敬的用戶(hù)，某公司成立10周年慶典活動(dòng),有大禮相送,請(qǐng)登錄www. af. com ! ”、“恭喜你,您是第100萬(wàn)開(kāi)通農(nóng)場(chǎng)業(yè)務(wù)的用戶(hù)，你獲得了某官方贈(zèng)送精美大禮包ー份,請(qǐng)登錄www. jiangpin. cn領(lǐng)?。　?，等等。其次，所述存儲(chǔ)模塊40從上述各種中獎(jiǎng)詐騙類(lèi)言論樣本中提取共有特征，一相 同的信息傳達(dá)對(duì)象。上述中獎(jiǎng)詐騙類(lèi)的信息傳達(dá)對(duì)象都是針對(duì)第二人稱(chēng)的，如“你”、“您”、“用戶(hù)”;ニ均帶有與“獎(jiǎng)品”相關(guān)或相似的詞，包括“獎(jiǎng)品”、“中獎(jiǎng)”、“獎(jiǎng)金”、“禮物”、“禮品”、“禮包”、“回饋等；三均帶有欺騙性網(wǎng)站的鏈接。再次，所述存儲(chǔ)模塊40模擬人腦抽象理解一句話(huà)關(guān)鍵信息要素的過(guò)程，提煉出中獎(jiǎng)詐騙類(lèi)言論的信息要素，表達(dá)如下{某某原因} {你} {中獎(jiǎng)了} U青登錄某網(wǎng)姑} {匯款領(lǐng)獎(jiǎng)}，所述存儲(chǔ)模塊40提煉得到的信息要素對(duì)具有共有特征的不同表現(xiàn)形式的中獎(jiǎng)詐騙類(lèi)言論進(jìn)行了高度概括和抽象。最后，所述存儲(chǔ)模塊40基于上述提取的共有特征，以及提煉得到的各個(gè)信息要素，從中提取出必要的、不可缺失的信息要素抽象出中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則{中獎(jiǎng)詐騙類(lèi)言論}= {第二人稱(chēng)}+ {獎(jiǎng)品}+ {外網(wǎng)鏈接}。上述過(guò)程即為中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則的預(yù)設(shè)過(guò)程，該過(guò)程是基于對(duì)現(xiàn)有出現(xiàn)的中獎(jiǎng)詐騙類(lèi)言論的樣本的指導(dǎo)學(xué)習(xí)形成的，也是對(duì)機(jī)器(網(wǎng)絡(luò)言論監(jiān)控設(shè)備)進(jìn)行訓(xùn)練的過(guò)程?？梢岳斫獾氖牵鲜鲞^(guò)程僅為舉例，其他識(shí)別規(guī)則，比如茶葉廣告類(lèi)言論的識(shí)別規(guī)則為{茶葉廣告類(lèi)言論}= {茶葉}+ {外網(wǎng)鏈接};再如色情類(lèi)言論的識(shí)別規(guī)則為{色情空間}= {空間有}+ {色情}+ {圖，視頻，電影};又如強(qiáng)制別人傳播，否則詛咒別人的惡意言論識(shí)別規(guī)則為{強(qiáng)制轉(zhuǎn)發(fā)惡意言論}= {不}+ {傳播該評(píng)論}+ {詛咒} + {你，全家};上述各種識(shí)別規(guī)則的形成過(guò)程可類(lèi)似分析，在此不贅述。基于對(duì)現(xiàn)有出現(xiàn)的各種不安全網(wǎng)絡(luò)言論的樣本的指導(dǎo)學(xué)習(xí)，形成各種識(shí)別規(guī)則，所述存儲(chǔ)模塊40將所有的識(shí)別規(guī)則聚集存儲(chǔ)，即構(gòu)建得到包含識(shí)別規(guī)則集合的知識(shí)庫(kù){中獎(jiǎng)詐騙類(lèi)言論}= {{廣告類(lèi)言論識(shí)別規(guī)則}、{詐騙類(lèi)言論識(shí)別規(guī)則}、{悪意言論識(shí)別規(guī)貝1J}、{反動(dòng)類(lèi)言論識(shí)別規(guī)則}、{色情類(lèi)言論識(shí)別規(guī)則}、{政治類(lèi)言論識(shí)別規(guī)則}……}。需要說(shuō)明的是，隨著各種不安全網(wǎng)絡(luò)言論的變種，所述預(yù)設(shè)的識(shí)別規(guī)則也會(huì)根據(jù)不斷的指導(dǎo)學(xué)習(xí)過(guò)程進(jìn)行不斷更新和修正，該知識(shí)庫(kù)也相應(yīng)的進(jìn)行不斷更新和修正，該更新修正過(guò)程與上述識(shí)別規(guī)則的形成過(guò)程類(lèi)似，在此不贅述。構(gòu)建好所述知識(shí)庫(kù)后，所述存儲(chǔ)模塊40需要將其轉(zhuǎn)化為所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備能夠識(shí)別的命令邏輯，由網(wǎng)絡(luò)言論監(jiān)控設(shè)備執(zhí)行該命令邏輯來(lái)完成對(duì)預(yù)設(shè)的識(shí)別規(guī)則的應(yīng)用。依上述例子，基于預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則，其命令邏輯如下
Function knowledgebase. Label (comment)// 自動(dòng)你注邏輯
{
Foreach rule in knowledgebase //對(duì)預(yù)設(shè)的所有識(shí)別規(guī)則進(jìn)行逐一識(shí)別
{
If rule. Recognize (comment) ; then // 如果某規(guī)則識(shí)別了短句 comment got rule. Label//為短句標(biāo)注規(guī)則對(duì)應(yīng)的標(biāo)識(shí)
Endif
}
}
Function rule. Recognize (comment)// 識(shí)別規(guī)則的識(shí)別邏輯
{
IF comment. Contains {第二人稱(chēng)} && comment Contains {獎(jiǎng)品} && commentContains {外網(wǎng)鏈接};then
//判斷該網(wǎng)絡(luò)言論是否匹配了識(shí)別規(guī)則包含的所有信息要素 Return rule recognize this comment //信息要素全部包含，則該網(wǎng)絡(luò)言論與該識(shí)別規(guī)則相匹配 Else
Return rule do not recognize this comment
//該網(wǎng)絡(luò)言論與該識(shí)別規(guī)則不匹配
Endif
}
Function comment. Contains {第二人稱(chēng)}//信息要素的識(shí)別邏輯
{
If (comment. Contains keyword 你 | | comment. Contains Keyword 您 | |comment. Contains keyword 〃用戶(hù) 〃 )then
//短句評(píng)論是否含有信息要素的具體化內(nèi)容特征Return comment contain {第二人稱(chēng)} Il短句含有{第二人稱(chēng)}信息 Else
Return comment do not contain i 弟二人稱(chēng)}
Endif
}
所述標(biāo)注模塊20通過(guò)執(zhí)行上述命令邏輯，可判斷網(wǎng)絡(luò)言論是否與知識(shí)庫(kù)中預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則相匹配，且當(dāng)判斷結(jié)果為是時(shí)，自動(dòng)對(duì)該網(wǎng)絡(luò)言論標(biāo)注所述預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則對(duì)應(yīng)的標(biāo)識(shí)，如中獎(jiǎng)詐騙標(biāo)識(shí)。
需要說(shuō)明的是，所述存儲(chǔ)模塊40還用于存儲(chǔ)預(yù)先設(shè)定的各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系；所述標(biāo)識(shí)包括但不限于以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)；所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式；所述控制方式包括但不限于禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種。本發(fā)明實(shí)施例可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行理解識(shí)別和過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。為了更清楚地說(shuō)明本發(fā)明，下面將對(duì)本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備中的標(biāo)注模塊進(jìn)行詳細(xì)介紹。請(qǐng)參見(jiàn)圖7，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備的標(biāo)注模塊的實(shí)施例的結(jié)構(gòu)示意圖；所述標(biāo)注模塊20包括
解析単元201，用于解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句。所謂短句，指采用高度提煉的短語(yǔ)或一句話(huà)表達(dá)一個(gè)觀(guān)點(diǎn)或主題。用戶(hù)通過(guò)客戶(hù)端發(fā)布網(wǎng)絡(luò)言論，該網(wǎng)絡(luò)言論可以是ー長(zhǎng)段的言論(多個(gè)獨(dú)立的短句構(gòu)成)，也可以為ー個(gè)短句。當(dāng)所述網(wǎng)絡(luò)言論為ー個(gè)短句時(shí)，所述解析単元201直接獲得該短句；當(dāng)所述網(wǎng)絡(luò)言論為ー長(zhǎng)段的言論時(shí)，所述解析単元201對(duì)該長(zhǎng)段的言論進(jìn)行分割，獲得多個(gè)獨(dú)立的短句，所述解析単元201對(duì)長(zhǎng)段言論的分割方式可以為基于標(biāo)點(diǎn)符號(hào)的分割方式，即按照標(biāo)點(diǎn)符號(hào)進(jìn)行分割獲得短句；基于統(tǒng)計(jì)規(guī)律進(jìn)行分割，即按照短句平均的長(zhǎng)度對(duì)長(zhǎng)段的言論進(jìn)行分割；等等。識(shí)別判斷単元202，用于對(duì)所述解析単元201獲得的短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配。所述識(shí)別判斷単元202基于所述預(yù)設(shè)的識(shí)別規(guī)則對(duì)所述解析単元201獲得的各個(gè)短句進(jìn)行識(shí)別，具體地，所述識(shí)別判斷単元202通過(guò)執(zhí)行上一實(shí)施例中的命令邏輯來(lái)進(jìn)行識(shí)別判斷。標(biāo)注單元203，用于當(dāng)所述識(shí)別判斷単元202判斷結(jié)果為是時(shí)，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。當(dāng)所述識(shí)別判斷単元202判斷短句與預(yù)設(shè)的識(shí)別規(guī)則相匹配時(shí)，所述標(biāo)注単元203通過(guò)執(zhí)行上一實(shí)施例中的命令邏輯，自動(dòng)對(duì)該匹配的網(wǎng)絡(luò)言論標(biāo)注所述預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則對(duì)應(yīng)的標(biāo)識(shí)，如中獎(jiǎng)詐騙標(biāo)識(shí)。需要說(shuō)明的是，若所述識(shí)別判斷単元202的判斷結(jié)果為否，表明所述網(wǎng)絡(luò)言論為正常的言論，則采用正常的業(yè)務(wù)邏輯對(duì)該網(wǎng)絡(luò)言論進(jìn)行處理，此過(guò)程與現(xiàn)有技術(shù)相同，在此不贅述。本發(fā)明實(shí)施例可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。為了更清楚地說(shuō)明本發(fā)明，下面將對(duì)本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控設(shè)備所執(zhí)行的網(wǎng)絡(luò)言論監(jiān)控方法進(jìn)行詳細(xì)介紹。
請(qǐng)參見(jiàn)圖8，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控方法的第一實(shí)施例的流程圖；所述方法包括
S101，獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論。具體實(shí)現(xiàn)中，所述SlOl可以接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論，如圖4所示實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于客戶(hù)端與業(yè)務(wù)服務(wù)器之間，此時(shí)所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備則執(zhí)行所述S101，直接接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；所述SlOl也可以接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論，如圖2所示實(shí)施列中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于業(yè)務(wù)邏輯的關(guān)鍵路徑之外，其執(zhí)行所述S101，接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；如圖3所示實(shí)施例中，網(wǎng)絡(luò)言論監(jiān)控設(shè)備設(shè)置于業(yè)務(wù)邏輯的關(guān)鍵路徑上，其執(zhí)行所述S101，接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論。具體地，所述網(wǎng)絡(luò)言論包括但不限于微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任一種或多種。S102，判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，轉(zhuǎn)入S103 ;否則，結(jié)束。所述預(yù)設(shè)的識(shí)別規(guī)則包括但不限于以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)貝1J、政治類(lèi)言論識(shí)別規(guī)則。所述S102首先將所述獲取的網(wǎng)絡(luò)言論進(jìn)行解析，獲得至少ー個(gè)獨(dú)立的短句，然后基于所述預(yù)設(shè)的識(shí)別規(guī)則識(shí)別各個(gè)短句，當(dāng)識(shí)別到所述短句與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配吋，轉(zhuǎn)入執(zhí)行S103，否則，結(jié)束。S103，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)。當(dāng)所述S102識(shí)別到所述短句與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配時(shí)，所述S103為所述網(wǎng)絡(luò)言論自動(dòng)標(biāo)注相應(yīng)的標(biāo)識(shí)，所述標(biāo)識(shí)包括但不限于以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)。S104，根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述網(wǎng)絡(luò)言論的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。具體實(shí)現(xiàn)中，所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。所述控制方式包括但不限于禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種。需要說(shuō)明的是，標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系可以根據(jù)實(shí)際需要進(jìn)行設(shè)定，比如根據(jù)實(shí)際需要，可預(yù)設(shè)“廣告標(biāo)識(shí)”與“禁止所述網(wǎng)絡(luò)言論的發(fā)表”的控制方式相對(duì)應(yīng)；也可預(yù)設(shè)“廣告標(biāo)識(shí)+惡意標(biāo)識(shí)”與“封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID”的控制方式對(duì)應(yīng)；還可預(yù)設(shè)“廣告標(biāo)識(shí)”與“禁止所述網(wǎng)絡(luò)言論的發(fā)表”及“封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID”兩種控制方式相對(duì)應(yīng)，等等，其他情況可類(lèi)似分析，在此不贅述。所述S104針對(duì)不同標(biāo)識(shí)的網(wǎng)絡(luò)言論，采用相對(duì)應(yīng)的適當(dāng)措施來(lái)對(duì)該網(wǎng)絡(luò)言論進(jìn)行對(duì)抗，有效地阻止了不安全的網(wǎng)絡(luò)言論泛濫，保護(hù)了系統(tǒng)的網(wǎng)絡(luò)言論安全。本發(fā)明實(shí)施例可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。請(qǐng)參見(jiàn)圖9，為本發(fā)明的網(wǎng)絡(luò)言論監(jiān)控方法的第二實(shí)施例的流程圖；所述方法包括
S201，預(yù)先設(shè)定各種識(shí)別規(guī)則，及預(yù)先設(shè)定各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系。所述預(yù)設(shè)的識(shí)別規(guī)則包括但不限于以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)貝1J、政治類(lèi)言論識(shí)別規(guī)則。所述S201對(duì)各種識(shí)別規(guī)則的設(shè)置過(guò)程，即為對(duì)包含各種識(shí)別規(guī) 則的知識(shí)庫(kù)的構(gòu)建過(guò)程，該知識(shí)庫(kù)的構(gòu)建過(guò)程包括各種識(shí)別規(guī)則的設(shè)置過(guò)程及更新修正過(guò)程。下面以中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則為例，來(lái)具體說(shuō)明所述識(shí)別規(guī)則的設(shè)置過(guò)程和更新修正過(guò)程。首先，所述S201從網(wǎng)絡(luò)中獲取大量的中獎(jiǎng)詐騙類(lèi)言論的樣本，比如“恭喜用戶(hù)，你獲得了某官方3萬(wàn)元大獎(jiǎng)ー份,請(qǐng)來(lái)www. zhongjiang. com領(lǐng)?。?”、“尊敬的用戶(hù)，某公司成立10周年慶典活動(dòng),有大禮相送,請(qǐng)登錄www. af. com ! ”、“恭喜你,您是第100萬(wàn)開(kāi)通農(nóng)場(chǎng)業(yè)務(wù)的用戶(hù)，你獲得了某官方贈(zèng)送精美大禮包ー份，請(qǐng)登錄www. jiangpin. cn領(lǐng)取！ ”,等
坐寸ο其次，所述S201上述各種中獎(jiǎng)詐騙類(lèi)言論樣本中提取共有特征，一相同的信息傳達(dá)對(duì)象。上述中獎(jiǎng)詐騙類(lèi)的信息傳達(dá)對(duì)象都是針對(duì)第二人稱(chēng)的，如“你”、“您”、“用戶(hù)”；ニ均帶有與“獎(jiǎng)品”相關(guān)或相似的詞，包括“獎(jiǎng)品”、“中獎(jiǎng)”、“獎(jiǎng)金”、“禮物”、“禮品”、“禮包”、“回饋等；三均帶有欺騙性網(wǎng)站的鏈接。再次，所述S201模擬人腦抽象理解一句話(huà)關(guān)鍵信息要素的過(guò)程，提煉出中獎(jiǎng)詐騙類(lèi)言論的信息要素，表達(dá)如下{某某原因} {你} {中獎(jiǎng)了} U青登錄某網(wǎng)姑} {匯款領(lǐng)獎(jiǎng)}，所述S201提煉得到的信息要素對(duì)具有共有特征的不同表現(xiàn)形式的中獎(jiǎng)詐騙類(lèi)言論進(jìn)行了高度概括和抽象。最后，所述S201基于上述提取的共有特征，以及提煉得到的各個(gè)信息要素，從中提取出必要的、不可缺失的信息要素抽象出中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則{中獎(jiǎng)詐騙類(lèi)言論}= {第二人稱(chēng)}+ {獎(jiǎng)品}+ {外網(wǎng)鏈接}。上述過(guò)程即為中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則的預(yù)設(shè)過(guò)程，該過(guò)程是基于對(duì)現(xiàn)有出現(xiàn)的中獎(jiǎng)詐騙類(lèi)言論的樣本的指導(dǎo)學(xué)習(xí)形成的?？梢岳斫獾氖?，上述過(guò)程僅為舉例，其他識(shí)別規(guī)則，比如茶葉廣告類(lèi)言論的識(shí)別規(guī)則為{茶葉廣告類(lèi)言論}= {茶葉}+ {外網(wǎng)鏈接};再如色情類(lèi)言論的識(shí)別規(guī)則為{色情空間}= {空間有}+ {色情}+ {圖，視頻，電影};又如強(qiáng)制別人傳播，否則詛咒別人的惡意言論識(shí)別規(guī)則為{強(qiáng)制轉(zhuǎn)發(fā)惡意言論}= {不}+ {傳播該評(píng)論}+ {詛咒} + {你，全家};上述各種識(shí)別規(guī)則的形成過(guò)程可類(lèi)似分析，在此不贅述。基于對(duì)現(xiàn)有出現(xiàn)的各種不安全網(wǎng)絡(luò)言論的樣本的指導(dǎo)學(xué)習(xí)，形成各種識(shí)別規(guī)則，所述S201將所有的識(shí)別規(guī)則聚集，即構(gòu)建得到包含識(shí)別規(guī)則集合的知識(shí)庫(kù){中獎(jiǎng)詐騙類(lèi)言論}= {{廣告類(lèi)言論識(shí)別規(guī)則}、{詐騙類(lèi)言論識(shí)別規(guī)則}、{悪意言論識(shí)別規(guī)則}、{反動(dòng)類(lèi)言論識(shí)別規(guī)則}、{色情類(lèi)言論識(shí)別規(guī)則}、{政治類(lèi)言論識(shí)別規(guī)則}……}。需要說(shuō)明的是，隨著各種不安全的網(wǎng)絡(luò)言論的變種，所述預(yù)設(shè)的識(shí)別規(guī)則也會(huì)根據(jù)不斷的指導(dǎo)學(xué)習(xí)過(guò)程進(jìn)行不斷更新和修正，該知識(shí)庫(kù)也相應(yīng)的進(jìn)行不斷更新和修正，該更新修正過(guò)程與上述識(shí)別規(guī)則的形成過(guò)程類(lèi)似，在此不贅述。構(gòu)建好所述知識(shí)庫(kù)后，所述S201需要將其轉(zhuǎn)化為所述網(wǎng)絡(luò)言論監(jiān)控設(shè)備能夠識(shí)別的命令邏輯，由網(wǎng)絡(luò)言論監(jiān)控設(shè)備執(zhí)行該命令邏輯來(lái)完成對(duì)預(yù)設(shè)的識(shí)別規(guī)則的應(yīng)用。依上述例子，基于預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論識(shí)別規(guī)則，其命令邏輯如下
Function knowledgebase. Label (,comment)// 自動(dòng)你注邏輯
{
Foreach rule in knowledgebase //對(duì)預(yù)設(shè)的所有識(shí)別規(guī)則進(jìn)行逐一識(shí)別
{
If rule. Recognize (comment) ; then // 如果某規(guī)則識(shí)別了短句 comment got rule. Label//為短句標(biāo)注規(guī)則對(duì)應(yīng)的標(biāo)識(shí)
Endif
}
}
Function rule. Recognize (comment)// 識(shí)別規(guī)則的識(shí)別邏輯
{
IF comment. Contains {第二人稱(chēng)} && comment Contains {獎(jiǎng)品} && commentContains {外網(wǎng)鏈接};then
//判斷該網(wǎng)絡(luò)言論是否匹配了識(shí)別規(guī)則包含的所有信息要素 Return rule recognize this comment //信息要素全部包含，則該網(wǎng)絡(luò)言論與該識(shí)別規(guī)則相匹配 Else
Return rule do not recognize this comment
//該網(wǎng)絡(luò)言論與該識(shí)別規(guī)則不匹配
Endif
}
Function comment. Contains {第二人稱(chēng)}//信息要素的識(shí)別邏輯
{
If (comment. Contains keyword 你 | | comment. Contains Keyword 您 | |comment. Contains keyword 〃用戶(hù) 〃 )then
//短句評(píng)論是否含有信息要素的具體化內(nèi)容特征
Return comment contain {第二人稱(chēng)} //短句含有{第二人稱(chēng)}信息 Else
Return comment do not contain i 弟二人稱(chēng)}
Endif
}S202，接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論，或接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論。本實(shí)施例中，所述S202與上一實(shí)施例中的SlOl的步驟類(lèi)似，在此不贅述。S203，解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句。所謂短句，指采用高度提煉的短語(yǔ)或一句話(huà)表達(dá)一個(gè)觀(guān)點(diǎn)或主題。用戶(hù)通過(guò)客戶(hù)端發(fā)布網(wǎng)絡(luò)言論，該網(wǎng)絡(luò)言論可以是ー長(zhǎng)段的言論(多個(gè)獨(dú)立的短句構(gòu)成)，也可以為ー個(gè)短句。當(dāng)所述網(wǎng)絡(luò)言論為ー個(gè)短句時(shí)，所述S203直接獲得該短句；當(dāng)所述網(wǎng)絡(luò)言論為ー長(zhǎng)段的言論時(shí)，所述S203對(duì)該長(zhǎng)段的言論進(jìn)行分割，獲得多個(gè)獨(dú)立的短句，所述S203對(duì)長(zhǎng)段言論的分割方式可以為基于標(biāo)點(diǎn)符號(hào)的分割方式，即按照標(biāo)點(diǎn)符號(hào)進(jìn)行分割獲得短句；基于統(tǒng)計(jì)規(guī)律進(jìn)行分割，即按照短句平均的長(zhǎng)度對(duì)長(zhǎng)段的言論進(jìn)行分割；等等。S204，對(duì)所述短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配；若判斷結(jié)果為是，轉(zhuǎn)入S205 ;否則，結(jié)束。 所述S204基于所述預(yù)設(shè)的識(shí)別規(guī)則對(duì)所述S203獲得的各個(gè)短句進(jìn)行識(shí)別，具體地，所述S204通過(guò)所述S201中的命令邏輯來(lái)進(jìn)行識(shí)別判斷。S205，若判斷結(jié)果為是，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。當(dāng)所述S204判斷短句與預(yù)設(shè)的識(shí)別規(guī)則相匹配時(shí)，所述S205通過(guò)執(zhí)行上ー實(shí)施例中的命令邏輯，自動(dòng)對(duì)該匹配的網(wǎng)絡(luò)言論標(biāo)注所述預(yù)設(shè)的中獎(jiǎng)詐騙類(lèi)言論的識(shí)別規(guī)則對(duì)應(yīng)的標(biāo)識(shí)，如中獎(jiǎng)詐騙標(biāo)識(shí)。需要說(shuō)明的是，若所述S204的判斷結(jié)果為否，表明所述網(wǎng)絡(luò)言論為正常的言論，則采用正常的業(yè)務(wù)邏輯對(duì)該網(wǎng)絡(luò)言論進(jìn)行處理，此過(guò)程與現(xiàn)有技術(shù)相同，在此不贅述。本實(shí)施例中，所述S203-S205為上ー實(shí)施例的S102-S103的具體細(xì)化步驟。S206，根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述網(wǎng)絡(luò)言論的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。本實(shí)施例中，所述S206與上一實(shí)施例的S104的步驟相同，在此不贅述。本發(fā)明實(shí)施例可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行理解識(shí)別和過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度。通過(guò)上述實(shí)施例的描述，本發(fā)明實(shí)施例采用預(yù)設(shè)的識(shí)別規(guī)則對(duì)用戶(hù)發(fā)表的網(wǎng)絡(luò)言論進(jìn)行識(shí)別和判斷，當(dāng)判斷所述網(wǎng)絡(luò)言論與預(yù)設(shè)的識(shí)別規(guī)則相匹配吋，自動(dòng)為該網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)，并采用與該標(biāo)識(shí)相對(duì)應(yīng)的控制方式進(jìn)行安全控制，基于該識(shí)別規(guī)則對(duì)網(wǎng)絡(luò)言論進(jìn)行監(jiān)控，可有效過(guò)濾掉不安全的網(wǎng)絡(luò)言論，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)カ度；另夕卜，本發(fā)明實(shí)施例的網(wǎng)絡(luò)監(jiān)控所基于的預(yù)設(shè)的識(shí)別規(guī)則，是從網(wǎng)絡(luò)中各種不安全網(wǎng)絡(luò)言論的樣本的指導(dǎo)學(xué)習(xí)過(guò)程中提煉而成，能夠有效地對(duì)各種不安全網(wǎng)絡(luò)言論進(jìn)行理解識(shí)別，有利于提高網(wǎng)絡(luò)言論安全的監(jiān)控カ度。本領(lǐng)域普通技術(shù)人員可以理解實(shí)現(xiàn)上述實(shí)施例方法中的全部或部分流程，是可以通過(guò)計(jì)算機(jī)程序來(lái)指令相關(guān)的硬件來(lái)完成，所述的程序可存儲(chǔ)于一計(jì)算機(jī)可讀取存儲(chǔ)介質(zhì)中，該程序在執(zhí)行時(shí)，可包括如上述各方法的實(shí)施例的流程。其中，所述的存儲(chǔ)介質(zhì)可為磁碟、光盤(pán)、只讀存儲(chǔ)記憶體(Read-Only Memory, ROM)或隨機(jī)存儲(chǔ)記憶體(Random AccessMemory, RAM)等。以上所揭露的僅為本發(fā)明較佳實(shí)施例而已，當(dāng)然不能以此來(lái)限定本發(fā)明之權(quán)利范圍，本領(lǐng)域普通技術(shù)人員可以理解實(shí)現(xiàn)上述實(shí)施例的全部或部分流程，并依本發(fā)明權(quán)利要 求所作的等同變化，仍屬于發(fā)明所涵蓋的范圍。
權(quán)利要求
1.一種網(wǎng)絡(luò)言論監(jiān)控方法，其特征在于，包括 獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論； 判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)； 根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述網(wǎng)絡(luò)言論的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。
2.如權(quán)利要求I所述的方法，其特征在于，所述獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論包括 接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；或者， 接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論； 其中，所述網(wǎng)絡(luò)言論包括微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任ー種或多種。
3.如權(quán)利要求I所述的方法，其特征在于，所述判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)，包括 解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句； 對(duì)所述短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配； 若判斷結(jié)果為是，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。
4.如權(quán)利要求3所述的方法，其特征在于，所述解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句，包括 基于標(biāo)點(diǎn)符號(hào)對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句；或者， 基于短句長(zhǎng)度的統(tǒng)計(jì)規(guī)律對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句。
5.如權(quán)利要求1-4任一項(xiàng)所述的方法，其特征在于，所述獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論之前，還包括 預(yù)先設(shè)定各種識(shí)別規(guī)則，及預(yù)先設(shè)定各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系； 所述預(yù)設(shè)的識(shí)別規(guī)則包括以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)則、政治類(lèi)言論識(shí)別規(guī)則； 所述標(biāo)識(shí)包括以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)； 所述控制方式包括禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種； 所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。
6.如權(quán)利要求5所述的方法，其特征在于，所述預(yù)先設(shè)定各種識(shí)別規(guī)則，包括 從網(wǎng)絡(luò)中獲取各種不安全網(wǎng)絡(luò)言論的樣本； 從所述樣本中提取每種不安全網(wǎng)絡(luò)言論的共有特征，并從所述樣本中提煉每種不安全網(wǎng)絡(luò)言論的必要信息要素； 根據(jù)每種不安全網(wǎng)絡(luò)言論的共有特征和必要信息要素，生成每種不安全網(wǎng)絡(luò)言論的識(shí)別規(guī)則。
7.—種網(wǎng)絡(luò)言論監(jiān)控設(shè)備，其特征在于，包括 獲取模塊，用于獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論； 標(biāo)注模塊，用于判斷所述獲取模塊獲取的所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，當(dāng)判斷結(jié)果為是時(shí)，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)； 安全控制模塊，用于根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述標(biāo)注模塊為所述網(wǎng)絡(luò)言論標(biāo)注的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。
8.如權(quán)利要求7所述的設(shè)備，其特征在于，所述獲取模塊接收客戶(hù)端發(fā)送的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；或者，所述獲取模塊接收業(yè)務(wù)服務(wù)器上報(bào)的用戶(hù)發(fā)表的網(wǎng)絡(luò)言論； 其中，所述網(wǎng)絡(luò)言論包括微博留言、微博評(píng)論、微博回復(fù)、論壇留言、論壇評(píng)論、留言板留言、日志評(píng)論及博客留言中的任ー種或多種。
9.如權(quán)利要求7所述的設(shè)備，其特征在于，所述標(biāo)注模塊包括 解析単元，用于解析所述網(wǎng)絡(luò)言論，獲得至少ー個(gè)獨(dú)立的短句； 識(shí)別判斷単元，用于對(duì)所述解析單元獲得的短句進(jìn)行識(shí)別，判斷所述短句是否與所述預(yù)設(shè)的識(shí)別規(guī)則相匹配； 標(biāo)注單元，用于當(dāng)所述識(shí)別判斷単元判斷結(jié)果為是時(shí)，為所述短句標(biāo)注相應(yīng)的標(biāo)識(shí)。
10.如權(quán)利要求9所述的設(shè)備，其特征在于，所述解析単元基于標(biāo)點(diǎn)符號(hào)對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句；或者，基于短句長(zhǎng)度的統(tǒng)計(jì)規(guī)律對(duì)所述網(wǎng)絡(luò)言論進(jìn)行分割，獲得至少ー個(gè)獨(dú)立的短句。
11.如權(quán)利要求7所述的設(shè)備，其特征在于，還包括 存儲(chǔ)模塊，用于存儲(chǔ)預(yù)先設(shè)定的各種識(shí)別規(guī)則，及預(yù)先設(shè)定的各種標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系； 所述預(yù)設(shè)的識(shí)別規(guī)則包括以下規(guī)則中的任ー種或多種廣告類(lèi)言論識(shí)別規(guī)則、詐騙類(lèi)言論識(shí)別規(guī)則、惡意言論識(shí)別規(guī)則、反動(dòng)類(lèi)言論識(shí)別規(guī)則、色情類(lèi)言論識(shí)別規(guī)則、政治類(lèi)言論識(shí)別規(guī)則； 所述標(biāo)識(shí)包括以下標(biāo)識(shí)中的任ー種或多種廣告標(biāo)識(shí)、詐騙標(biāo)識(shí)、惡意標(biāo)識(shí)、反動(dòng)標(biāo)識(shí)、色情標(biāo)識(shí)、政治標(biāo)識(shí)； 所述控制方式包括禁止所述網(wǎng)絡(luò)言論的發(fā)表、封鎖所述網(wǎng)絡(luò)言論的發(fā)起方ID、禁止所述網(wǎng)絡(luò)言論的發(fā)起方ID的所有網(wǎng)絡(luò)言論的發(fā)表、向所述網(wǎng)絡(luò)言論的發(fā)起方發(fā)送警告信息中的任ー種或多種； 所述預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系為任一種標(biāo)識(shí)對(duì)應(yīng)ー種控制方式，或者，多種標(biāo)識(shí)的組合對(duì)應(yīng)至少一種控制方式。
12.—種網(wǎng)絡(luò)言論監(jiān)控系統(tǒng)，其特征在于，包括如權(quán)利要求7-11任一項(xiàng)所述的網(wǎng)絡(luò)言論監(jiān)控設(shè)備。
全文摘要
本發(fā)明實(shí)施例公開(kāi)了一種網(wǎng)絡(luò)言論監(jiān)控方法，包括獲取用戶(hù)發(fā)表的網(wǎng)絡(luò)言論；判斷所述網(wǎng)絡(luò)言論是否與預(yù)設(shè)的識(shí)別規(guī)則相匹配，若判斷結(jié)果為是，為所述網(wǎng)絡(luò)言論標(biāo)注相應(yīng)的標(biāo)識(shí)；根據(jù)預(yù)設(shè)的標(biāo)識(shí)與控制方式的邏輯對(duì)應(yīng)關(guān)系，采用與所述網(wǎng)絡(luò)言論的標(biāo)識(shí)相對(duì)應(yīng)的控制方式對(duì)所述網(wǎng)絡(luò)言論進(jìn)行安全控制。本發(fā)明實(shí)施例還公開(kāi)了一種網(wǎng)絡(luò)言論監(jiān)控設(shè)備及系統(tǒng)。采用本發(fā)明，可有效地對(duì)不安全的網(wǎng)絡(luò)言論進(jìn)行過(guò)濾，提高對(duì)網(wǎng)絡(luò)言論的安全保護(hù)力度。
文檔編號(hào)H04L12/26GK102694673SQ20111007325
公開(kāi)日2012年9月26日 申請(qǐng)日期2011年3月25日 優(yōu)先權(quán)日2011年3月25日
發(fā)明者何曄 申請(qǐng)人:騰訊科技(深圳)有限公司