本申請實(shí)施例涉及人工智能，尤其涉及一種圖片審核方法、裝置、電子設(shè)備及存儲介質(zhì)。

背景技術(shù)：

1、隨著互聯(lián)網(wǎng)行業(yè)的發(fā)展，海量圖片在各大互聯(lián)網(wǎng)平臺中上傳、下載、傳播，同時(shí)也帶來了巨大的風(fēng)控隱患。例如大量違規(guī)信息隱藏在圖片中，嚴(yán)重影響了客戶體驗(yàn)和觀感。過去圖片審核強(qiáng)依賴于人工審核，而近年來隨著人工智能技術(shù)的發(fā)展，基于海量圖片樣本和大規(guī)模圖形處理器(graphics?processing?unit，gpu)計(jì)算的深度學(xué)習(xí)技術(shù)逐漸成為業(yè)界主流方案。

2、相關(guān)技術(shù)中，主要采用單模態(tài)的圖片數(shù)據(jù)特征研判圖片是否違規(guī)。但是，對于審核標(biāo)準(zhǔn)較為復(fù)雜的場景，比如廣告投放場景，存在在不同情況下的審核標(biāo)準(zhǔn)存在差異，或者客戶自身業(yè)務(wù)有定制化的需求，或者審核標(biāo)準(zhǔn)判定邏輯復(fù)雜等情況。在復(fù)雜的審核標(biāo)準(zhǔn)下，現(xiàn)有基于單模態(tài)的圖片數(shù)據(jù)特征進(jìn)行審核研判時(shí)，誤殺漏殺的情況較為嚴(yán)重。

技術(shù)實(shí)現(xiàn)思路

1、本申請?zhí)峁┮环N圖片審核方法、裝置、電子設(shè)備及存儲介質(zhì)，能夠有效提高圖片審核的準(zhǔn)確率，有利于減少誤殺漏殺的情況。

2、第一方面，本申請實(shí)施例提供一種圖片審核的方法，包括：

3、利用字符識別模塊對待審核圖片進(jìn)行文字檢測和識別，提取所述待審核圖片中的文本信息；

4、對所述文本信息與預(yù)設(shè)文本標(biāo)簽進(jìn)行匹配，確定文本匹配結(jié)果，所述文本匹配結(jié)果用于指示所述文本信息是否成功匹配所述預(yù)設(shè)文本標(biāo)簽；其中，所述預(yù)設(shè)文本標(biāo)簽包括文本詞庫中預(yù)先存儲的至少一個(gè)關(guān)鍵詞、預(yù)先配置的至少一個(gè)正則表達(dá)式和至少一個(gè)文本類別中的至少一種；

5、對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，所述圖像匹配結(jié)果用于指示所述待審核圖片是否成功匹配所述預(yù)設(shè)圖像標(biāo)簽；其中，所述預(yù)設(shè)圖像標(biāo)簽包括圖像庫中預(yù)先存儲的至少一個(gè)圖片樣本特征、預(yù)先配置的至少一個(gè)圖像類別和至少一個(gè)目標(biāo)圖像中的至少一種；

6、根據(jù)所述文本匹配結(jié)果和所述圖像匹配結(jié)果，確定所述待審核圖片是否合規(guī)。

7、第二方面，本申請實(shí)施例提供一種圖片審核的裝置，包括：

8、字符識別模塊，用于對待審核圖片進(jìn)行文字檢測和識別，提取所述待審核圖片中的文本信息；

9、文本匹配單元，用于對所述文本信息與預(yù)設(shè)文本標(biāo)簽進(jìn)行匹配，確定文本匹配結(jié)果，所述文本匹配結(jié)果用于指示所述文本信息是否成功匹配所述預(yù)設(shè)文本標(biāo)簽；其中，所述預(yù)設(shè)文本標(biāo)簽包括文本詞庫中預(yù)先存儲的至少一個(gè)關(guān)鍵詞、預(yù)先配置的至少一個(gè)正則表達(dá)式和至少一個(gè)文本類別中的至少一種；

10、圖片匹配單元，用于對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，所述圖像匹配結(jié)果用于指示所述待審核圖片是否成功匹配所述預(yù)設(shè)圖像標(biāo)簽；其中，所述預(yù)設(shè)圖像標(biāo)簽包括圖像庫中預(yù)先存儲的至少一個(gè)圖片樣本特征、預(yù)先配置的至少一個(gè)圖像類別和至少一個(gè)目標(biāo)圖像中的至少一種；

11、確定單元，用于根據(jù)所述文本匹配結(jié)果和所述圖像匹配結(jié)果，確定所述待審核圖片是否合規(guī)。

12、第三方面，本申請實(shí)施例提供一種電子設(shè)備，包括：處理器和存儲器，該存儲器用于存儲計(jì)算機(jī)程序，該處理器用于調(diào)用并運(yùn)行該存儲器中存儲的計(jì)算機(jī)程序，執(zhí)行如第一方面的方法。

13、第四方面，本申請實(shí)施例提供一種計(jì)算機(jī)可讀存儲介質(zhì)，包括指令，當(dāng)其在計(jì)算機(jī)上運(yùn)行時(shí)使得計(jì)算機(jī)執(zhí)行如第一方面的方法。

14、第五方面，本申請實(shí)施例提供一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序指令，該計(jì)算機(jī)程序指令使得計(jì)算機(jī)執(zhí)行如第一方面的方法。

15、第六方面，本申請實(shí)施例提供一種計(jì)算機(jī)程序，計(jì)算機(jī)程序使得計(jì)算機(jī)執(zhí)行如第一方面的方法。

16、通過上述技術(shù)方案，本申請實(shí)施例通過對待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配得到圖像匹配結(jié)果，以及對待審核圖片中文本信息與預(yù)設(shè)文本標(biāo)簽進(jìn)行匹配得到文本匹配結(jié)果，進(jìn)而綜合待審核圖片的圖像匹配結(jié)果和文本匹配結(jié)果研判圖片是否違規(guī)，相比于現(xiàn)有技術(shù)的僅基于文本或圖片的單模態(tài)信息的審核方式而言，本申請實(shí)施例能夠有效提高圖片審核的準(zhǔn)確率，有利于減少對合規(guī)圖片的誤殺以及對違規(guī)圖片的漏殺的情況。

技術(shù)特征：

1.一種圖片審核方法，其特征在于，包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述預(yù)設(shè)文本標(biāo)簽包括用于指示圖片中目標(biāo)類型信息合規(guī)的文本標(biāo)簽。

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述對所述文本信息與預(yù)設(shè)文本標(biāo)簽進(jìn)行匹配，確定文本匹配結(jié)果，包括：

4.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述預(yù)設(shè)圖像標(biāo)簽包括用于指示圖片包括目標(biāo)類型信息的圖像標(biāo)簽。

5.根據(jù)權(quán)利要求4所述的方法，其特征在于，對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，包括：

6.根據(jù)權(quán)利要求4所述的方法，其特征在于，對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，包括：

7.根據(jù)權(quán)利要求4所述的方法，其特征在于，所述對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，包括：

8.根據(jù)權(quán)利要求1所述的方法，其特征在于，當(dāng)所述預(yù)設(shè)文本標(biāo)簽包括用于指示圖片中目標(biāo)類型信息合規(guī)的文本標(biāo)簽，所述預(yù)設(shè)圖像標(biāo)簽包括用于指示圖片包括所述目標(biāo)類型信息的圖像標(biāo)簽時(shí)，所述根據(jù)所述文本匹配結(jié)果和所述圖像匹配結(jié)果，確定所述待審核圖片是否合規(guī)，包括：

9.根據(jù)權(quán)利要求8所述的方法，其特征在于，還包括：

10.根據(jù)權(quán)利要求1所述的方法，其特征在于，還包括：

11.根據(jù)權(quán)利要求1-10任一項(xiàng)所述的方法，其特征在于，所述文本詞庫還包括至少一個(gè)用于指示違規(guī)信息的關(guān)鍵詞。

12.一種圖片審核的裝置，其特征在于，包括：

13.一種電子設(shè)備，其特征在于，包括處理器和存儲器，所述存儲器中存儲有指令，所述處理器執(zhí)行所述指令時(shí)，使得所述處理器執(zhí)行權(quán)利要求1-11任一項(xiàng)所述的方法。

14.一種計(jì)算機(jī)存儲介質(zhì)，其特征在于，用于存儲計(jì)算機(jī)程序，所述計(jì)算機(jī)程序包括用于執(zhí)行權(quán)利要求1-11中任一項(xiàng)所述的方法。

15.一種計(jì)算機(jī)程序產(chǎn)品，其特征在于，包括計(jì)算機(jī)程序代碼，當(dāng)所述計(jì)算機(jī)程序代碼被電子設(shè)備運(yùn)行時(shí)，使得所述電子設(shè)備執(zhí)行權(quán)利要求1-11中任一項(xiàng)所述的方法。

技術(shù)總結(jié)
本申請?zhí)峁┝艘环N圖片審核方法、裝置、電子設(shè)備及存儲介質(zhì)，涉及人工智能領(lǐng)域。該圖片審核方法包括：利用字符識別模塊對待審核圖片進(jìn)行文字檢測和識別，提取所述待審核圖片中的文本信息；對所述文本信息與預(yù)設(shè)文本標(biāo)簽進(jìn)行匹配，確定文本匹配結(jié)果，所述文本匹配結(jié)果用于指示所述文本信息是否成功匹配所述預(yù)設(shè)文本標(biāo)簽；對所述待審核圖片與預(yù)設(shè)圖像標(biāo)簽進(jìn)行匹配，確定圖像匹配結(jié)果，所述圖像匹配結(jié)果用于指示所述待審核圖片是否成功匹配所述預(yù)設(shè)圖像標(biāo)簽；根據(jù)所述文本匹配結(jié)果和所述圖像匹配結(jié)果，確定所述待審核圖片是否合規(guī)。本申請實(shí)施例能夠有效提高圖片審核的準(zhǔn)確率，有利于減少誤殺漏殺的情況。

技術(shù)研發(fā)人員：王能,蔡飛,黃永杰
受保護(hù)的技術(shù)使用者：騰訊科技（深圳）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/9