本公開涉及數據處理領域，尤其涉及大模型等人工智能。

背景技術：

1、隨著技術的發(fā)展，網絡在人們的工作和生活中愈加重要，然而，伴隨著網絡技術的發(fā)展，網絡環(huán)境中存在的違規(guī)信息對于人們的工作和生活造成了一定程度的影響，在該場景下，需要對網絡環(huán)境中的違規(guī)信息進行檢測以及處理。

2、相關技術中，可以依賴人工對于網頁上的違規(guī)信息進行排查檢測，人工依賴程度高且效率欠佳。

技術實現思路

1、本公開提出了一種基于大模型的網頁違規(guī)告警方法、裝置、設備和介質。

2、根據本公開的第一方面，提出了一種基于大模型的網頁違規(guī)告警方法，包括：獲取待檢測的目標網頁，并識別所述目標網頁是否滿足違規(guī)檢測觸發(fā)條件；響應于識別到所述目標網頁滿足所述違規(guī)檢測觸發(fā)條件，提取所述目標網頁中的檢測文本對象和檢測圖像對象，得到所述目標網頁的檢測對象集合；將所述檢測對象集合輸入預獲取的大模型中，通過大模型的模型能力對所述檢測對象集合進行違規(guī)檢測，識別所述檢測對象集合中是否存在違規(guī)對象；響應于識別到所述檢測對象集合中存在違規(guī)對象，獲取所述目標網頁的網頁用戶，并對所述網頁用戶發(fā)出網頁違規(guī)告警。

3、根據本公開的第二方面，提出了一種基于大模型的網頁違規(guī)告警裝置，包括：識別模塊，用于獲取待檢測的目標網頁，并識別所述目標網頁是否滿足違規(guī)檢測觸發(fā)條件；提取模塊，用于響應于識別到所述目標網頁滿足所述違規(guī)檢測觸發(fā)條件，提取所述目標網頁中的檢測文本對象和檢測圖像對象，得到所述目標網頁的檢測對象集合；檢測模塊，用于將所述檢測對象集合輸入預獲取的大模型中，通過大模型的模型能力對所述檢測對象集合進行違規(guī)檢測，識別所述檢測對象集合中是否存在違規(guī)對象；告警模塊，用于響應于識別到所述檢測對象集合中存在違規(guī)對象，獲取所述目標網頁的網頁用戶，并對所述網頁用戶發(fā)出網頁違規(guī)告警。

4、根據本公開的第三方面，提出了一種電子設備，包括：至少一個處理器；以及與所述至少一個處理器通信連接的存儲器；其中，所述存儲器存儲有可被所述至少一個處理器執(zhí)行的指令，所述指令被所述至少一個處理器執(zhí)行，以使所述至少一個處理器能夠執(zhí)行上述第一方面提出的基于大模型的網頁違規(guī)告警方法。

5、根據本公開的第四方面，提出了一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執(zhí)行上述第一方面提出的基于大模型的網頁違規(guī)告警方法。

6、根據本公開的第五方面，提出了一種計算機程序產品，包括計算機程序，所述計算機程序在被處理器執(zhí)行時實現上述第一方面提出的基于大模型的網頁違規(guī)告警方法。

7、應當理解，本部分所描述的內容并非旨在標識本公開的實施例的關鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

技術特征：

1.一種基于大模型的網頁違規(guī)告警方法，其中，所述方法包括：

2.根據權利要求1所述的方法，其中，所述響應于識別到所述目標網頁滿足所述違規(guī)檢測觸發(fā)條件，提取所述目標網頁中的檢測文本對象和檢測圖像對象，得到所述目標網頁的檢測對象集合，包括：

3.根據權利要求2所述的方法，其中，所述對對所述目標網頁進行文本掃描，提取所述目標網頁中的疑似違規(guī)語句，并根據所述網頁信息和所述疑似違規(guī)語句，得到所述檢測文本對象，包括：

4.根據權利要求2所述的方法，其中，所述對所述目標網頁進行圖像掃描，提取所述目標網頁中的疑似違規(guī)圖像，并根據所述網頁截圖和所述疑似違規(guī)圖像，得到所述檢測圖像對象，包括：

5.根據權利要求1所述的方法，其中，所述將所述檢測對象集合輸入預獲取的大模型中，通過大模型的模型能力對所述檢測對象集合進行違規(guī)檢測，識別所述檢測對象集合中是否存在違規(guī)對象，包括：

6.根據權利要求5所述的方法，其中，所述根據所述第一違規(guī)檢測結果和所述第二違規(guī)檢測結果，識別所述檢測對象集合中是否存在所述違規(guī)對象，包括：

7.根據權利要求1所述的方法，其中，所述響應于識別到所述檢測對象集合中存在違規(guī)對象，獲取所述目標網頁的網頁用戶，并對所述網頁用戶發(fā)出網頁違規(guī)告警，包括：

8.根據權利要求7所述的方法，其中，所述方法還包括：

9.根據權利要求1所述的方法，其中，所述方法還包括：

10.根據權利要求1-9中任一項所述的方法，其中，所述方法還包括：

11.一種基于大模型的網頁違規(guī)告警裝置，其中，所述裝置包括：

12.根據權利要求11所述的裝置，其中，所述提取模塊，還用于：

13.根據權利要求12所述的裝置，其中，所述提取模塊，還用于：

14.根據權利要求12所述的裝置，其中，所述提取模塊，還用于：

15.根據權利要求11所述的裝置，其中，所述檢測模塊，還用于：

16.根據權利要求15所述的裝置，其中，所述檢測模塊，還用于：

17.根據權利要求11所述的裝置，其中，所述告警模塊，還用于：

18.根據權利要求17所述的裝置，其中，所述告警模塊，還用于：

19.根據權利要求11所述的裝置，其中，所述識別模塊，還用于：

20.根據權利要求11-19中任一項所述的裝置，其中，所述裝置還包括，更新模塊，用于：

21.一種電子設備，包括：

22.一種存儲有計算機指令的非瞬時計算機可讀存儲介質，其中，所述計算機指令用于使所述計算機執(zhí)行根據權利要求1-10中任一項所述的方法。

23.一種計算機程序產品，包括計算機程序，所述計算機程序在被處理器執(zhí)行時實現根據權利要求1-10中任一項所述的方法。

技術總結
本公開提出了一種基于大模型的網頁違規(guī)告警方法、裝置、設備和介質，涉及大模型等人工智能技術領域，方法包括：獲取待檢測的目標網頁，并識別目標網頁是否滿足違規(guī)檢測觸發(fā)條件；響應于識別到目標網頁滿足違規(guī)檢測觸發(fā)條件，提取目標網頁中的檢測文本對象和檢測圖像對象，得到目標網頁的檢測對象集合；將檢測對象集合輸入預獲取的大模型中，通過大模型的模型能力對檢測對象集合進行違規(guī)檢測，識別檢測對象集合中是否存在違規(guī)對象；響應于識別到檢測對象集合中存在違規(guī)對象，獲取目標網頁的網頁用戶，并對網頁用戶發(fā)出網頁違規(guī)告警。

技術研發(fā)人員：邱奇
受保護的技術使用者：北京百度網訊科技有限公司
技術研發(fā)日：
技術公布日：2024/12/26