本公開涉及數(shù)據(jù)處理領(lǐng)域，尤其涉及大模型等人工智能。

背景技術(shù)：

1、隨著技術(shù)的發(fā)展，網(wǎng)絡(luò)在人們的工作和生活中愈加重要，然而，伴隨著網(wǎng)絡(luò)技術(shù)的發(fā)展，網(wǎng)絡(luò)環(huán)境中存在的違規(guī)信息對(duì)于人們的工作和生活造成了一定程度的影響，在該場(chǎng)景下，需要對(duì)網(wǎng)絡(luò)環(huán)境中的違規(guī)信息進(jìn)行檢測(cè)以及處理。

2、相關(guān)技術(shù)中，可以依賴人工對(duì)于網(wǎng)頁(yè)上的違規(guī)信息進(jìn)行排查檢測(cè)，人工依賴程度高且效率欠佳。

技術(shù)實(shí)現(xiàn)思路

1、本公開提出了一種基于大模型的網(wǎng)頁(yè)違規(guī)告警方法、裝置、設(shè)備和介質(zhì)。

2、根據(jù)本公開的第一方面，提出了一種基于大模型的網(wǎng)頁(yè)違規(guī)告警方法，包括：獲取待檢測(cè)的目標(biāo)網(wǎng)頁(yè)，并識(shí)別所述目標(biāo)網(wǎng)頁(yè)是否滿足違規(guī)檢測(cè)觸發(fā)條件；響應(yīng)于識(shí)別到所述目標(biāo)網(wǎng)頁(yè)滿足所述違規(guī)檢測(cè)觸發(fā)條件，提取所述目標(biāo)網(wǎng)頁(yè)中的檢測(cè)文本對(duì)象和檢測(cè)圖像對(duì)象，得到所述目標(biāo)網(wǎng)頁(yè)的檢測(cè)對(duì)象集合；將所述檢測(cè)對(duì)象集合輸入預(yù)獲取的大模型中，通過大模型的模型能力對(duì)所述檢測(cè)對(duì)象集合進(jìn)行違規(guī)檢測(cè)，識(shí)別所述檢測(cè)對(duì)象集合中是否存在違規(guī)對(duì)象；響應(yīng)于識(shí)別到所述檢測(cè)對(duì)象集合中存在違規(guī)對(duì)象，獲取所述目標(biāo)網(wǎng)頁(yè)的網(wǎng)頁(yè)用戶，并對(duì)所述網(wǎng)頁(yè)用戶發(fā)出網(wǎng)頁(yè)違規(guī)告警。

3、根據(jù)本公開的第二方面，提出了一種基于大模型的網(wǎng)頁(yè)違規(guī)告警裝置，包括：識(shí)別模塊，用于獲取待檢測(cè)的目標(biāo)網(wǎng)頁(yè)，并識(shí)別所述目標(biāo)網(wǎng)頁(yè)是否滿足違規(guī)檢測(cè)觸發(fā)條件；提取模塊，用于響應(yīng)于識(shí)別到所述目標(biāo)網(wǎng)頁(yè)滿足所述違規(guī)檢測(cè)觸發(fā)條件，提取所述目標(biāo)網(wǎng)頁(yè)中的檢測(cè)文本對(duì)象和檢測(cè)圖像對(duì)象，得到所述目標(biāo)網(wǎng)頁(yè)的檢測(cè)對(duì)象集合；檢測(cè)模塊，用于將所述檢測(cè)對(duì)象集合輸入預(yù)獲取的大模型中，通過大模型的模型能力對(duì)所述檢測(cè)對(duì)象集合進(jìn)行違規(guī)檢測(cè)，識(shí)別所述檢測(cè)對(duì)象集合中是否存在違規(guī)對(duì)象；告警模塊，用于響應(yīng)于識(shí)別到所述檢測(cè)對(duì)象集合中存在違規(guī)對(duì)象，獲取所述目標(biāo)網(wǎng)頁(yè)的網(wǎng)頁(yè)用戶，并對(duì)所述網(wǎng)頁(yè)用戶發(fā)出網(wǎng)頁(yè)違規(guī)告警。

4、根據(jù)本公開的第三方面，提出了一種電子設(shè)備，包括：至少一個(gè)處理器；以及與所述至少一個(gè)處理器通信連接的存儲(chǔ)器；其中，所述存儲(chǔ)器存儲(chǔ)有可被所述至少一個(gè)處理器執(zhí)行的指令，所述指令被所述至少一個(gè)處理器執(zhí)行，以使所述至少一個(gè)處理器能夠執(zhí)行上述第一方面提出的基于大模型的網(wǎng)頁(yè)違規(guī)告警方法。

5、根據(jù)本公開的第四方面，提出了一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行上述第一方面提出的基于大模型的網(wǎng)頁(yè)違規(guī)告警方法。

6、根據(jù)本公開的第五方面，提出了一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)上述第一方面提出的基于大模型的網(wǎng)頁(yè)違規(guī)告警方法。

7、應(yīng)當(dāng)理解，本部分所描述的內(nèi)容并非旨在標(biāo)識(shí)本公開的實(shí)施例的關(guān)鍵或重要特征，也不用于限制本公開的范圍。本公開的其它特征將通過以下的說明書而變得容易理解。

技術(shù)特征：

1.一種基于大模型的網(wǎng)頁(yè)違規(guī)告警方法，其中，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，其中，所述響應(yīng)于識(shí)別到所述目標(biāo)網(wǎng)頁(yè)滿足所述違規(guī)檢測(cè)觸發(fā)條件，提取所述目標(biāo)網(wǎng)頁(yè)中的檢測(cè)文本對(duì)象和檢測(cè)圖像對(duì)象，得到所述目標(biāo)網(wǎng)頁(yè)的檢測(cè)對(duì)象集合，包括：

3.根據(jù)權(quán)利要求2所述的方法，其中，所述對(duì)對(duì)所述目標(biāo)網(wǎng)頁(yè)進(jìn)行文本掃描，提取所述目標(biāo)網(wǎng)頁(yè)中的疑似違規(guī)語句，并根據(jù)所述網(wǎng)頁(yè)信息和所述疑似違規(guī)語句，得到所述檢測(cè)文本對(duì)象，包括：

4.根據(jù)權(quán)利要求2所述的方法，其中，所述對(duì)所述目標(biāo)網(wǎng)頁(yè)進(jìn)行圖像掃描，提取所述目標(biāo)網(wǎng)頁(yè)中的疑似違規(guī)圖像，并根據(jù)所述網(wǎng)頁(yè)截圖和所述疑似違規(guī)圖像，得到所述檢測(cè)圖像對(duì)象，包括：

5.根據(jù)權(quán)利要求1所述的方法，其中，所述將所述檢測(cè)對(duì)象集合輸入預(yù)獲取的大模型中，通過大模型的模型能力對(duì)所述檢測(cè)對(duì)象集合進(jìn)行違規(guī)檢測(cè)，識(shí)別所述檢測(cè)對(duì)象集合中是否存在違規(guī)對(duì)象，包括：

6.根據(jù)權(quán)利要求5所述的方法，其中，所述根據(jù)所述第一違規(guī)檢測(cè)結(jié)果和所述第二違規(guī)檢測(cè)結(jié)果，識(shí)別所述檢測(cè)對(duì)象集合中是否存在所述違規(guī)對(duì)象，包括：

7.根據(jù)權(quán)利要求1所述的方法，其中，所述響應(yīng)于識(shí)別到所述檢測(cè)對(duì)象集合中存在違規(guī)對(duì)象，獲取所述目標(biāo)網(wǎng)頁(yè)的網(wǎng)頁(yè)用戶，并對(duì)所述網(wǎng)頁(yè)用戶發(fā)出網(wǎng)頁(yè)違規(guī)告警，包括：

8.根據(jù)權(quán)利要求7所述的方法，其中，所述方法還包括：

9.根據(jù)權(quán)利要求1所述的方法，其中，所述方法還包括：

10.根據(jù)權(quán)利要求1-9中任一項(xiàng)所述的方法，其中，所述方法還包括：

11.一種基于大模型的網(wǎng)頁(yè)違規(guī)告警裝置，其中，所述裝置包括：

12.根據(jù)權(quán)利要求11所述的裝置，其中，所述提取模塊，還用于：

13.根據(jù)權(quán)利要求12所述的裝置，其中，所述提取模塊，還用于：

14.根據(jù)權(quán)利要求12所述的裝置，其中，所述提取模塊，還用于：

15.根據(jù)權(quán)利要求11所述的裝置，其中，所述檢測(cè)模塊，還用于：

16.根據(jù)權(quán)利要求15所述的裝置，其中，所述檢測(cè)模塊，還用于：

17.根據(jù)權(quán)利要求11所述的裝置，其中，所述告警模塊，還用于：

18.根據(jù)權(quán)利要求17所述的裝置，其中，所述告警模塊，還用于：

19.根據(jù)權(quán)利要求11所述的裝置，其中，所述識(shí)別模塊，還用于：

20.根據(jù)權(quán)利要求11-19中任一項(xiàng)所述的裝置，其中，所述裝置還包括，更新模塊，用于：

21.一種電子設(shè)備，包括：

22.一種存儲(chǔ)有計(jì)算機(jī)指令的非瞬時(shí)計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中，所述計(jì)算機(jī)指令用于使所述計(jì)算機(jī)執(zhí)行根據(jù)權(quán)利要求1-10中任一項(xiàng)所述的方法。

23.一種計(jì)算機(jī)程序產(chǎn)品，包括計(jì)算機(jī)程序，所述計(jì)算機(jī)程序在被處理器執(zhí)行時(shí)實(shí)現(xiàn)根據(jù)權(quán)利要求1-10中任一項(xiàng)所述的方法。

技術(shù)總結(jié)
本公開提出了一種基于大模型的網(wǎng)頁(yè)違規(guī)告警方法、裝置、設(shè)備和介質(zhì)，涉及大模型等人工智能技術(shù)領(lǐng)域，方法包括：獲取待檢測(cè)的目標(biāo)網(wǎng)頁(yè)，并識(shí)別目標(biāo)網(wǎng)頁(yè)是否滿足違規(guī)檢測(cè)觸發(fā)條件；響應(yīng)于識(shí)別到目標(biāo)網(wǎng)頁(yè)滿足違規(guī)檢測(cè)觸發(fā)條件，提取目標(biāo)網(wǎng)頁(yè)中的檢測(cè)文本對(duì)象和檢測(cè)圖像對(duì)象，得到目標(biāo)網(wǎng)頁(yè)的檢測(cè)對(duì)象集合；將檢測(cè)對(duì)象集合輸入預(yù)獲取的大模型中，通過大模型的模型能力對(duì)檢測(cè)對(duì)象集合進(jìn)行違規(guī)檢測(cè)，識(shí)別檢測(cè)對(duì)象集合中是否存在違規(guī)對(duì)象；響應(yīng)于識(shí)別到檢測(cè)對(duì)象集合中存在違規(guī)對(duì)象，獲取目標(biāo)網(wǎng)頁(yè)的網(wǎng)頁(yè)用戶，并對(duì)網(wǎng)頁(yè)用戶發(fā)出網(wǎng)頁(yè)違規(guī)告警。

技術(shù)研發(fā)人員：邱奇
受保護(hù)的技術(shù)使用者：北京百度網(wǎng)訊科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/26