本公開涉及網(wǎng)絡(luò)安全，尤其涉及一種基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法。

背景技術(shù)：

1、隨著智能終端的普及推廣，應(yīng)用（application）也進入迅速發(fā)展階段，例如，用戶在智能移動終端可使用的移動應(yīng)用也越來越多。由于應(yīng)用在運行過程中通常會涉及用戶隱私信息的收集處理等，若這類信息被不法應(yīng)用商獲取或收集的過程不符合安全要求等，則可能會給用戶造成嚴重損失。因此，通常需要對應(yīng)用進行檢測。

2、相關(guān)技術(shù)中，測試人員通過手動與待檢測應(yīng)用進行交互控制應(yīng)用運行，促使應(yīng)用暴露運行過程中的隱私安全問題。

3、然而，這種方式在對應(yīng)用進行檢測時依賴于測試人員的人工交互，需要測試人員進行大量相同且重復(fù)的操作，從而導(dǎo)致應(yīng)用檢測的效率低下。

技術(shù)實現(xiàn)思路

1、本公開提供一種基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法，用于基于大語言模型驅(qū)動應(yīng)用自行運行，在運行過程中檢測隱私參數(shù)是否符合安全要求；不需消耗人力即可進行自動化檢測，提高了檢測效率。

2、為實現(xiàn)上述技術(shù)目的，本公開采用如下技術(shù)方案：

3、第一方面，本公開提供一種基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法，該方法包括：獲取任務(wù)描述信息，任務(wù)描述信息用于描述期望待檢測應(yīng)用執(zhí)行的至少一個目標任務(wù)，每個目標任務(wù)涉及至少一個操作；識別待檢測應(yīng)用當前的界面結(jié)構(gòu)信息，并獲取歷史操作記錄；當前的界面結(jié)構(gòu)信息用于以預(yù)設(shè)的結(jié)構(gòu)化數(shù)據(jù)形式描述待檢測應(yīng)用當前的用戶界面中預(yù)設(shè)的頁面元素及其所支持的操作；利用自然語言處理模型，分別對任務(wù)描述信息、當前的界面結(jié)構(gòu)信息和歷史操作記錄進行處理，得到任務(wù)描述信息對應(yīng)的第一自然語言文本、當前的界面結(jié)構(gòu)信息對應(yīng)的第二自然語言文本和歷史操作記錄對應(yīng)的第三自然語言文本；將第一自然語言文本、第二自然語言文本以及第三自然語言文本輸入至提示生成器，得到提示生成器輸出的目標向量表示，目標向量表示包括第一自然語言文本對應(yīng)的第一語義特征、第二自然語言文本對應(yīng)的第二語義特征和第三自然語言文本對應(yīng)的第三語義特征；將目標向量表示輸入至大語言模型，得到大語言模型輸出的操作指令提示，操作指令提示用于指示目標操作；根據(jù)操作指令提示，控制待檢測應(yīng)用執(zhí)行目標操作；在待檢測應(yīng)用執(zhí)行目標操作的過程中，對待檢測應(yīng)用的隱私參數(shù)進行檢測，確定隱私參數(shù)是否符合安全要求。

4、本公開提供的方法，將任務(wù)描述信息、待檢測應(yīng)用當前的界面結(jié)構(gòu)信息和歷史操作記錄轉(zhuǎn)換為有利于人和大語言模型理解的自然語言描述的文本（例如第一自然語言文本、第二自然語言文本，以及第三自然語言文本）；進一步的，通過提示生成器將上述文本進行邏輯組合，生成上下文關(guān)系更連貫的目標向量表示，從而更有利于大語言模型進行理解處理，以輸出更準確的操作指令提示，從而驅(qū)動待檢測應(yīng)用執(zhí)行目標操作；這樣，確保待檢測應(yīng)用能夠被準確地驅(qū)動運行，提高了對應(yīng)用檢測的準確性。另外，由于過程中產(chǎn)生的參數(shù)（例如第一自然文本語言、目標向量表示等）是采用自然語言描述的，因此在應(yīng)用的運行出現(xiàn)異常的情況下，也有利于相關(guān)人員通過查詢過程中產(chǎn)生的參數(shù)迅速發(fā)現(xiàn)異常原因，從而提高檢測效率。此外，不需要消耗人力，即可驅(qū)動待檢測應(yīng)用自行運行，并在運行過程中檢測隱私參數(shù)是否符合安全要求。綜上，本公開提供的方法，一方面減少了人力資源的浪費，另一方面提高了應(yīng)用檢測的效率，又一方面還提高了應(yīng)用檢測的準確性。

5、在一些實施例中，在根據(jù)操作指令提示，控制待檢測應(yīng)用執(zhí)行目標操作之后，上述方法還包括：將目標操作存儲于歷史操作記錄；在未滿足預(yù)設(shè)終止條件的情況下，返回識別待檢測應(yīng)用當前的界面結(jié)構(gòu)信息，并獲取歷史操作記錄的步驟；在滿足預(yù)設(shè)終止條件的情況下，終止對待檢測應(yīng)用的檢測；其中，預(yù)設(shè)終止條件包括以下至少一項：接收到運行終止指令，運行終止指令用于指示終止在待檢測應(yīng)用中執(zhí)行操作；接收到檢測完成指示，檢測完成指示用于指示已完成對待檢測應(yīng)用中各隱私參數(shù)的檢測；待檢測應(yīng)用的運行時長達到預(yù)設(shè)的最大檢測時長；檢測到至少一個目標任務(wù)被全部執(zhí)行；檢測到至少一個目標任務(wù)被執(zhí)行m次，m為正整數(shù)。

6、本公開提供的方法，可以在未滿足運行終止條件的情況下控制待檢測應(yīng)用持續(xù)運行，避免運行時間過短導(dǎo)致檢測時間不夠；此外，在滿足運行終止條件的情況下，不再執(zhí)行該方法，以便根據(jù)不同情況靈活終止對待檢測應(yīng)用的檢測。此外，本公開還提供了多種運行終止條件；應(yīng)理解，在根據(jù)運行終止指令終止的情況下，有利于根據(jù)用戶指令靈活確定何時終止；在根據(jù)檢測完成指示終止的情況下，可以在檢測完成時自行終止，避免算力資源的浪費；在根據(jù)應(yīng)用運行時長終止的情況下，可以避免應(yīng)用過長時間的運行導(dǎo)致的資源占用；在根據(jù)至少一個目標任務(wù)被全部執(zhí)行終止檢測的情況下，可以確保至少一個目標任務(wù)中各個目標任務(wù)均被執(zhí)行后才停止檢測；在根據(jù)至少一個目標任務(wù)執(zhí)行次數(shù)終止的情況下，可以設(shè)置各目標應(yīng)用的最大執(zhí)行次數(shù)（例如m），以避免出現(xiàn)陷入死循環(huán)，導(dǎo)致待檢測應(yīng)用被無限運行。

7、在一些實施例中，上述識別待檢測應(yīng)用當前的界面結(jié)構(gòu)信息，包括：從待檢測應(yīng)用的運行平臺獲取待檢測應(yīng)用當前的用戶界面；調(diào)用用戶界面處理器對用戶界面進行解析，得到待檢測應(yīng)用當前的界面結(jié)構(gòu)信息；上述根據(jù)操作指令提示，控制待檢測應(yīng)用執(zhí)行目標操作，包括：將操作指令提示轉(zhuǎn)換為能夠作用于待檢測應(yīng)用的用戶界面的用戶操作指令；將用戶操作指令下發(fā)至待檢測應(yīng)用的運行平臺，以使運行平臺按照用戶操作指令在待檢測應(yīng)用上執(zhí)行目標操作。

8、本公開提供的方法，一方面，可以通過調(diào)用用戶界面處理器，實現(xiàn)從用戶界面到界面結(jié)構(gòu)信息的轉(zhuǎn)換，有利于實現(xiàn)信息的過渡，便于在不同模塊間進行數(shù)據(jù)處理；另一方面，可以將操作指令提示轉(zhuǎn)為具體的用戶操作指令，以便在待檢測應(yīng)用的運行平臺上根據(jù)用戶操作指令執(zhí)行目標操作；尤其在運行平臺獨立于本方法的執(zhí)行主體的情況下，能夠?qū)崿F(xiàn)在其他運行平臺控制待檢測應(yīng)用運行，從而有利于實現(xiàn)對多個待檢測應(yīng)用的同時檢測。

9、在一些實施例中，任務(wù)描述信息包括以下至少一項：各個目標任務(wù)對應(yīng)的任務(wù)序號，任務(wù)序號用于標識目標任務(wù)的執(zhí)行順序；各個目標任務(wù)對應(yīng)的窗口名稱，窗口名稱用于標識執(zhí)行目標任務(wù)時所處的窗口視圖的名稱；各個目標任務(wù)對應(yīng)的執(zhí)行動作，執(zhí)行動作用于指示執(zhí)行操作時所需的行為動作；各個目標任務(wù)對應(yīng)的任務(wù)參數(shù)，任務(wù)參數(shù)用于指示執(zhí)行目標任務(wù)時所需的相關(guān)參數(shù)。

10、本公開提供的方法中，任務(wù)序號能夠約束任務(wù)的執(zhí)行順序，窗口名稱能夠約束的任務(wù)執(zhí)行的窗口視圖，執(zhí)行動作能夠約束任務(wù)的實現(xiàn)方式，任務(wù)參數(shù)提供了執(zhí)行任務(wù)所需的相關(guān)參數(shù)；基于此，通過任務(wù)描述信息規(guī)范了待檢測應(yīng)用的運行方向，以保障待檢測應(yīng)用的正常運行。

11、在一些實施例中，至少一個目標任務(wù)包括第一目標任務(wù)和第二目標任務(wù)；在按照各個目標任務(wù)對應(yīng)的任務(wù)序號執(zhí)行至少一個目標任務(wù)的情況下，執(zhí)行第二目標任務(wù)時所處的窗口視圖的名稱，與執(zhí)行第一目標任務(wù)后待檢測應(yīng)用顯示的一個窗口視圖的名稱相同；其中，第二目標任務(wù)的任務(wù)序號為第一目標任務(wù)的任務(wù)序號加一；或者，第一目標任務(wù)是至少一個目標任務(wù)中的最后一個目標任務(wù)，且第二目標任務(wù)是至少一個目標任務(wù)中的第一個目標任務(wù)。

12、本公開提供的方法，使得執(zhí)行最后一個目標任務(wù)后待檢測應(yīng)用顯示的一個窗口視圖的名稱，與執(zhí)行第一個目標任務(wù)時所處的窗口視圖的名稱相同；或者，執(zhí)行某個目標任務(wù)后待檢測應(yīng)用顯示的一個窗口視圖的名稱，與執(zhí)行下一個目標任務(wù)時所處的窗口視圖的名稱相同。從而，使得該至少一個目標任務(wù)的執(zhí)行能夠構(gòu)成可循環(huán)的閉環(huán)，有利于保障待檢測應(yīng)用的持續(xù)運行。

13、在一些實施例中，在按照各個目標任務(wù)對應(yīng)的任務(wù)序號執(zhí)行至少一個目標任務(wù)的情況下，至少一個目標任務(wù)能夠被循環(huán)執(zhí)行；至少一個目標任務(wù)和各個目標任務(wù)對應(yīng)的任務(wù)序號是基于以下方式確定的：獲取待檢測應(yīng)用的多個任務(wù)樣本，每個任務(wù)樣本對應(yīng)一個任務(wù)、執(zhí)行任務(wù)時所處的窗口視圖的名稱，以及執(zhí)行任務(wù)后待檢測應(yīng)用顯示的至少一個窗口視圖的名稱；將多個任務(wù)樣本輸入至目標任務(wù)篩選模型，得到目標任務(wù)篩選模型輸出的至少一個目標任務(wù)和各個目標任務(wù)對應(yīng)的任務(wù)序號。

14、本公開提供的方法，能夠根據(jù)各個目標任務(wù)執(zhí)行后的情況（例如執(zhí)行目標任務(wù)后待檢測應(yīng)用顯示的至少一個窗口視圖的名稱）和各個目標任務(wù)執(zhí)行時的情況，綜合篩選出能夠被循環(huán)執(zhí)行的至少一個目標任務(wù)和各個目標任務(wù)對應(yīng)的任務(wù)序號；從而，有利于實現(xiàn)待檢測應(yīng)用的持續(xù)運行。

15、在一些實施例中，上述方法還包括：在待檢測應(yīng)用執(zhí)行目標操作的過程中，獲取待檢測應(yīng)用的隱私參數(shù)；其中，隱私參數(shù)包括以下至少一項：待檢測應(yīng)用在運行過程中生成的日志數(shù)據(jù)、待檢測應(yīng)用運行過程中通信的明文數(shù)據(jù)，以及待檢測應(yīng)用在運行過程中調(diào)用的用戶權(quán)限。

16、本公開提供的方法，所檢測的隱私參數(shù)包括在應(yīng)用運行過程中的隱私參數(shù)；應(yīng)理解，本公開提供的方法可以基于大語言模型驅(qū)動待檢測應(yīng)用自行運行，因此適于檢測應(yīng)用運行過程中涉及的隱私參數(shù)，能夠避免隱私數(shù)據(jù)被不法應(yīng)用商獲取，保障待檢測應(yīng)用的安全運行。

17、第二方面，本公開提供一種基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測裝置，包括：獲取模塊、交互模塊和處理模塊；其中，獲取模塊，用于獲取任務(wù)描述信息，任務(wù)描述信息用于描述期望待檢測應(yīng)用執(zhí)行的至少一個目標任務(wù)，每個目標任務(wù)涉及至少一個操作；交互模塊，用于識別待檢測應(yīng)用當前的界面結(jié)構(gòu)信息，當前的界面結(jié)構(gòu)信息用于以預(yù)設(shè)的結(jié)構(gòu)化數(shù)據(jù)形式描述待檢測應(yīng)用當前的用戶界面中預(yù)設(shè)的頁面元素及其所支持的操作；獲取模塊還用于獲取歷史操作記錄；處理模塊，用于利用自然語言處理模型，分別對任務(wù)描述信息、當前的界面結(jié)構(gòu)信息和歷史操作記錄進行處理，得到任務(wù)描述信息對應(yīng)的第一自然語言文本、當前的界面結(jié)構(gòu)信息對應(yīng)的第二自然語言文本和歷史操作記錄對應(yīng)的第三自然語言文本；處理模塊，還用于將第一自然語言文本、第二自然語言文本以及第三自然語言文本輸入至提示生成器，得到提示生成器輸出的目標向量表示，目標向量表示包括第一自然語言文本對應(yīng)的第一語義特征、第二自然語言文本對應(yīng)的第二語義特征和第三自然語言文本對應(yīng)的第三語義特征；處理模塊，還用于將目標向量表示輸入至大語言模型，得到大語言模型輸出的操作指令提示，操作指令提示用于指示目標操作；交互模塊，還用于根據(jù)操作指令提示，控制待檢測應(yīng)用執(zhí)行目標操作；處理模塊，還用于在待檢測應(yīng)用執(zhí)行目標操作的過程中，對待檢測應(yīng)用的隱私參數(shù)進行檢測，確定隱私參數(shù)是否符合安全要求。

18、第三方面，本公開提供一種計算機可讀存儲介質(zhì)，計算機可讀存儲介質(zhì)上存儲有計算機程序指令，計算機程序指令在計算機上運行時，使得計算機實現(xiàn)本公開實施例提供的任一項基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法。

19、第四方面，本公開提供一種電子設(shè)備，包括：處理器和用于存儲處理器可執(zhí)行指令的存儲器；處理器被配置為執(zhí)行指令，使得電子設(shè)備實現(xiàn)本公開實施例提供的任一項基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法。

20、第五方面，本公開提供一種計算機程序產(chǎn)品，該計算機程序產(chǎn)品包括計算機程序指令，當計算機指令在計算機上運行時，使得計算機實現(xiàn)本公開實施例提供的任一項基于大語言模型驅(qū)動的應(yīng)用隱私安全檢測方法。

21、需要說明的是，上述計算機指令可以全部或者部分存儲在計算機可讀存儲介質(zhì)上。其中，計算機可讀存儲介質(zhì)可以與控制器的處理器封裝在一起的，也可以與控制器的處理器單獨封裝，本公開對此不作限定。

22、本公開中第二方面到第五方面及其各種實現(xiàn)方式的具體描述，可以參考第一方面及其各種實現(xiàn)方式中的詳細描述；并且，第二方面到第五方面及其各種實現(xiàn)方式的有益效果，可以參考第一方面及其各種實現(xiàn)方式中的有益效果分析，此處不再贅述。