本發(fā)明涉及智能體構(gòu)建技術(shù)，涉及一種基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)。

背景技術(shù)：

1、隨著科技的飛速發(fā)展，人工智能(ai)已經(jīng)成為了當今世界的熱門話題。其中，以chatgpt為代表的大模型作為一種具有廣泛應(yīng)用前景的技術(shù)，正吸引著全球越來越多的關(guān)注。

2、大模型是一種基于人工智能技術(shù)的自動化學(xué)習(xí)系統(tǒng)，它可以從大量的數(shù)據(jù)中學(xué)習(xí)提取有用的信息，并根據(jù)這些信息進行預(yù)測和決策。大模型的發(fā)展可以分為兩個階段：第一階段是傳統(tǒng)的基于規(guī)則的專家系統(tǒng)；第二階段是基于機器學(xué)習(xí)的自動學(xué)習(xí)系統(tǒng)。目前，大模型的研究主要集中在第二階段，即基于深度學(xué)習(xí)的自動學(xué)習(xí)系統(tǒng)。

3、近年來，深度學(xué)習(xí)技術(shù)取得了顯著的進展，為大模型的發(fā)展提供了強大的支持。特別是卷積神經(jīng)網(wǎng)絡(luò)(cnn)和循環(huán)神經(jīng)網(wǎng)絡(luò)(rnn)的出現(xiàn)，使得計算機可以在圖像識別、語音識別、自然語言處理等領(lǐng)域取得了突破性的成果。這些成果為大模型的發(fā)展提供了豐富的應(yīng)用場景，使其在各個領(lǐng)域都取得了顯著的成績。

4、在自然語言處理領(lǐng)域，大模型已經(jīng)可以完成諸如文本分類、情感分析、機器翻譯等任務(wù)。例如，谷歌的bert模型在多項自然語言處理任務(wù)上都取得了領(lǐng)先的性能。在計算機視覺領(lǐng)域，大模型可以識別人臉、物體等各種圖像信息，為無人駕駛汽車、智能監(jiān)控等應(yīng)用提供支持。此外，大模型還可以應(yīng)用于推薦系統(tǒng)、游戲、醫(yī)療等多個領(lǐng)域，為社會經(jīng)濟發(fā)展帶來了巨大的潛力。

5、然而，大模型的發(fā)展也面臨著一些挑戰(zhàn)。首先，大模型的學(xué)習(xí)過程需要大量的計算資源和時間，這導(dǎo)致了其研發(fā)成本的增加。其次，大模型的泛化能力仍有待提高，即在面對新的問題和場景時，大模型的表現(xiàn)可能不如人類專家。此外，大模型的數(shù)據(jù)安全和隱私保護問題也不容忽視。如何在保證數(shù)據(jù)安全的前提下，充分利用大數(shù)據(jù)的優(yōu)勢，是大模型發(fā)展亟待解決的問題。

6、總之，大模型作為一種具有廣泛應(yīng)用前景的技術(shù)，已經(jīng)在各個領(lǐng)域取得了顯著的成績。然而，大模型的發(fā)展仍然面臨著諸多挑戰(zhàn)，需要我們不斷研究和探索。從發(fā)展趨勢來看，大模型的未來可以分為以下幾個方面：

7、(1)更大的模型規(guī)模：隨著計算能力的提升和大數(shù)據(jù)的積累，未來的大模型將會變得更加龐大。更大的模型規(guī)模意味著更多的參數(shù)和更豐富的知識，這將使得大模型在處理復(fù)雜任務(wù)時具有更高的準確性和效率。同時，大規(guī)模模型的訓(xùn)練也需要更強大的硬件支持，因此我們可以預(yù)見到未來會出現(xiàn)更多專門針對大模型的硬件設(shè)備，如專用ai芯片等。

8、(2)更好的性能優(yōu)化：為了提高大模型在各種應(yīng)用場景中的表現(xiàn)，研究人員將繼續(xù)探索更加高效的算法和優(yōu)化方法。例如，知識蒸餾、模型剪枝等技術(shù)可以在保持模型性能的同時降低計算和存儲需求，使大模型能夠在低功耗設(shè)備上運行。此外，研究者還將嘗試利用模型的預(yù)訓(xùn)練能力，開發(fā)更高效的多任務(wù)學(xué)習(xí)方法，以實現(xiàn)更好的性能優(yōu)化。

9、(3)更廣泛的應(yīng)用領(lǐng)域：隨著大模型技術(shù)的不斷成熟，它的應(yīng)用領(lǐng)域也將不斷擴大。除了現(xiàn)有的智能客服、語音助手等場景外，大模型還將在醫(yī)療、教育、金融等領(lǐng)域發(fā)揮重要作用。例如，在醫(yī)療領(lǐng)域，大模型可以輔助醫(yī)生進行疾病診斷和治療建議；在教育領(lǐng)域，大模型可以為學(xué)生提供個性化的學(xué)習(xí)建議和資源推薦。這些應(yīng)用將極大地提高人們的生活質(zhì)量和社會效率。

10、(4)更強的可解釋性：目前的大模型往往被視為“黑箱”，其內(nèi)部的工作原理和決策過程難以理解。然而，為了讓人們更好地信任和使用大模型，研究者需要提高模型的可解釋性。通過可視化技術(shù)、局部模型等方法，可以幫助我們理解大模型的決策依據(jù)，從而確保其在關(guān)鍵領(lǐng)域的應(yīng)用更加可靠和安全。

11、(5)更強的隱私保護：隨著數(shù)據(jù)泄露和濫用的現(xiàn)象日益嚴重，如何在大模型中保護用戶數(shù)據(jù)的隱私成為了一個重要的議題。研究者將通過技術(shù)手段，如差分隱私、聯(lián)邦學(xué)習(xí)等，來保護用戶數(shù)據(jù)的隱私安全。同時，政策層面也將出臺相應(yīng)的法規(guī)和標準，以確保大模型在各個領(lǐng)域的應(yīng)用都能夠充分尊重用戶的隱私權(quán)益。

12、總之，大模型表現(xiàn)出強大的通用性、創(chuàng)造性和涌現(xiàn)性，為網(wǎng)信體系智能化發(fā)展提供了“ai+”的新范式，實現(xiàn)從“點智能”向“體系智能”的跨越。

技術(shù)實現(xiàn)思路

1、本發(fā)明的目的在于提供一種基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，解決智能體應(yīng)用高度定制化、訓(xùn)練成本高昂且人工耗時費力的難題，能夠通過大模型的通用性、創(chuàng)造性和涌現(xiàn)性，準確的理解用戶的意圖，調(diào)度多個不同的模型工具，組合完成復(fù)雜任務(wù)，充當“模型指揮官”的角色，從而大大提高體系運轉(zhuǎn)的效率。

2、實現(xiàn)本發(fā)明目的的技術(shù)解決方案為：一種基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，包括應(yīng)用管理模塊、智能體工作流模塊、智能體構(gòu)建模塊以及意圖理解模塊；

3、所述應(yīng)用管理模塊用于注冊發(fā)布業(yè)務(wù)服務(wù)、對服務(wù)語義映射管理以及應(yīng)用的正常性進行監(jiān)測管理功能；

4、所述智能體工作流模塊用于構(gòu)建針對某項任務(wù)需求的服務(wù)工作流，首先能夠基于已有的應(yīng)用列表，通過大模型充分理解任務(wù)需求，從應(yīng)用列表中選取合適的智能體應(yīng)用進行驅(qū)動；

5、所述智能體構(gòu)建模塊用于需求無法滿足的情況下，通過大模型的思維鏈能力，不斷迭代生成子需求以及代碼，其中代碼是以函數(shù)定義、函數(shù)實現(xiàn)、函數(shù)集成實現(xiàn)以及執(zhí)行結(jié)果測試的形式進行驗證；

6、所述意圖理解執(zhí)行模塊用于對用戶的自然語言需求進行解析，根據(jù)與需求的語義相似度進行匹配，推薦執(zhí)行最優(yōu)的智能體；如用戶確認，則將執(zhí)行的結(jié)果、執(zhí)行的工具流程在與用戶的反饋中體現(xiàn)。

7、與現(xiàn)有技術(shù)相比，本發(fā)明具有以下優(yōu)點：

8、(1)本發(fā)明針對未來智能化場景復(fù)雜多變的特點，使得智能系統(tǒng)具備理解場景需求調(diào)用各類應(yīng)用的能力，能夠以大模型為中樞，將已有的各類應(yīng)用進行一致性管理建模后進行驅(qū)動，使得各類應(yīng)用具備面向任務(wù)的自組織集成能力；

9、(2)本發(fā)明利用大模型能夠按需生成代碼的能力，將任務(wù)需求映射成為程序代碼，能夠基于生成的代碼編譯并組裝成具體的軟件應(yīng)用，使得應(yīng)用軟件具備較強的拓展性。

技術(shù)特征：

1.一種基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，包括應(yīng)用管理模塊、智能體工作流模塊、智能體構(gòu)建模塊以及意圖理解模塊；

2.根據(jù)權(quán)利要求1所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，所述應(yīng)用管理模塊包括應(yīng)用發(fā)布注冊模塊、語義描述映射模塊、負載均衡服務(wù)池、應(yīng)用測試工具；應(yīng)用發(fā)布注冊模塊用于將各類應(yīng)用進行統(tǒng)一注冊，描述出應(yīng)用的基礎(chǔ)信息、使用范圍、可解釋可演進要求便于大模型進行語義層面的理解后進行調(diào)用；語義描述映射模塊用于存儲服務(wù)的語義描述信息，通過計算與需求之間的相似度實現(xiàn)語義與應(yīng)用的映射與調(diào)用；負載均衡服務(wù)池用于存儲服務(wù)名稱、服務(wù)地址信息，在根據(jù)當前資源池的狀態(tài)，選配合適的應(yīng)用進行調(diào)用，如果資源池中各類應(yīng)用均存在負載超過設(shè)定閾值的情況，則通過增加應(yīng)用實例的方式，動態(tài)通過容器云進行分配；應(yīng)用測試工具通過自動運行智能體的應(yīng)用接口，確保注冊的應(yīng)用的狀態(tài)正常性，能夠在工作流程中作為應(yīng)用被調(diào)用。

3.根據(jù)權(quán)利要求1所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，所述的智能體工作流模塊能夠基于已有的應(yīng)用列表，通過大模型充分理解任務(wù)需求，從應(yīng)用列表中選取合適的智能體應(yīng)用進行驅(qū)動，具體實現(xiàn)如下：

4.根據(jù)權(quán)利要求3所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，構(gòu)建大模型理解引擎的具體過程包括：

5.根據(jù)權(quán)利要求3所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，所述的將應(yīng)用管理模塊的各類應(yīng)用進行統(tǒng)一組織，根據(jù)不同的需求類型，能夠從應(yīng)用管理模塊中獲取相應(yīng)的應(yīng)用的基礎(chǔ)信息、使用范圍，具體包括：

6.根據(jù)權(quán)利要求3所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，所述的將需求以及應(yīng)用列表拼接成提示語句輸入給大模型理解引擎，大模型通過啟發(fā)式的求解生成解決出該任務(wù)的過程，包括：

7.根據(jù)權(quán)利要求1所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，智能體構(gòu)建模塊能夠?qū)⒅悄荏w工作流模塊中涉及的數(shù)據(jù)、知識要素進行統(tǒng)一打包，確保能夠獨立執(zhí)行，然后基于容器進行安裝部署；在工作流中的不能夠成功映射的節(jié)點由于未能有對應(yīng)服務(wù)實現(xiàn)，需要在人機交互的前提下實現(xiàn)，主要包括：

8.根據(jù)權(quán)利要求7所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，所述的通過大模型的思維鏈能力，生成具體的函數(shù)名稱及參數(shù)定義；通過大模型的代碼生成能力，在具體函數(shù)名稱及參數(shù)定義的前提下，生成具體的函數(shù)實現(xiàn)，并通過編譯器進行編譯運行代碼，具體包括：

9.根據(jù)權(quán)利要求1所述的基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，其特征在于，意圖理解執(zhí)行模塊對于用戶的自然語言需求進行解析，從語義相似度、上下文情境角度，篩選出相似的流程，通過組合調(diào)用生成出具體的智能體執(zhí)行結(jié)果，具體實現(xiàn)方法如下：

技術(shù)總結(jié)
本發(fā)明公開了一種基于大語言模型的智能體構(gòu)建及應(yīng)用系統(tǒng)，提供了模型服務(wù)的統(tǒng)一注冊、發(fā)布范式，通過大模型對任務(wù)業(yè)務(wù)需求進行深度理解，生成針對用戶任務(wù)需求的服務(wù)編排流程，如所需服務(wù)不存在，則驅(qū)動大模型的代碼生成能力進行服務(wù)定義、服務(wù)實現(xiàn)，在流程中不斷調(diào)用自我迭代，最終形成針對該項業(yè)務(wù)的智能體工作流程。本發(fā)明具備問題語義理解、復(fù)雜任務(wù)分解及調(diào)用的能力，優(yōu)點在于在能夠高效接入到應(yīng)用系統(tǒng)的同時，大模型能夠準確的理解用戶意圖，調(diào)度或者臨機編寫多個不同的模型工具，組合完成復(fù)雜任務(wù)，從而大大提高體系運轉(zhuǎn)的效率。

技術(shù)研發(fā)人員：王羽,張琨,李晅松,陳佃迎
受保護的技術(shù)使用者：南京理工大學(xué)
技術(shù)研發(fā)日：
技術(shù)公布日：2024/11/18