本發(fā)明實(shí)施例涉及車輛，尤其涉及一種車載離線問答系統(tǒng)、方法、電子設(shè)備及車輛。

背景技術(shù)：

1、在汽車行業(yè)中，傳統(tǒng)的用戶手冊大多以紙質(zhì)形式提供，這種紙質(zhì)手冊通常包含車輛操作、日常維護(hù)、故障排除等方面的信息。近年來，隨著數(shù)字化技術(shù)的持續(xù)發(fā)展，能為用戶提供更加便捷的查詢方式的電子手冊逐步取代了紙質(zhì)手冊。現(xiàn)有的電子手冊主要有以下幾種形式：

2、(1)pdf格式電子手冊：通過汽車制造商的網(wǎng)站或移動應(yīng)用提供，用戶可以下載或在線查看pdf格式的用戶手冊。

3、(2)移動應(yīng)用中的電子手冊：一些汽車制造商開發(fā)了專門的移動應(yīng)用，用戶可以在應(yīng)用中搜索相關(guān)信息，這些應(yīng)用通常具有搜索功能和圖文結(jié)合的界面。

4、(3)在線幫助系統(tǒng)：一些制造商提供在線幫助系統(tǒng)，用戶可以通過網(wǎng)頁界面輸入問題進(jìn)行搜索，系統(tǒng)會返回相關(guān)的幫助文檔。

5、然而，盡管現(xiàn)有的電子手冊在某種程度上改善了用戶體驗(yàn)，但依然存在諸多問題和不足：

6、(1)信息檢索效率低：用戶在搜索具體問題時(shí)，系統(tǒng)返回的結(jié)果往往包含大量無關(guān)信息，搜索結(jié)果相關(guān)性差，需要用戶自行篩選，影響使用體驗(yàn)；另外，現(xiàn)有系統(tǒng)大多基于關(guān)鍵詞搜索，缺乏自然語言理解(即難以理解用戶的自然語言查詢)，導(dǎo)致復(fù)雜問題的回答不夠準(zhǔn)確。

7、(2)用戶體驗(yàn)不佳：某些移動應(yīng)用和在線系統(tǒng)的界面交互復(fù)雜，操作繁瑣，特別是對于老年用戶或技術(shù)不熟練的用戶而言，使用體驗(yàn)較差；此外，部分系統(tǒng)依賴于云端服務(wù)器處理查詢，網(wǎng)絡(luò)延遲和服務(wù)器負(fù)載會導(dǎo)致系統(tǒng)響應(yīng)速度較慢，無法滿足用戶的即時(shí)查詢需求。

8、(3)存在安全風(fēng)險(xiǎn)：很多系統(tǒng)依賴于云端處理，這意味著用戶的查詢數(shù)據(jù)需要上傳到服務(wù)器，存在數(shù)據(jù)隱私泄露等安全風(fēng)險(xiǎn)，隨著用戶對個(gè)人信息和查詢內(nèi)容的隱私性要求越來越高，云端處理難以完全滿足用戶需求。

9、(4)維護(hù)和更新困難：現(xiàn)有電子手冊內(nèi)容需要手動更新，過程繁瑣且容易出錯(cuò)，無法及時(shí)反映最新的車輛信息和故障解決方案。

10、(5)系統(tǒng)訓(xùn)練和優(yōu)化受限：在線幫助系統(tǒng)和移動應(yīng)用的智能程度有限，難以進(jìn)行自適應(yīng)學(xué)習(xí)和優(yōu)化，無法根據(jù)用戶反饋持續(xù)改進(jìn)系統(tǒng)性能。

11、(6)需要聯(lián)網(wǎng)使用：移動應(yīng)用和在線幫助系統(tǒng)必須實(shí)時(shí)聯(lián)網(wǎng)才能使用。

12、綜上所述，現(xiàn)有電子手冊在信息檢索效率、用戶體驗(yàn)、數(shù)據(jù)隱私和安全性、系統(tǒng)維護(hù)和更新等方面存在諸多問題和痛點(diǎn)，亟需一種新型技術(shù)方案來解決上述問題中的至少一個(gè)，以期提升用戶體驗(yàn)和查詢效率。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明實(shí)施例提供一種車載離線問答系統(tǒng)、方法、電子設(shè)備及車輛，以至少解決現(xiàn)有電子手冊信息檢索效率低、用戶體驗(yàn)不佳、存在安全風(fēng)險(xiǎn)、維護(hù)和更新困難、系統(tǒng)訓(xùn)練和優(yōu)化受限、需要聯(lián)網(wǎng)使用等技術(shù)問題，利于提升用戶體驗(yàn)和查詢效率。

2、第一方面，本發(fā)明實(shí)施例提供了一種車載離線問答系統(tǒng)，至少包括用戶終端、數(shù)據(jù)庫和車載服務(wù)器；

3、所述用戶終端，與所述車載服務(wù)器連接，至少用于獲取用戶輸入的查詢指令，以將所述查詢指令轉(zhuǎn)換為第一格式數(shù)據(jù)后上傳所述車載服務(wù)器；以及，接收應(yīng)答數(shù)據(jù)，以將所述應(yīng)答數(shù)據(jù)轉(zhuǎn)換為第二格式數(shù)據(jù)后通過預(yù)設(shè)反饋形式反饋給用戶；

4、所述數(shù)據(jù)庫，與所述車載服務(wù)器連接，至少用于存儲車輛實(shí)用數(shù)據(jù)，以供所述車載服務(wù)器調(diào)用；

5、所述車載服務(wù)器，配置有經(jīng)過預(yù)訓(xùn)練的大語言模型，至少用于接收所述第一格式數(shù)據(jù)，以使所述經(jīng)過預(yù)訓(xùn)練的大語言模型基于所述第一格式數(shù)據(jù)和調(diào)用的所述車輛實(shí)用數(shù)據(jù)生成所述應(yīng)答數(shù)據(jù)，進(jìn)而將所述應(yīng)答數(shù)據(jù)下發(fā)所述用戶終端；

6、其中，所述預(yù)訓(xùn)練至少包括剪枝訓(xùn)練、蒸餾訓(xùn)練和低秩適應(yīng)訓(xùn)練中的兩種。

7、可選地，所述預(yù)訓(xùn)練至少包括所述剪枝訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

8、所述大語言模型的預(yù)訓(xùn)練過程至少包括以下步驟：

9、sa1、計(jì)算所述大語言模型中每個(gè)權(quán)重的重要指標(biāo)參數(shù)；

10、sa2、將所述大語言模型中所述重要指標(biāo)參數(shù)低于預(yù)設(shè)閾值的至少一個(gè)權(quán)重置零；

11、sa3、使用第一性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

12、sa4、基于第一增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練。

13、可選地，所述預(yù)訓(xùn)練至少包括所述剪枝訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

14、所述大語言模型的預(yù)訓(xùn)練過程至少包括以下步驟：

15、sb1、評估所述大語言模型中每個(gè)神經(jīng)元的貢獻(xiàn)度；

16、sb2、刪除所述大語言模型中所述貢獻(xiàn)度低于預(yù)設(shè)貢獻(xiàn)度的至少一個(gè)神經(jīng)元；

17、sb3、使用第二性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

18、sb4、基于第二增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練。

19、可選地，所述預(yù)訓(xùn)練至少包括所述剪枝訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

20、所述大語言模型的預(yù)訓(xùn)練過程至少包括以下步驟：

21、sc1、判斷所述大語言模型中每一結(jié)構(gòu)單元的模型影響參數(shù)；

22、sc2、移除所述大語言模型中所述模型影響參數(shù)高于預(yù)設(shè)參數(shù)值的至少一個(gè)結(jié)構(gòu)單元；

23、sc3、使用第三性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

24、sc4、基于第三增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練。

25、可選地，所述預(yù)訓(xùn)練至少包括所述剪枝訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

26、所述大語言模型的預(yù)訓(xùn)練過程至少包括如下步驟：

27、sa1、計(jì)算所述大語言模型中每個(gè)權(quán)重的重要指標(biāo)參數(shù)；

28、sa2、將所述大語言模型中所述重要指標(biāo)參數(shù)低于預(yù)設(shè)閾值的至少一個(gè)權(quán)重置零；

29、sa3、使用第一性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

30、sb1、評估所述大語言模型中每個(gè)神經(jīng)元的貢獻(xiàn)度；

31、sb2、刪除所述大語言模型中所述貢獻(xiàn)度低于預(yù)設(shè)貢獻(xiàn)度的至少一個(gè)神經(jīng)元；

32、sb3、使用第二性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

33、sb5、基于第四增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練；

34、或者，

35、所述大語言模型的預(yù)訓(xùn)練過程至少包括如下步驟：

36、sa1、計(jì)算所述大語言模型中每個(gè)權(quán)重的重要指標(biāo)參數(shù)；

37、sa2、將所述大語言模型中所述重要指標(biāo)參數(shù)低于預(yù)設(shè)閾值的至少一個(gè)權(quán)重置零；

38、sa3、使用第一性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

39、sc1、判斷所述大語言模型中每一結(jié)構(gòu)單元的模型影響參數(shù)；

40、sc2、移除所述大語言模型中所述模型影響參數(shù)高于預(yù)設(shè)參數(shù)值的至少一個(gè)結(jié)構(gòu)單元；

41、sc3、使用第三性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

42、sc5、基于第五增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練；

43、或者，

44、所述大語言模型的預(yù)訓(xùn)練過程至少包括如下步驟：

45、sb1、評估所述大語言模型中每個(gè)神經(jīng)元的貢獻(xiàn)度；

46、sb2、刪除所述大語言模型中所述貢獻(xiàn)度低于預(yù)設(shè)貢獻(xiàn)度的至少一個(gè)神經(jīng)元；

47、sb3、使用第二性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

48、sc1、判斷所述大語言模型中每一結(jié)構(gòu)單元的模型影響參數(shù)；

49、sc2、移除所述大語言模型中所述模型影響參數(shù)高于預(yù)設(shè)參數(shù)值的至少一個(gè)結(jié)構(gòu)單元；

50、sc3、使用第三性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

51、sc6、基于第六增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練。

52、可選地，所述預(yù)訓(xùn)練至少包括所述剪枝訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

53、所述大語言模型的預(yù)訓(xùn)練過程至少包括如下步驟：

54、sa1、計(jì)算所述大語言模型中每個(gè)權(quán)重的重要指標(biāo)參數(shù)；

55、sa2、將所述大語言模型中所述重要指標(biāo)參數(shù)低于預(yù)設(shè)閾值的至少一個(gè)權(quán)重置零；

56、sa3、使用第一性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

57、sb1、評估所述大語言模型中每個(gè)神經(jīng)元的貢獻(xiàn)度；

58、sb2、刪除所述大語言模型中所述貢獻(xiàn)度低于預(yù)設(shè)貢獻(xiàn)度的至少一個(gè)神經(jīng)元；

59、sb3、使用第二性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

60、sc1、判斷所述大語言模型中每一結(jié)構(gòu)單元的模型影響參數(shù)；

61、sc2、移除所述大語言模型中所述模型影響參數(shù)高于預(yù)設(shè)參數(shù)值的至少一個(gè)結(jié)構(gòu)單元；

62、sc3、使用第三性能訓(xùn)練數(shù)據(jù)重新對所述大語言模型進(jìn)行性能訓(xùn)練；

63、sc7、基于第七增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述大語言模型進(jìn)行增量訓(xùn)練。

64、可選地，所述預(yù)訓(xùn)練至少包括所述蒸餾訓(xùn)練和所述低秩適應(yīng)訓(xùn)練；

65、所述大語言模型的預(yù)訓(xùn)練過程至少包括如下步驟：

66、sd1、使用教師模型訓(xùn)練數(shù)據(jù)對所述大語言模型進(jìn)行訓(xùn)練，得到教師大語言模型；

67、sd2、將預(yù)設(shè)車載問答數(shù)據(jù)輸入所述教師大語言模型，以獲取所述預(yù)設(shè)車載問答數(shù)據(jù)的數(shù)據(jù)概率分布；

68、sd3、建立學(xué)生大語言模型，并基于所述數(shù)據(jù)概率分布對所述學(xué)生大語言模型進(jìn)行性能訓(xùn)練；

69、sd4、基于第八增量訓(xùn)練數(shù)據(jù)通過低秩矩陣分解對所述學(xué)生大語言模型進(jìn)行增量訓(xùn)練。

70、第二方面，本發(fā)明實(shí)施例還提供了一種車載離線問答方法，采用第一方面所述的車載離線問答系統(tǒng)執(zhí)行所述方法，所述方法至少包括：

71、通過用戶終端獲取用戶輸入的查詢指令，以將所述查詢指令轉(zhuǎn)換為第一格式數(shù)據(jù)后上傳車載服務(wù)器；

72、通過所述車載服務(wù)器接收所述第一格式數(shù)據(jù)并調(diào)用數(shù)據(jù)庫中存儲的車輛實(shí)用數(shù)據(jù)，以通過預(yù)訓(xùn)練后的大語言模型基于所述第一格式數(shù)據(jù)和調(diào)用的所述車輛實(shí)用數(shù)據(jù)生成應(yīng)答數(shù)據(jù)，進(jìn)而將所述應(yīng)答數(shù)據(jù)下發(fā)所述用戶終端；

73、通過所述用戶終端接收所述應(yīng)答數(shù)據(jù)，以將所述應(yīng)答數(shù)據(jù)轉(zhuǎn)換為第二格式數(shù)據(jù)后通過預(yù)設(shè)反饋形式反饋給用戶；

74、其中，所述預(yù)訓(xùn)練至少包括剪枝訓(xùn)練、蒸餾訓(xùn)練和低秩適應(yīng)訓(xùn)練中的兩種。

75、第三方面，本發(fā)明實(shí)施例還提供了一種電子設(shè)備，包括處理器以及存儲器，所述存儲器存儲有計(jì)算機(jī)可讀取指令，當(dāng)所述計(jì)算機(jī)可讀取指令由所述處理器執(zhí)行時(shí)，運(yùn)行如第二方面所述車載離線問答方法中的步驟。

76、第四方面，本發(fā)明實(shí)施例還提供了一種車輛，至少集成有第一方面任一項(xiàng)所述的車載離線問答系統(tǒng)。

77、本發(fā)明實(shí)施例提供一種車載離線問答系統(tǒng)、方法、電子設(shè)備及車輛。首先，用戶終端獲取用戶輸入的查詢指令，以將查詢指令轉(zhuǎn)換為第一格式數(shù)據(jù)后上傳車載服務(wù)器；然后，車載服務(wù)器接收第一格式數(shù)據(jù)并調(diào)用數(shù)據(jù)庫中存儲的車輛實(shí)用數(shù)據(jù)，以通過經(jīng)剪枝訓(xùn)練、蒸餾訓(xùn)練和低秩適應(yīng)訓(xùn)練中的至少兩種預(yù)訓(xùn)練后的大語言模型基于第一格式數(shù)據(jù)和調(diào)用的車輛實(shí)用數(shù)據(jù)生成應(yīng)答數(shù)據(jù)，進(jìn)而將應(yīng)答數(shù)據(jù)下發(fā)用戶終端；最后，用戶終端接收應(yīng)答數(shù)據(jù)，以將應(yīng)答數(shù)據(jù)轉(zhuǎn)換為第二格式數(shù)據(jù)后通過預(yù)設(shè)反饋形式反饋給用戶。

78、可以理解的是，本發(fā)明實(shí)施例通過使用預(yù)訓(xùn)練后的大語言模型(large?languagemodel，llm)可使車載離線問答系統(tǒng)適配于復(fù)雜自然語言查詢的應(yīng)用場景，更利于系統(tǒng)理解用戶意圖，進(jìn)而執(zhí)行精準(zhǔn)問答響應(yīng)，解決了現(xiàn)有電子手冊信息檢索效率偏低的技術(shù)問題，利于提升車載離線問答系統(tǒng)的查詢效率。

79、除此以外，由于本發(fā)明實(shí)施例中的llm經(jīng)過包含剪枝訓(xùn)練、蒸餾訓(xùn)練和低秩適應(yīng)訓(xùn)練中至少兩種方式的預(yù)訓(xùn)練流程，因此，經(jīng)過預(yù)訓(xùn)練后的llm的模型結(jié)構(gòu)得以精簡和優(yōu)化，一方面能夠降低模型在本地部署時(shí)的計(jì)算和存儲要求，進(jìn)而使得預(yù)訓(xùn)練后的llm能在車機(jī)現(xiàn)有算力下本地離線使用；另一方面也能根據(jù)用戶的查詢數(shù)據(jù)進(jìn)行持續(xù)學(xué)習(xí)和迭代，實(shí)現(xiàn)車載離線問答系統(tǒng)中數(shù)據(jù)庫的自動更新，保證應(yīng)答的準(zhǔn)確性和時(shí)效性，利于維護(hù)和更新。同時(shí)，又因?yàn)轭A(yù)訓(xùn)練后的llm能在本地離線使用，所以本發(fā)明實(shí)施例有效減少了車載離線問答系統(tǒng)的應(yīng)答響應(yīng)時(shí)間，利于滿足用戶的即時(shí)問答需求，提升用戶使用體驗(yàn)，并且由于車載離線問答系統(tǒng)中的所有數(shù)據(jù)處理均可在本地完成，避免了數(shù)據(jù)上傳至云端，因而能在極大程度上降低數(shù)據(jù)泄露風(fēng)險(xiǎn)，利于保障用戶的隱私和數(shù)據(jù)安全。