本發(fā)明涉及人工智能，特別指一種具備記憶管理能力的大語言模型智能交互方法及系統(tǒng)。

背景技術(shù)：

1、智能助手是用于人機(jī)智能交互的一類軟件，在智能助手的早期發(fā)展階段，主要采用固定規(guī)則和模板化響應(yīng)機(jī)制來處理用戶的查詢，雖然易于實(shí)現(xiàn)，但存在明顯的局限性，主要表現(xiàn)在處理能力上的不靈活性和對(duì)特定問題類型的過度依賴，這限制了智能助手在多樣化和復(fù)雜交互場(chǎng)景中的應(yīng)用潛力。

2、隨著人工智能技術(shù)的快速演進(jìn)，機(jī)器學(xué)習(xí)已成為推動(dòng)智能助手發(fā)展的關(guān)鍵。特別是大語言模型(large?language?mode?l?s,llms)，以其在處理復(fù)雜語言任務(wù)方面的能力，已經(jīng)成為構(gòu)建先進(jìn)的智能助手的核心，廣泛應(yīng)用于多種交互場(chǎng)景。這些大語言模型利用其先進(jìn)的算法和龐大的參數(shù)集，實(shí)現(xiàn)了對(duì)復(fù)雜語言任務(wù)的高效處理，為用戶帶來了自然度和智能性前所未有的交互體驗(yàn)。

3、基于大語言模型的智能助手設(shè)計(jì)的核心目標(biāo)是實(shí)現(xiàn)與人類相似的自然交流能力，因此，遵循人類的工作機(jī)制來設(shè)計(jì)智能助手是一個(gè)自然而必要的選擇。為實(shí)現(xiàn)這一目標(biāo)，模仿人類的交流和記憶能力變得尤為關(guān)鍵，人類大腦具有在動(dòng)態(tài)環(huán)境中存儲(chǔ)、處理和更新大量知識(shí)的獨(dú)特能力，智能助手若要達(dá)到類似水平的交流自然度和適應(yīng)性，就必須具備有效的記憶管理功能，以支持復(fù)雜的認(rèn)知過程和持續(xù)的知識(shí)積累。

4、然而，受限于大語言模型在注意力機(jī)制上的復(fù)雜性，隨著輸入序列長度的增加，計(jì)算復(fù)雜度和資源需求呈指數(shù)級(jí)增長，這限制了智能助手存儲(chǔ)和回憶與用戶交互過程中獲得信息的能力，進(jìn)而限制了交互性能。

5、因此，如何提供一種具備記憶管理能力的大語言模型智能交互方法及系統(tǒng)，實(shí)現(xiàn)提升人機(jī)交互性能，成為一個(gè)亟待解決的技術(shù)問題。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明要解決的技術(shù)問題，在于提供一種具備記憶管理能力的大語言模型智能交互方法及系統(tǒng)，實(shí)現(xiàn)提升人機(jī)交互性能。

2、第一方面，本發(fā)明提供了一種具備記憶管理能力的大語言模型智能交互方法，包括如下步驟：

3、步驟s1、創(chuàng)建一工作記憶模塊、一長期記憶模塊、一記憶融合模塊以及一設(shè)有大語言模型的智能交互模塊；

4、步驟s2、獲取用于智能交互的外部知識(shí)，將所述外部知識(shí)整合進(jìn)長期記憶模塊；

5、步驟s3、所述智能交互模塊通過大語言模型對(duì)用戶查詢語句進(jìn)行識(shí)別獲取意圖序列，將所述意圖序列發(fā)送給工作記憶模塊；

6、步驟s4、所述記憶融合模塊基于用戶查詢語句從長期記憶模塊中的外部知識(shí)檢索相關(guān)的上下文信息，將所述上下文信息發(fā)送給工作記憶模塊；

7、步驟s5、所述工作記憶模塊基于意圖序列、上下文信息以及預(yù)設(shè)的系統(tǒng)指令構(gòu)建一動(dòng)態(tài)的工作記憶，存儲(chǔ)所述工作記憶并發(fā)送給智能交互模塊；

8、步驟s6、所述智能交互模塊基于工作記憶，通過所述大語言模型輸出查詢結(jié)果，以進(jìn)行智能交互；

9、步驟s7、智能交互過程中，所述記憶融合模塊從用戶查詢語句以及查詢結(jié)果抽取語義記憶以及情節(jié)記憶，將所述語義記憶以及情節(jié)記憶存儲(chǔ)至長期記憶模塊。

10、進(jìn)一步的，所述步驟s1中，所述工作記憶模塊用于短期存儲(chǔ)和處理信息，設(shè)有指令管理單元、上下文關(guān)聯(lián)單元以及用戶意圖輸入單元；

11、所述指令管理單元用于定義指導(dǎo)交互流程的系統(tǒng)指令，即靜態(tài)規(guī)則；所述上下文關(guān)聯(lián)單元用于動(dòng)態(tài)存儲(chǔ)交互的事實(shí)信息、用戶偏好以及角色信息；所述用戶意圖輸入單元用于意圖序列的輸入。

12、進(jìn)一步的，所述步驟s1中，所述長期記憶模塊用于長期存儲(chǔ)和處理信息，設(shè)有注入記憶單元、語義記憶單元以及情節(jié)記憶單元；

13、所述注入記憶單元用于通過bge-base-zh文本嵌入模型對(duì)外部知識(shí)進(jìn)行文本向量化處理，得到向量化知識(shí)，對(duì)所述向量化知識(shí)進(jìn)行嵌入后以高維向量的形式存儲(chǔ)于m?i?lvus數(shù)據(jù)庫；所述語義記憶單元用于對(duì)有組織的知識(shí)進(jìn)行嵌入后以高維向量的形式存儲(chǔ)于mi?l?vus數(shù)據(jù)庫；所述情節(jié)記憶單元用于對(duì)交互涉及的人物、事件發(fā)生時(shí)間、事件發(fā)生地點(diǎn)以及事件發(fā)生環(huán)境進(jìn)行編碼存儲(chǔ)。

14、進(jìn)一步的，所述步驟s1中，所述記憶融合模塊用于工作記憶模塊和長期記憶模塊之間的數(shù)據(jù)流動(dòng)，設(shè)有動(dòng)態(tài)工作記憶構(gòu)建單元、語義記憶抽取單元以及情節(jié)記憶抽取單元；

15、所述動(dòng)態(tài)工作記憶構(gòu)建單元用于依據(jù)用戶查詢語句從長期記憶模塊中檢索上下文信息，接著使用bce-reranker模型對(duì)各所述上下文信息進(jìn)行信息重排，將重排后的所述上下文信息與指令管理單元的系統(tǒng)指令結(jié)合，根據(jù)所述大語言模型預(yù)設(shè)的輸入規(guī)范進(jìn)行格式化編排，進(jìn)而構(gòu)建處理當(dāng)前用戶查詢語句的完整的工作記憶；所述語義記憶抽取單元用于依據(jù)當(dāng)前的工作記憶進(jìn)行交互，讀取交互過程中產(chǎn)生的上下文信息攜帶的語義知識(shí)，將所述語義知識(shí)存儲(chǔ)至長期記憶模塊；所述情節(jié)記憶抽取單元用于從上下文信息中抽取包括人物、事件發(fā)生時(shí)間、事件發(fā)生地點(diǎn)以及事件發(fā)生環(huán)境的情節(jié)記憶，基于所述情節(jié)記憶生成高級(jí)摘要并存儲(chǔ)至長期記憶模塊。

16、進(jìn)一步的，所述步驟s1中，所述交互模塊用于從用戶查詢語句中挖掘表層意義和深層需求，基于所述表層意義和深層需求生成與用戶意圖相關(guān)的意圖序列，即關(guān)鍵詞序列，基于所述意圖序列進(jìn)行智能交互。

17、第二方面，本發(fā)明提供了一種具備記憶管理能力的大語言模型智能交互系統(tǒng)，包括如下模塊：

18、初始化模塊，用于創(chuàng)建一工作記憶模塊、一長期記憶模塊、一記憶融合模塊以及一設(shè)有大語言模型的智能交互模塊；

19、外部知識(shí)整合模塊，用于獲取用于智能交互的外部知識(shí)，將所述外部知識(shí)整合進(jìn)長期記憶模塊；

20、意圖識(shí)別模塊，用于所述智能交互模塊通過大語言模型對(duì)用戶查詢語句進(jìn)行識(shí)別獲取意圖序列，將所述意圖序列發(fā)送給工作記憶模塊；

21、上下文信息檢索模塊，用于所述記憶融合模塊基于用戶查詢語句從長期記憶模塊中的外部知識(shí)檢索相關(guān)的上下文信息，將所述上下文信息發(fā)送給工作記憶模塊；

22、工作記憶構(gòu)建模塊，用于所述工作記憶模塊基于意圖序列、上下文信息以及預(yù)設(shè)的系統(tǒng)指令構(gòu)建一動(dòng)態(tài)的工作記憶，存儲(chǔ)所述工作記憶并發(fā)送給智能交互模塊；

23、交互模塊，用于所述智能交互模塊基于工作記憶，通過所述大語言模型輸出查詢結(jié)果，以進(jìn)行智能交互；

24、長期記憶優(yōu)化模塊，用于智能交互過程中，所述記憶融合模塊從用戶查詢語句以及查詢結(jié)果抽取語義記憶以及情節(jié)記憶，將所述語義記憶以及情節(jié)記憶存儲(chǔ)至長期記憶模塊。

25、進(jìn)一步的，所述初始化模塊中，所述工作記憶模塊用于短期存儲(chǔ)和處理信息，設(shè)有指令管理單元、上下文關(guān)聯(lián)單元以及用戶意圖輸入單元；

26、所述指令管理單元用于定義指導(dǎo)交互流程的系統(tǒng)指令，即靜態(tài)規(guī)則；所述上下文關(guān)聯(lián)單元用于動(dòng)態(tài)存儲(chǔ)交互的事實(shí)信息、用戶偏好以及角色信息；所述用戶意圖輸入單元用于意圖序列的輸入。

27、進(jìn)一步的，所述初始化模塊中，所述長期記憶模塊用于長期存儲(chǔ)和處理信息，設(shè)有注入記憶單元、語義記憶單元以及情節(jié)記憶單元；

28、所述注入記憶單元用于通過bge-base-zh文本嵌入模型對(duì)外部知識(shí)進(jìn)行文本向量化處理，得到向量化知識(shí)，對(duì)所述向量化知識(shí)進(jìn)行嵌入后以高維向量的形式存儲(chǔ)于m?i?lvus數(shù)據(jù)庫；所述語義記憶單元用于對(duì)有組織的知識(shí)進(jìn)行嵌入后以高維向量的形式存儲(chǔ)于mi?l?vus數(shù)據(jù)庫；所述情節(jié)記憶單元用于對(duì)交互涉及的人物、事件發(fā)生時(shí)間、事件發(fā)生地點(diǎn)以及事件發(fā)生環(huán)境進(jìn)行編碼存儲(chǔ)。

29、進(jìn)一步的，所述初始化模塊中，所述記憶融合模塊用于工作記憶模塊和長期記憶模塊之間的數(shù)據(jù)流動(dòng)，設(shè)有動(dòng)態(tài)工作記憶構(gòu)建單元、語義記憶抽取單元以及情節(jié)記憶抽取單元；

30、所述動(dòng)態(tài)工作記憶構(gòu)建單元用于依據(jù)用戶查詢語句從長期記憶模塊中檢索上下文信息，接著使用bce-reranker模型對(duì)各所述上下文信息進(jìn)行信息重排，將重排后的所述上下文信息與指令管理單元的系統(tǒng)指令結(jié)合，根據(jù)所述大語言模型預(yù)設(shè)的輸入規(guī)范進(jìn)行格式化編排，進(jìn)而構(gòu)建處理當(dāng)前用戶查詢語句的完整的工作記憶；所述語義記憶抽取單元用于依據(jù)當(dāng)前的工作記憶進(jìn)行交互，讀取交互過程中產(chǎn)生的上下文信息攜帶的語義知識(shí)，將所述語義知識(shí)存儲(chǔ)至長期記憶模塊；所述情節(jié)記憶抽取單元用于從上下文信息中抽取包括人物、事件發(fā)生時(shí)間、事件發(fā)生地點(diǎn)以及事件發(fā)生環(huán)境的情節(jié)記憶，基于所述情節(jié)記憶生成高級(jí)摘要并存儲(chǔ)至長期記憶模塊。

31、進(jìn)一步的，所述初始化模塊中，所述交互模塊用于從用戶查詢語句中挖掘表層意義和深層需求，基于所述表層意義和深層需求生成與用戶意圖相關(guān)的意圖序列，即關(guān)鍵詞序列，基于所述意圖序列進(jìn)行智能交互。

32、本發(fā)明的優(yōu)點(diǎn)在于：

33、1、通過創(chuàng)建工作記憶模塊、長期記憶模塊、記憶融合模塊以及設(shè)有大語言模型的智能交互模塊，接著獲取用于智能交互的外部知識(shí)整合進(jìn)長期記憶模塊，智能交互模塊通過大語言模型輸出的用戶查詢語句，對(duì)用戶查詢語句進(jìn)行識(shí)別獲取意圖序列發(fā)送給工作記憶模塊，記憶融合模塊基于用戶查詢語句從長期記憶模塊中的外部知識(shí)檢索相關(guān)的上下文信息發(fā)送給工作記憶模塊；接著工作記憶模塊基于意圖序列、上下文信息以及預(yù)設(shè)的系統(tǒng)指令構(gòu)建動(dòng)態(tài)的工作記憶，存儲(chǔ)工作記憶并發(fā)送給智能交互模塊，智能交互模塊基于工作記憶，通過大語言模型輸出查詢結(jié)果以進(jìn)行智能交互，智能交互過程中，記憶融合模塊從用戶查詢語句以及查詢結(jié)果中，抽取語義記憶以及情節(jié)記憶存儲(chǔ)至長期記憶模塊；即創(chuàng)建包括工作記憶和長期記憶兩種記憶機(jī)制，且支持自我優(yōu)化，工作記憶模塊用于短期存儲(chǔ)和處理信息，長期記憶模塊用于長期存儲(chǔ)和處理信息，兩種記憶機(jī)制協(xié)同工作，實(shí)現(xiàn)用戶查詢語句的高效檢索和應(yīng)用，通過記憶融合模塊促進(jìn)知識(shí)的深度整合，通過智能交互模塊挖掘與用戶意圖相關(guān)的意圖序列進(jìn)行交互，顯著提升大語言模型在持續(xù)對(duì)話和執(zhí)行復(fù)雜任務(wù)時(shí)的性能，最終極大的提升了人機(jī)交互性能。

34、2、通過深入分析用戶希望通過對(duì)話達(dá)到的具體目標(biāo)，生成與用戶意圖緊密相關(guān)的意圖序列進(jìn)行交互，支持進(jìn)行多輪深入對(duì)話，逐步引導(dǎo)用戶接近其最終目的，實(shí)現(xiàn)對(duì)用戶意圖的深度理解和及時(shí)響應(yīng)，極大的提升了用戶體驗(yàn)，極大的增強(qiáng)了用戶滿意度。

35、3、通過借鑒人腦的陳述性記憶機(jī)制，創(chuàng)新性地抽取交互過程中的語義記憶和情節(jié)記憶，實(shí)現(xiàn)長期記憶的自我優(yōu)化；記憶融合模塊的記憶增強(qiáng)策略實(shí)現(xiàn)了動(dòng)態(tài)存儲(chǔ)和累積經(jīng)驗(yàn)知識(shí)，形成對(duì)用戶偏好和需求的深入理解，從而提供更加精準(zhǔn)和個(gè)性化的服務(wù)。

36、4、采用檢索增強(qiáng)生成(rag)的核心理念，結(jié)合先進(jìn)的中文文本嵌入技術(shù)(bge-base-zh文本嵌入模型)，將關(guān)鍵的外部知識(shí)轉(zhuǎn)化為向量化知識(shí)，直接整合到長期記憶模塊中，有效提高了知識(shí)存儲(chǔ)的效率和檢索的速度，提升在復(fù)雜交互場(chǎng)景中的處理能力，能夠更準(zhǔn)確地理解和響應(yīng)用戶需求。

37、5、基于用戶查詢語句從長期記憶中檢索出緊密相關(guān)的上下文信息，隨后結(jié)合系統(tǒng)指令和意圖序列，有效增強(qiáng)交互自然度和準(zhǔn)確度。