本發(fā)明涉及人工智能,特別是涉及一種基于大語言模型的數(shù)據(jù)處理方法及裝置。
背景技術:
1、在具體的應用項目中,可能需要進行大量的生成式的大語言模型接口調用,使用多個大語言模型實現(xiàn)不同的數(shù)據(jù)處理功能。例如,與大語言模型進行日常對話,使用大語言模型進行數(shù)據(jù)重點的提煉歸納等。每一種功能都包含復雜的數(shù)據(jù)處理流程,不同的功能需要不同的程序實現(xiàn)。當應用項目的功能較多時,程序量較大,如果有程序的迭代修復需求,檢索到需要迭代修復的程序的難度較大。如果涉及程序邏輯結構方面的改動,會影響到大部分函數(shù)的功能,就需要對每個函數(shù)進行修改,程序維護的成本高。
技術實現(xiàn)思路
1、本發(fā)明實施例的目的在于提供一種基于大語言模型的數(shù)據(jù)處理方法及裝置,以降低程序維護成本。具體技術方案如下:
2、在本發(fā)明實施例的第一方面,首先提供了一種基于大語言模型的數(shù)據(jù)處理方法,針對每一功能,配置有針對該功能的以下軟件單元:輸入?yún)?shù)傳入單元、提示詞生成單元、大語言模型接口調用單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,所述方法包括:
3、調用所述目標功能對應的目標輸入?yún)?shù)傳入單元,獲取輸入?yún)?shù);
4、調用所述目標功能對應的目標提示詞生成單元,將所述輸入?yún)?shù)與目標提示詞模板結合,生成提示詞,其中,所述目標提示詞模板為:預配置的所述目標功能對應的提示詞模板;
5、調用所述目標功能對應的目標大語言模型調用單元,調用所述目標功能對應的目標大語言模型的接口,將所述提示詞輸入所述目標大語言模型,獲得所述目標大語言模型的輸出結果。
6、本發(fā)明的一個實施例中,針對每一功能,還配置有傳入?yún)?shù)預處理單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,在所述調用所述目標功能對應的目標提示詞生成單元,將所述輸入?yún)?shù)與目標提示詞模板結合,生成提示詞之前,還包括:
7、調用所述目標功能對應的傳入?yún)?shù)預處理器單元,將所述輸入?yún)?shù)的格式調整為與目標提示詞模板相匹配的格式。
8、本發(fā)明的一個實施例中,針對每一功能,還配置有大語言模型生產結果校驗單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,在所述獲得所述目標大語言模型的輸出結果之后,還包括:
9、調用所述目標功能對應的目標大語言模型生產結果校驗單元,檢測所述輸出結果是否符合目標格式,生成檢測結果,其中,所述目標格式為:預配置的所述目標功能的輸出結果應當符合的格式。
10、本發(fā)明的一個實施例中,針對每一功能,還配置有大語言模型生成結果后處理單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,在所述獲得所述目標大語言模型的輸出結果之后,還包括:
11、調用所述目標功能對應的目標大語言模型生成結果后處理單元,對所述輸出結果進行分析,提取所述輸出結果中的重點內容,其中,所述重點內容為與所述目標功能的關聯(lián)程度最高的內容。
12、本發(fā)明的一個實施例中,針對每一功能,還配置有返回兜底結果單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,所述方法還包括:
13、若所述目標大語言模型未成功輸出結果,則調用所述目標功能對應的目標兜底結果單元輸出預設所述目標功能對應的目標結果,作為輸出結果。
14、本發(fā)明的一個實施例中,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,所述方法還包括:
15、若所述目標大語言模型未成功輸出結果,則重新執(zhí)行所述調用所述目標功能對應的目標大語言模型調用單元,調用所述目標功能對應的目標大語言模型的接口,將所述提示詞輸入所述目標大語言模型,獲得所述目標大語言模型的輸出結果的步驟。
16、本發(fā)明的一個實施例中,各個功能對應的模型配置參數(shù)和/或提示詞模板存儲于同一文件中。
17、在本發(fā)明實施例的第二方面,首先提供了一種基于大語言模型的數(shù)據(jù)處理裝置,針對每一功能,配置有針對該功能的以下軟件單元:輸入?yún)?shù)傳入單元、提示詞生成單元、大語言模型接口調用單元,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,所述裝置包括:
18、參數(shù)獲取模塊,用于調用所述目標功能對應的目標輸入?yún)?shù)傳入單元,獲取輸入?yún)?shù);
19、提示詞生成模塊,用于調用所述目標功能對應的目標提示詞生成單元,將所述輸入?yún)?shù)與目標提示詞模板結合,生成提示詞,其中,所述目標提示詞模板為:預配置的所述目標功能對應的提示詞模板;
20、結果獲得模塊,用于調用所述目標功能對應的目標大語言模型調用單元,調用所述目標功能對應的目標大語言模型的接口,將所述提示詞輸入所述目標大語言模型,獲得所述目標大語言模型的輸出結果。
21、本發(fā)明的一個實施例中,針對每一功能,還配置有傳入?yún)?shù)預處理單元,所述裝置還包括:
22、格式調整模塊,用于調用所述目標功能對應的傳入?yún)?shù)預處理器單元,將所述輸入?yún)?shù)的格式調整為與目標提示詞模板相匹配的格式。
23、本發(fā)明的一個實施例中,針對每一功能,還配置有大語言模型生產結果校驗單元,所述裝置還包括:
24、結果檢測模塊,用于調用所述目標功能對應的目標大語言模型生產結果校驗單元,檢測所述輸出結果是否符合目標格式,生成檢測結果,其中,所述目標格式為:預配置的所述目標功能的輸出結果應當符合的格式。
25、本發(fā)明的一個實施例中,針對每一功能,還配置有大語言模型生成結果后處理單元,所述裝置還包括:
26、內容提取模塊,用于調用所述目標功能對應的目標大語言模型生成結果后處理單元,對所述輸出結果進行分析,提取所述輸出結果中的重點內容,其中,所述重點內容為與所述目標功能的關聯(lián)程度最高的內容。
27、本發(fā)明的一個實施例中,針對每一功能,還配置有返回兜底結果單元,所述裝置還包括:
28、預設結果輸出模塊,用于若所述目標大語言模型未成功輸出結果,則調用所述目標功能對應的目標兜底結果單元輸出預設所述目標功能對應的目標結果,作為輸出結果。
29、本發(fā)明的一個實施例中,在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,所述裝置還包括:
30、若所述目標大語言模型未成功輸出結果,則重新觸發(fā)執(zhí)行所述結果獲得模塊。
31、本發(fā)明的一個實施例中,各個功能對應的模型配置參數(shù)和/或提示詞模板存儲于同一文件中。
32、在本發(fā)明實施例的第三方面,提供了一種電子設備,包括處理器、通信接口、存儲器和通信總線,其中,處理器,通信接口,存儲器通過通信總線完成相互間的通信;
33、存儲器,用于存放計算機程序;
34、處理器,用于執(zhí)行存儲器上所存放的程序時,實現(xiàn)第一方面任一所述的方法步驟。
35、在本發(fā)明實施例的第四方面,提供一種計算機可讀存儲介質,所述計算機可讀存儲介質內存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)第一方面任一所述的方法步驟。
36、在本發(fā)明實施例的又一方面,還提供了一種包含指令的計算機程序產品,當其在計算機上運行時,使得計算機執(zhí)行上述第一方面任一所述的方法步驟。
37、本發(fā)明實施例提供的一種基于大語言模型的數(shù)據(jù)處理方法,針對每一功能,本發(fā)明實施例中配置有針對該功能的以下軟件單元:輸入?yún)?shù)傳入單元、提示詞生成單元、大語言模型接口調用單元,也就是不同功能的程序獨立設置。在實現(xiàn)針對目標功能的數(shù)據(jù)處理的過程中,調用目標功能對應的目標輸入?yún)?shù)傳入單元、目標提示詞生成單元、目標大語言模型調用單元實現(xiàn)基于大語言模型的數(shù)據(jù)處理過程。由于不同功能的軟件單元分別獨立設置,且同一功能對應的不同數(shù)據(jù)處理步驟對應的軟件單元也分別獨立設置。因此,軟件單元彼此之間互相獨立,每個軟件單元包含的代碼量降低,互相之間的關聯(lián)程度較低。所以若需要對程序邏輯結構進行改動,檢索到需要迭代修復的程序的難度較低,且可以僅對獨立的軟件單元進行修改,維護成本較低。