本說明書涉及計算機領域,尤其涉及一種回復信息生成方法、裝置、存儲介質及電子設備。
背景技術:
1、通過人工智能技術得到的大語言模型可根據(jù)用戶提出的各類問題確定回復信息,并展示給用戶,其中,用戶提出的問題中可能包括私有信息。
2、目前的大語言模型確定出的回復信息的準確性較低,還存在過自信的問題,且大語言模型自身還存在魯棒性較差的問題。
3、基于此,本說明書提供一種回復信息生成方法。
技術實現(xiàn)思路
1、本說明書提供一種回復信息生成方法、裝置、存儲介質及電子設備,以至少部分的解決現(xiàn)有技術存在的上述問題。
2、本說明書采用下述技術方案:
3、本說明書提供一種回復信息生成方法,包括:
4、獲取用戶輸入的待回復問題;
5、將所述待回復問題輸入大語言模型,得到所述大語言模型輸出的當前回復信息;并獲取所述大語言模型基于所述待回復信息輸出的若干歷史回復信息;
6、在若干歷史回復信息中確定待對比回復信息;
7、根據(jù)所述當前回復信息與所述待對比回復信息,確定當前回復差異結果;并將所述當前回復信息確定為歷史回復信息;
8、將所述當前回復差異結果及所述待回復問題輸入所述大語言模型,重新確定當前回復信息,直至滿足預設停止迭代條件;
9、獲取停止迭代時的當前回復信息,并展示。
10、可選地,將所述待回復問題輸入大語言模型,得到所述大語言模型輸出的當前回復信息,具體包括:
11、獲取預設第一提示信息;
12、基于所述預設第一提示信息及所述待回復問題,進行重采樣,得到第一重采樣結果;
13、將所述第一重采樣結果輸入大語言模型,得到所述大語言模型輸出的當前回復信息。
14、可選地,根據(jù)所述當前回復信息與所述待對比回復信息,確定當前回復差異結果之前,所述方法還包括:
15、對所述當前回復信息進行重采樣,得到重采樣后的當前回復信息。
16、可選地,根據(jù)所述當前回復信息與所述待對比回復信息,確定當前回復差異結果,具體包括:
17、獲取若干歷史回復差異結果,得到歷史差異集合;
18、基于所述歷史差異集合,確定第二提示信息;
19、根據(jù)所述第二提示信息,將所述當前回復信息與所述待對比回復信息進行對比,確定當前回復差異結果。
20、可選地,根據(jù)所述第二提示信息,將所述當前回復信息與所述待對比回復信息進行對比,確定當前回復差異結果,具體包括:
21、根據(jù)所述第二提示信息,將所述當前回復信息與所述待對比回復信息進行對比,確定反饋結果;
22、根據(jù)所述反饋結果及所述歷史差異集合,確定當前回復差異結果。
23、可選地,將所述當前回復差異結果及所述待回復問題輸入所述大語言模型,重新確定當前回復信息,具體包括:
24、根據(jù)所述當前回復差異結果,確定第三提示信息;
25、基于所述第三提示信息及所述待回復問題,進行重采樣,得到第二重采樣結果;
26、將所述第二重采樣結果及所述當前回復差異結果輸入所述大語言模型,重新確定當前回復信息。
27、可選地,重新確定當前回復信息,具體包括:
28、當所述當前回復信息與所述待對比回復無差異時,基于所述預設第一提示信息及所述待回復問題,進行重采樣,得到第一重采樣結果;
29、將所述第一重采樣結果輸入大語言模型,重新確定當前回復信息。
30、可選地,所述方法還包括:
31、獲取迭代過程中生成的所有回復信息,得到回復信息集合,所述回復信息集合包括歷史回復信息、當前回復信息、待對比回復信息;
32、確定所述回復信息集合的回復分布結果;
33、根據(jù)所述回復分布結果,確定停止迭代時的當前回復信息的置信度,并展示。
34、本說明書提供了一種回復信息生成裝置,所述裝置包括:
35、獲取模塊,用于獲取用戶輸入的待回復問題;
36、回復信息確定模塊,用于將所述待回復問題輸入大語言模型,得到所述大語言模型輸出的當前回復信息;并獲取所述大語言模型基于所述待回復信息輸出的若干歷史回復信息;
37、對比信息確定模塊,用于在若干歷史回復信息中確定待對比回復信息;
38、差異確定模塊,用于根據(jù)所述當前回復信息與所述待對比回復信息,確定當前回復差異結果;并將所述當前回復信息確定為歷史回復信息;
39、迭代模塊,用于將所述當前回復差異結果及所述待回復問題輸入所述大語言模型,重新確定當前回復信息,直至滿足預設停止迭代條件;
40、展示模塊,用于獲取停止迭代時的當前回復信息,并展示。
41、可選地,所述回復信息確定模塊,具體用于獲取預設第一提示信息;基于所述預設第一提示信息及所述待回復問題,進行重采樣,得到第一重采樣結果;將所述第一重采樣結果輸入大語言模型,得到所述大語言模型輸出的當前回復信息。
42、可選地,所述裝置還包括:
43、重采樣模塊,用于對所述當前回復信息進行重采樣,得到重采樣后的當前回復信息。
44、可選地,所述差異確定模塊,具體用于獲取若干歷史回復差異結果,得到歷史差異集合;基于所述歷史差異集合,確定第二提示信息;根據(jù)所述第二提示信息,將所述當前回復信息與所述待對比回復信息進行對比,確定當前回復差異結果。
45、可選地,所述差異確定模塊,具體用于根據(jù)所述第二提示信息,將所述當前回復信息與所述待對比回復信息進行對比,確定反饋結果;根據(jù)所述反饋結果及所述歷史差異集合,確定當前回復差異結果。
46、可選地,所述迭代模塊,具體用于根據(jù)所述當前回復差異結果,確定第三提示信息;基于所述第三提示信息及所述待回復問題,進行重采樣,得到第二重采樣結果;將所述第二重采樣結果及所述當前回復差異結果輸入所述大語言模型,重新確定當前回復信息。
47、可選地,所述迭代模塊,具體用于當所述當前回復信息與所述待對比回復無差異時,基于所述預設第一提示信息及所述待回復問題,進行重采樣,得到第一重采樣結果;將所述第一重采樣結果輸入大語言模型,重新確定當前回復信息。
48、可選地,所述裝置還包括:
49、置信度確定模塊,用于獲取迭代過程中生成的所有回復信息,得到回復信息集合,所述回復信息集合包括歷史回復信息、當前回復信息、待對比回復信息;確定所述回復信息集合的回復分布結果;根據(jù)所述回復分布結果,確定停止迭代時的當前回復信息的置信度,并展示。
50、本說明書提供了一種計算機可讀存儲介質,所述存儲介質存儲有計算機程序,所述計算機程序被處理器執(zhí)行時實現(xiàn)上述回復信息生成方法。
51、本說明書提供了一種電子設備,包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序,所述處理器執(zhí)行所述程序時實現(xiàn)上述回復信息生成方法。
52、本說明書采用的上述至少一個技術方案能夠達到以下有益效果:
53、在本說明書提供的回復信息生成方法中,獲取用戶輸入的待回復問題,將所述待回復問題輸入大語言模型,得到所述大語言模型輸出的當前回復信息。并獲取所述大語言模型基于所述待回復信息輸出的若干歷史回復信息,在若干歷史回復信息中確定待對比回復信息。根據(jù)所述當前回復信息與所述待對比回復信息,確定當前回復差異結果,并將所述當前回復信息確定為歷史回復信息。將所述當前回復差異結果及所述待回復問題輸入所述大語言模型,重新確定當前回復信息,直至滿足預設停止迭代條件,獲取停止迭代時的當前回復信息,并展示。
54、從上述方法中可以看出,通過對比歷史回復信息與當前回復信息,確定回復的差異,并將該差異與待回復問題再次輸入大語言模型中,以提示大語言模型,關注回復差異,減少了過自信的情況,提高了大語言模型輸出的回復信息的準確率。此外,由于待對比回復信息屬于歷史回復信息,因此,作為下次迭代的輸入,也可提高大語言模型輸出的回復信息的穩(wěn)定性,避免每次迭代輸出的回復信息差異過大,提高了大語言模型的魯棒性。