本發(fā)明涉及自然語言處理，尤其涉及一種基于知識庫與語言模型的問答方法及裝置。

背景技術(shù)：

1、隨著互聯(lián)網(wǎng)和智能技術(shù)的發(fā)展，用戶對智能問答機器的要求正在不斷提高。問答是一項具有挑戰(zhàn)性的問答技術(shù)領(lǐng)域，旨在讓智能體像普通人類一樣正確預(yù)測物理世界中的直觀現(xiàn)象和人類心理的預(yù)期變化。為了解決相關(guān)問題，往往需要增加未直接說明的背景知識。因此，在問題系統(tǒng)處理的過程中，相較于直接讓問答模型預(yù)測答案，添加有用的知識依據(jù)信息(相關(guān)知識或推理細(xì)節(jié))能夠帶來更好的答案預(yù)測表現(xiàn)和結(jié)果的可解釋性。

2、然而，為問題獲得高質(zhì)量的知識依據(jù)信息并不容易。在已有的技術(shù)實踐中，往往從知識庫中檢索知識作為知識依據(jù)信息，但是這種方式往往受到現(xiàn)有知識庫的覆蓋度和檢索可用性的限制，難以得到問題需要的相關(guān)知識依據(jù)信息，進而導(dǎo)致問答準(zhǔn)確性差。

技術(shù)實現(xiàn)思路

1、本發(fā)明提供一種基于知識庫與語言模型的問答方法及裝置，用以解決現(xiàn)有技術(shù)中難以得到問題需要的相關(guān)知識依據(jù)信息，導(dǎo)致問答準(zhǔn)確性差的缺陷，實現(xiàn)生成高質(zhì)量的問答知識依據(jù)信息，以提升問答精準(zhǔn)性。

2、本發(fā)明提供一種基于知識庫與語言模型的問答方法，包括：

3、將目標(biāo)問題輸入至知識生成模型中，得到所述目標(biāo)問題的至少一維目標(biāo)知識信息；

4、根據(jù)所述目標(biāo)問題和各維所述目標(biāo)知識信息，獲取目標(biāo)輸入信息；

5、將所述目標(biāo)輸入信息輸入至問答模型中，得到所述目標(biāo)問題對應(yīng)的答案預(yù)測信息；

6、其中，所述知識生成模型是基于樣本問題的第一候選問題、第二候選問題、第一樣本知識信息和第二樣本知識信息，對小型語言模型進行訓(xùn)練得到的；所述問答模型是基于所述第一候選問題、所述第二候選問題、所述第一樣本知識信息和所述第二樣本知識信息，以及所述樣本問題的答案標(biāo)簽進行訓(xùn)練得到的；

7、所述第一候選問題是根據(jù)知識庫中的第一知識元組生成的；所述第二候選問題是根據(jù)所述第一候選問題以及所述知識庫中的第二知識元組生成的；所述第一樣本知識信息是根據(jù)所述第一知識元組轉(zhuǎn)換得到的；所述第二樣本知識信息是通過大型語言模型對所述第二候選問題進行提示信息學(xué)習(xí)得到的；所述第一知識元組包括與所述樣本問題關(guān)聯(lián)的知識元組；所述第二知識元組包括與所述第一知識元組具有相同關(guān)系實體、不同的問題實體和不同的答案實體的知識元組。

8、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述第一候選問題是基于如下步驟獲取的：

9、從所述知識庫中提取所述第一知識元組；

10、根據(jù)所述第一知識元組中關(guān)系實體的關(guān)系類型，確定目標(biāo)言語化模板；

11、根據(jù)所述目標(biāo)言語化模板，將所述第一知識元組中的問題實體和關(guān)系實體轉(zhuǎn)換為所述第一候選問題。

12、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述第二候選問題是基于如下步驟獲取的：

13、從所述知識庫中，提取至少一個所述第二知識元組；

14、根據(jù)所述第一候選問題、所述第一知識元組中的答案實體，以及各所述第二知識元組中的答案實體，合成所述第二候選問題。

15、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述第二樣本知識信息是基于如下步驟獲取的：

16、將所述第二候選問題輸入至所述大型語言模型，得到各所述第二候選問題對應(yīng)的多維候選知識信息，以及各維所述候選知識信息對應(yīng)的答案預(yù)測信息；

17、根據(jù)各維所述候選知識信息對應(yīng)的答案預(yù)測信息和所述樣本問題的答案標(biāo)簽，進行一致性計算，得到各維所述候選知識信息對應(yīng)的一致性分值；

18、預(yù)測在所述第二候選問題的基礎(chǔ)上，增加各維所述候選知識信息前后的答案預(yù)測信息的樣本變化信息；

19、根據(jù)所述樣本變化信息，獲取各維所述候選知識信息對應(yīng)的有益性分值；

20、根據(jù)所述一致性分值和所述有益性分值，在多維所述候選知識信息中獲取所述第二樣本知識信息。

21、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述知識生成模型的訓(xùn)練步驟包括：

22、基于所述第一候選問題和所述第一樣本知識信息，對所述小型語言模型進行預(yù)訓(xùn)練，得到預(yù)訓(xùn)練知識模型；

23、基于所述第二候選問題和所述第二樣本知識信息，對所述預(yù)訓(xùn)練知識模型進行訓(xùn)練，得到所述知識生成模型。

24、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述方法還包括：

25、將所述目標(biāo)輸入信息輸入至所述問答模型中，預(yù)測得到在所述目標(biāo)問題的基礎(chǔ)上，增加各維所述目標(biāo)知識信息前后的答案預(yù)測信息的目標(biāo)變化信息；

26、根據(jù)所述目標(biāo)變化信息，獲取各維所述目標(biāo)知識信息對應(yīng)的有益性分值；

27、以各維所述目標(biāo)知識信息對應(yīng)的有益性分值為獎勵值，以所述知識生成模型為策略網(wǎng)絡(luò)，對所述知識生成模型進行強化學(xué)習(xí)更新。

28、根據(jù)本發(fā)明提供的一種基于知識庫與語言模型的問答方法，所述根據(jù)所述目標(biāo)問題和各維所述目標(biāo)知識信息，獲取目標(biāo)輸入信息，包括：

29、生成所述目標(biāo)問題對應(yīng)的空白知識信息；

30、根據(jù)所述空白知識信息和至少一維所述目標(biāo)知識信息，生成知識集合；

31、將目標(biāo)問題，與所述知識集合中的各知識信息進行拼接，得到所述目標(biāo)輸入信息。

32、本發(fā)明還提供一種基于知識庫與語言模型的問答裝置，包括：

33、知識生成單元，用于將目標(biāo)問題輸入至知識生成模型中，得到所述目標(biāo)問題的至少一維目標(biāo)知識信息；

34、信息獲取單元，用于根據(jù)所述目標(biāo)問題和各維所述目標(biāo)知識信息，獲取目標(biāo)輸入信息；

35、答案預(yù)測單元，用于將所述目標(biāo)輸入信息輸入至問答模型中，得到所述目標(biāo)問題對應(yīng)的答案預(yù)測信息；

36、其中，所述知識生成模型是基于樣本問題的第一候選問題、第二候選問題、第一樣本知識信息和第二樣本知識信息，對小型語言模型進行訓(xùn)練得到的；所述問答模型是基于所述第一候選問題、所述第二候選問題、所述第一樣本知識信息和所述第二樣本知識信息，以及所述樣本問題的答案標(biāo)簽進行訓(xùn)練得到的；

37、所述第一候選問題是根據(jù)知識庫中的第一知識元組生成的；所述第二候選問題是根據(jù)所述第一候選問題以及所述知識庫中的第二知識元組生成的；所述第一樣本知識信息是根據(jù)所述第一知識元組轉(zhuǎn)換得到的；所述第二樣本知識信息是通過大型語言模型對所述第二候選問題進行提示信息學(xué)習(xí)得到的；所述第一知識元組包括與所述樣本問題關(guān)聯(lián)的知識元組；所述第二知識元組包括與所述第一知識元組具有相同關(guān)系實體、不同的問題實體和不同的答案實體的知識元組。

38、本發(fā)明還提供一種電子設(shè)備，包括存儲器、處理器及存儲在存儲器上并可在處理器上運行的計算機程序，所述處理器執(zhí)行所述程序時實現(xiàn)如上述任一種所述基于知識庫與語言模型的問答方法。

39、本發(fā)明還提供一種非暫態(tài)計算機可讀存儲介質(zhì)，其上存儲有計算機程序，該計算機程序被處理器執(zhí)行時實現(xiàn)如上述任一種所述基于知識庫與語言模型的問答方法。

40、本發(fā)明還提供一種計算機程序產(chǎn)品，包括計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)如上述任一種所述基于知識庫與語言模型的問答方法。

41、本發(fā)明提供的基于知識庫與語言模型的問答方法及裝置，通過知識庫中的知識元組自動合成常識問答數(shù)據(jù)，并通過利用大型語言模型的提示學(xué)習(xí)補充多樣的知識信息，以合成樣本問題的第一候選問題、第二候選問題、第一樣本知識信息和第二樣本知識信息，并基于第一候選問題、第二候選問題、第一樣本知識信息和第二樣本知識信息融合訓(xùn)練出能夠生成高質(zhì)量知識信息，且容易部署與調(diào)整的小尺寸的知識生成模型，并將知識生成模型和問答模型進行聯(lián)合部署，針對所需進行常識問答的目標(biāo)問題，依據(jù)知識生成模型學(xué)習(xí)生成高質(zhì)量的多維度的知識信息，為問答模型提供高質(zhì)量且高解釋性的知識依據(jù)信息，由此使得問答模型可便捷、高效地預(yù)測出有效、可信、高精度的答案。