本申請涉及人工智能，尤其涉及一種模型推理方法、終端設(shè)備、存儲介質(zhì)及計算機程序產(chǎn)品。

背景技術(shù)：

1、隨著人工智能技術(shù)的飛速發(fā)展，預(yù)訓練語言模型(pre-trained?languagemodels，簡稱plms)在自然語言處理領(lǐng)域取得了顯著成果。由于預(yù)訓練語言模型普遍存在體積龐大、計算資源需求高的特點，因此許多服務(wù)提供商通常將預(yù)訓練語言模型作為推理服務(wù)部署在云端，供用戶進行查詢。

2、然而，這種服務(wù)模式存在嚴重的隱私問題。當前，針對用戶查詢中的敏感信息(個人身份信息、地址、電話號碼等)，通?？梢圆捎镁渥蛹墑e或者詞級別的私有嵌入，通過對句子嵌入或者詞嵌入進行噪聲處理來實現(xiàn)局部差分隱私，然而獨立進行的詞級別擾動可能導致生成的文本部分不一致和語義不連貫，難以執(zhí)行推理任務(wù)。因此，如何在順利執(zhí)行推理任務(wù)的同時，實現(xiàn)模型推理過程中對用戶隱私的保護是目前亟待解決的一個問題。

3、上述內(nèi)容僅用于輔助理解本申請的技術(shù)方案，并不代表承認上述內(nèi)容是現(xiàn)有技術(shù)。

技術(shù)實現(xiàn)思路

1、本申請的主要目的在于提供一種模型推理方法、終端設(shè)備、存儲介質(zhì)及計算機程序產(chǎn)品，旨在解決在順利執(zhí)行推理任務(wù)的同時，實現(xiàn)模型推理過程中對用戶隱私的保護的技術(shù)問題。

2、為實現(xiàn)上述目的，本申請?zhí)岢鲆环N模型推理方法，所述模型推理方法包括：

3、獲取用戶的原始請求文本；

4、對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)；

5、將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果；

6、基于各所述推理子結(jié)果，生成所述原始請求文本的推理響應(yīng)結(jié)果。

7、在一實施例中，所述對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)的步驟，包括：

8、對所述原始請求文本進行語義分析，識別出所述原始請求文本中各關(guān)鍵詞之間的語義關(guān)系；

9、根據(jù)所述語義關(guān)系，確定對應(yīng)的分割規(guī)則；

10、按照所述分割規(guī)則，對所述原始請求文本進行分割，得到各子提示文本，并基于各所述子提示文本生成各推理子任務(wù)。

11、在一實施例中，所述對所述原始請求文本進行語義分析，識別出所述原始請求文本中各關(guān)鍵詞之間的語義關(guān)系的步驟，包括：

12、對所述原始請求文本進行關(guān)鍵詞提取，得到所述原始請求文本中各關(guān)鍵詞；

13、對所述各關(guān)鍵詞進行聚類，得到各文本聚類簇；

14、對所述文本聚類簇中的關(guān)鍵詞進行語義分析，識別出所述文本聚類簇中各關(guān)鍵詞的簇內(nèi)語義關(guān)系；

15、將各所述文本聚類簇的簇內(nèi)語義關(guān)系作為所述原始請求文本中各關(guān)鍵詞之間的語義關(guān)系。

16、在一實施例中，在所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟之前，包括：

17、對所述推理子任務(wù)進行敏感信息識別，得到所述推理子任務(wù)中的敏感詞；

18、消除所述敏感詞的敏感屬性，得到脫敏后的推理子任務(wù)。

19、在一實施例中，所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟，包括：

20、獲取干擾子任務(wù)，其中所述干擾子任務(wù)為與所述原始請求文本之間的相似度低于預(yù)定相似閾值的推理任務(wù)；

21、將所述干擾子任務(wù)和各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各任務(wù)推理結(jié)果；

22、從各所述任務(wù)推理結(jié)果中篩選出各推理子任務(wù)的推理子結(jié)果。

23、在一實施例中，所述預(yù)定推理模型包括至少兩個推理服務(wù)模型，所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟，還包括：

24、將各推理子任務(wù)進行隨機排序，得到推理任務(wù)序列；

25、按照所述推理任務(wù)序列，將各所述推理子任務(wù)依次輸入至少兩個推理服務(wù)模型，得到各推理子任務(wù)的推理子結(jié)果。

26、在一實施例中，所述基于各所述推理子結(jié)果，生成所述原始請求文本的推理響應(yīng)結(jié)果的步驟，包括：

27、將各所述推理子結(jié)果與所述原始請求文本進行對齊，得到所述原始請求文本中與各所述推理子結(jié)果對應(yīng)的目標關(guān)鍵詞；

28、根據(jù)各所述目標關(guān)鍵詞之間的邏輯關(guān)系，構(gòu)建邏輯結(jié)構(gòu)框架；

29、將各所述推理子結(jié)果按照所述邏輯結(jié)構(gòu)框架進行融合，得到所述原始請求文本的推理響應(yīng)結(jié)果。

30、此外，為實現(xiàn)上述目的，本申請還提出一種終端設(shè)備，所述終端設(shè)備包括：存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序，所述計算機程序配置為實現(xiàn)如上文所述的模型推理方法的步驟。

31、此外，為實現(xiàn)上述目的，本申請還提出一種存儲介質(zhì)，所述存儲介質(zhì)為計算機可讀存儲介質(zhì)，所述存儲介質(zhì)上存儲有計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)如上文所述的模型推理方法的步驟。

32、此外，為實現(xiàn)上述目的，本申請還提供一種計算機程序產(chǎn)品，所述計算機程序產(chǎn)品包括計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)如上文所述的模型推理方法的步驟。

33、本申請?zhí)岢龅囊粋€或多個技術(shù)方案，至少具有以下技術(shù)效果：

34、本申請通過獲取用戶的原始請求文本，并對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)。由此本申請在語義層面上對所述原始請求文本進行分割，從而將完整的原始請求文本分割成多個獨立的推理子任務(wù)，在確保了各獨立的推理子任務(wù)的完整性，以及各推理子任務(wù)與原始請求文本保持邏輯一致性的基礎(chǔ)上，減少單個任務(wù)的信息暴露量。進而再將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到所述預(yù)定推理模型對于各推理子任務(wù)生成的推理子結(jié)果，由于各推理子任務(wù)的上下文信息之間存在差異，因此服務(wù)提供商或攻擊者也難以通過各推理子任務(wù)之間的關(guān)聯(lián)性來推測用戶真實的詢問意圖的可能性。然后再基于各所述推理子結(jié)果進行推理結(jié)果的整合，得到所述原始請求文本對應(yīng)的推理響應(yīng)結(jié)果。本申請通過對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)，由于每個推理子任務(wù)只包含所述原始請求文本的部分信息，減少了單個推理子任務(wù)暴露的信息量，并且由于分割后的每個推理子任務(wù)之間的上下文信息缺乏相互關(guān)聯(lián)，因此即使服務(wù)提供商或攻擊者獲得了所有推理子任務(wù)的內(nèi)容，也難以重構(gòu)出用戶的完整的真實詢問意圖。由于本申請分割后得到的均為獨立完整的推理子任務(wù)，因此本申請也規(guī)避現(xiàn)有采用句子嵌入或者詞嵌入實現(xiàn)局部差分隱私方式，可能導致難以執(zhí)行推理任務(wù)的問題，即本申請可以在順利執(zhí)行推理任務(wù)的同時，實現(xiàn)模型推理過程中對用戶隱私的保護。

技術(shù)特征：

1.一種模型推理方法，其特征在于，所述模型推理方法包括：

2.如權(quán)利要求1所述的模型推理方法，其特征在于，所述對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)的步驟，包括：

3.如權(quán)利要求2所述的模型推理方法，其特征在于，所述對所述原始請求文本進行語義分析，識別出所述原始請求文本中各關(guān)鍵詞之間的語義關(guān)系的步驟，包括：

4.如權(quán)利要求1所述的模型推理方法，其特征在于，在所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟之前，包括：

5.如權(quán)利要求1所述的模型推理方法，其特征在于，所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟，包括：

6.如權(quán)利要求1所述的模型推理方法，其特征在于，所述預(yù)定推理模型包括至少兩個推理服務(wù)模型，所述將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果的步驟，還包括：

7.如權(quán)利要求1至6中任一項所述的模型推理方法，其特征在于，所述基于各所述推理子結(jié)果，生成所述原始請求文本的推理響應(yīng)結(jié)果的步驟，包括：

8.一種終端設(shè)備，其特征在于，所述終端設(shè)備包括：存儲器、處理器及存儲在所述存儲器上并可在所述處理器上運行的計算機程序，所述計算機程序配置為實現(xiàn)如權(quán)利要求1至7中任一項所述的模型推理方法的步驟。

9.一種存儲介質(zhì)，其特征在于，所述存儲介質(zhì)為計算機可讀存儲介質(zhì)，所述存儲介質(zhì)上存儲有計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7中任一項所述的模型推理方法的步驟。

10.一種計算機程序產(chǎn)品，其特征在于，所述計算機程序產(chǎn)品包括計算機程序，所述計算機程序被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至7中任一項所述的模型推理方法的步驟。

技術(shù)總結(jié)
本申請公開了一種模型推理方法、終端設(shè)備、存儲介質(zhì)及計算機程序產(chǎn)品，涉及人工智能技術(shù)領(lǐng)域，所述模型推理方法包括：獲取用戶的原始請求文本；對所述原始請求文本進行語義分割處理，生成各推理子任務(wù)；將各推理子任務(wù)發(fā)送至預(yù)定推理模型，得到各推理子任務(wù)的推理子結(jié)果；基于各所述推理子結(jié)果，生成所述原始請求文本的推理響應(yīng)結(jié)果。本申請在順利執(zhí)行推理任務(wù)的同時，實現(xiàn)了模型推理過程中對用戶隱私的保護。

技術(shù)研發(fā)人員：古瀚林,范力欣,楊強
受保護的技術(shù)使用者：深圳前海微眾銀行股份有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2