技術(shù)特征：

1.一種提示壓縮方法，其特征在于，包括下述步驟：

2.根據(jù)權(quán)利要求1所述的提示壓縮方法，其特征在于，所述將所述第一預測序列輸入至所述蒸餾語言模型進行預測操作，得到輸出數(shù)據(jù)的步驟，具體包括下述步驟：

3.根據(jù)權(quán)利要求2所述的提示壓縮方法，其特征在于，在所述將所述第一預測序列輸入至所述蒸餾語言模型進行預測操作，得到輸出數(shù)據(jù)的步驟之后，還包括下述步驟：

4.根據(jù)權(quán)利要求3所述的提示壓縮方法，其特征在于，所述自注意力機制的計算公式表示為：

5.根據(jù)權(quán)利要求1所述的提示壓縮方法，其特征在于，在所述獲取蒸餾語言模型以及與所述蒸餾語言模型相對應的詞匯表以及嵌入矩陣的步驟之前，還包括下述步驟：

6.根據(jù)權(quán)利要求5所述的提示壓縮方法，其特征在于，所述上下文蒸餾目標函數(shù)lg(pg,t)表示為：

7.一種提示壓縮裝置，其特征在于，包括：

8.根據(jù)權(quán)利要求7所述的提示壓縮裝置，其特征在于，所述預測模塊包括：

9.一種計算機設(shè)備，包括存儲器和處理器，其特征在于，所述存儲器中存儲有計算機可讀指令，所述處理器執(zhí)行所述計算機可讀指令時實現(xiàn)如權(quán)利要求1至6中任一項所述的提示壓縮方法的步驟。

10.一種計算機可讀存儲介質(zhì)，其特征在于，所述計算機可讀存儲介質(zhì)上存儲有計算機可讀指令，所述計算機可讀指令被處理器執(zhí)行時實現(xiàn)如權(quán)利要求1至6中任一項所述的提示壓縮方法的步驟。

技術(shù)總結(jié)
本申請屬于人工智能技術(shù)領(lǐng)域，涉及一種提示壓縮方法、裝置、計算機設(shè)備及存儲介質(zhì)，該方法包括：獲取蒸餾語言模型以及與蒸餾語言模型相對應的詞匯表以及嵌入矩陣，其中，蒸餾語言模型的注意力掩碼為presting掩碼；分別在詞匯表以及嵌入矩陣中添加要點標記，得到標記詞匯表以及標記嵌入矩陣；獲取第一任務序列，在第一任務序列的任務文本以及輸入文本中間插入k個連續(xù)的要點標記，得到第一預測序列；將第一預測序列輸入至蒸餾語言模型進行預測操作，得到輸出數(shù)據(jù)，其中，輸出數(shù)據(jù)由要點標記組以及輸入文本組成；在詞匯表中獲取與輸出數(shù)據(jù)相對應的詞匯，得到目標預測文本。本申請有效減少計算和存儲成本，提高輸入上下文窗口中可用空間，提高輸出質(zhì)量。

技術(shù)研發(fā)人員：凌天東,王健宗,程寧
受保護的技術(shù)使用者：平安科技（深圳）有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2