本申請(qǐng)實(shí)施例涉及計(jì)算機(jī)，具體涉及信息生成方法和電子設(shè)備。

背景技術(shù)：

1、隨著人工智能技術(shù)的快速發(fā)展，自然語言處理技術(shù)取得了顯著的進(jìn)展。目前，自然語言處理技術(shù)已廣泛應(yīng)用于文生文、文生圖、文生視頻等多種場(chǎng)景中。

2、現(xiàn)有技術(shù)中，在所述文生文、文生圖、文生視頻等場(chǎng)景中，若輸入的文本信息中存在違規(guī)內(nèi)容且該違規(guī)內(nèi)容的語序被打亂，在生成藝術(shù)字、藏頭詩等類型的內(nèi)容時(shí)，被打亂語序的違規(guī)內(nèi)容可能通過特定排版以正確語序顯示，造成違規(guī)內(nèi)容被顯示，存在安全隱患。

技術(shù)實(shí)現(xiàn)思路

1、本申請(qǐng)實(shí)施例的目的是提供一種信息生成方法和電子設(shè)備，能夠提高信息生成的安全性。

2、第一方面，本申請(qǐng)實(shí)施例提供了一種信息生成方法，該方法包括：接收用戶的第一輸入，所述第一輸入中包括第一信息，所述第一信息中包括參考文本和輸出要求；在所述參考文本為混亂語句且所述輸出要求指示生成目標(biāo)類型的內(nèi)容的情況下，響應(yīng)于所述第一輸入，對(duì)所述參考文本進(jìn)行安全檢測(cè)，得到檢測(cè)結(jié)果；在所述檢測(cè)結(jié)果指示所述參考文本檢測(cè)通過的情況下，基于所述第一信息生成符合所述目標(biāo)類型的第二信息。

3、第二方面，本申請(qǐng)實(shí)施例提供了一種信息生成裝置，該裝置包括：接收單元，用于接收單元，用于接收用戶的第一輸入，所述第一輸入中包括第一信息，所述第一信息中包括參考文本和輸出要求；檢測(cè)單元，用于在所述參考文本為混亂語句且所述輸出要求指示生成目標(biāo)類型的內(nèi)容的情況下，響應(yīng)于所述第一輸入，對(duì)所述參考文本進(jìn)行安全檢測(cè)，得到檢測(cè)結(jié)果；生成單元，用于在所述檢測(cè)結(jié)果指示所述參考文本檢測(cè)通過的情況下，基于所述第一信息生成符合所述目標(biāo)類型的第二信息。

4、第三方面，本申請(qǐng)實(shí)施例提供了一種電子設(shè)備，該電子設(shè)備包括處理器和存儲(chǔ)器，所述存儲(chǔ)器存儲(chǔ)可在所述處理器上運(yùn)行的程序或指令，所述程序或指令被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)如第一方面所述的方法的步驟。

5、第四方面，本申請(qǐng)實(shí)施例提供了一種可讀存儲(chǔ)介質(zhì)，可讀存儲(chǔ)介質(zhì)上存儲(chǔ)計(jì)算機(jī)程序，計(jì)算機(jī)程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上述第一方面所描述的方法的步驟。

6、第五方面，本申請(qǐng)實(shí)施例提供了一種芯片，所述芯片包括處理器和通信接口，所述通信接口和所述處理器耦合，所述處理器用于運(yùn)行程序或指令，實(shí)現(xiàn)如第一方面所描述的方法。

7、第六方面，本申請(qǐng)實(shí)施例提供一種計(jì)算機(jī)程序產(chǎn)品，該程序產(chǎn)品被存儲(chǔ)在存儲(chǔ)介質(zhì)中，該程序產(chǎn)品被至少一個(gè)處理器執(zhí)行以實(shí)現(xiàn)如第一方面所述的方法。

8、在本申請(qǐng)實(shí)施例中，首先接收用戶的第一輸入，第一輸入中包括第一信息，第一信息中包括參考文本和輸出要求；在參考文本為混亂語句且輸出要求指示生成目標(biāo)類型的內(nèi)容的情況下，響應(yīng)于第一輸入，對(duì)參考文本進(jìn)行安全檢測(cè)，得到檢測(cè)結(jié)果；在檢測(cè)結(jié)果指示參考文本檢測(cè)通過的情況下，基于第一信息生成符合目標(biāo)類型的第二信息。由于在基于第一信息生成第二信息之前，對(duì)第一信息進(jìn)行了混亂語句的檢測(cè)以及輸出要求的檢測(cè)，因此能夠在第一信息中的參考文本為混亂語句且輸出要求指示生成目標(biāo)類型的內(nèi)容的情況下，對(duì)混亂語句進(jìn)行安全檢測(cè)，在安全檢測(cè)通過的情況下基于第一信息進(jìn)行第二信息的生成，杜絕了用戶通過排版格式構(gòu)造特定的混亂語序?qū)е逻`規(guī)內(nèi)容被生成和顯示的情況，提高了信息生成的安全性。

技術(shù)特征：

1.一種信息生成方法，其特征在于，所述方法包括：

2.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述對(duì)所述參考文本進(jìn)行安全檢測(cè)，得到檢測(cè)結(jié)果，包括：

3.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述檢測(cè)所述參考文本的情感類型，得到第二檢測(cè)結(jié)果，包括：

4.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述對(duì)所述參考文本進(jìn)行敏感主體檢測(cè)，得到第三檢測(cè)結(jié)果，包括：

5.根據(jù)權(quán)利要求2所述的方法，其特征在于，所述基于所述第一檢測(cè)結(jié)果、所述第二檢測(cè)結(jié)果和所述第三檢測(cè)結(jié)果，確定所述安全檢測(cè)的檢測(cè)結(jié)果，包括：

6.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述第一信息為待輸入至大語言模型中的信息，所述輸出要求指示所述大語言模型生成目標(biāo)類型的信息；

7.根據(jù)權(quán)利要求1所述的方法，其特征在于，所述方法還包括：

8.一種信息生成裝置，其特征在于，所述裝置包括：

9.一種電子設(shè)備，其特征在于，包括處理器和存儲(chǔ)器，所述存儲(chǔ)器存儲(chǔ)可在所述處理器上運(yùn)行的程序或指令，所述程序或指令被所述處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的信息生成方法的步驟。

10.一種可讀存儲(chǔ)介質(zhì)，其特征在于，所述可讀存儲(chǔ)介質(zhì)上存儲(chǔ)程序或指令，所述程序或指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-7中任一項(xiàng)所述的信息生成方法的步驟。

技術(shù)總結(jié)
本申請(qǐng)公開了信息生成方法和電子設(shè)備。屬于計(jì)算機(jī)技術(shù)領(lǐng)域。該方法的實(shí)施例包括：接收用戶的第一輸入，第一輸入中包括第一信息，第一信息中包括參考文本和輸出要求；在參考文本為混亂語句且輸出要求指示生成目標(biāo)類型的內(nèi)容的情況下，響應(yīng)于第一輸入，對(duì)參考文本進(jìn)行安全檢測(cè)，得到檢測(cè)結(jié)果；在檢測(cè)結(jié)果指示參考文本檢測(cè)通過的情況下，基于第一信息生成符合目標(biāo)類型的第二信息。

技術(shù)研發(fā)人員：陳嘉樂,楊廣澤,成明江
受保護(hù)的技術(shù)使用者：維沃移動(dòng)通信有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2025/1/2