本披露一般涉及人工智能。更具體地，本披露涉及一種將張量連續(xù)化的方法及相關(guān)產(chǎn)品。

背景技術(shù)：

1、神經(jīng)網(wǎng)絡(luò)模型能夠從大量的數(shù)據(jù)中自動(dòng)學(xué)習(xí)到復(fù)雜的模式和特征，從而具有強(qiáng)大的推理能力。近年來(lái)，神經(jīng)網(wǎng)絡(luò)模型的應(yīng)用以前所未有的速度廣泛普及，在以計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理為代表的各個(gè)領(lǐng)域展現(xiàn)出強(qiáng)大的影響力和應(yīng)用價(jià)值。

2、深度學(xué)習(xí)框架作為連接神經(jīng)網(wǎng)絡(luò)模型理論與實(shí)際應(yīng)用的橋梁，為開(kāi)發(fā)者提供一系列便捷的接口、模塊和工具，以便輕松地實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的搭建、訓(xùn)練、優(yōu)化以及部署。神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行涉及大量的多維數(shù)組運(yùn)算，在深度學(xué)習(xí)框架中，這些多維數(shù)組通常被建模成張量。然而，框架中存在諸如transpose、slice等view類(lèi)算子，這類(lèi)算子很容易造成張量在內(nèi)存上是不連續(xù)的。現(xiàn)有技術(shù)中，通過(guò)對(duì)張量逐個(gè)元素地搬運(yùn)內(nèi)存數(shù)據(jù)，實(shí)現(xiàn)張量的連續(xù)化，但這種連續(xù)化方法效率較低，導(dǎo)致神經(jīng)網(wǎng)絡(luò)模型運(yùn)行速度慢的問(wèn)題。

3、有鑒于此，亟需提供一種將張量連續(xù)化的方案，以便以較快的速度實(shí)現(xiàn)張量的連續(xù)化，從而提高神經(jīng)網(wǎng)絡(luò)模型運(yùn)行速度。

技術(shù)實(shí)現(xiàn)思路

1、為了至少解決在上述背景技術(shù)部分所描述的問(wèn)題，本披露提出如下的技術(shù)方案及其多個(gè)實(shí)施例。

2、在第一方面中，本披露提出了一種將張量連續(xù)化的方法，該方法包括：響應(yīng)于待處理張量具有view類(lèi)算子子圖，獲取所述view類(lèi)算子子圖的原始張量；根據(jù)所述原始張量將所述待處理張量連續(xù)化。

3、在第二方面中，本披露還公開(kāi)了一種裝置，該裝置包括：處理器，其配置用于執(zhí)行程序指令；以及存儲(chǔ)器，其配置用于存儲(chǔ)所述程序指令，當(dāng)所述程序指令由所述處理器加載并執(zhí)行時(shí)，使得所述裝置執(zhí)行根據(jù)第一方面所述的方法。

4、在第三方面中，本披露進(jìn)一步公開(kāi)了一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中存儲(chǔ)有程序指令，所述程序指令適于由處理器加載并執(zhí)行根據(jù)第一方面所述的方法。

5、在第四方面中，本披露公開(kāi)了一種芯片，該芯片包括：輸入端，其配置用于接收張量；處理器，其配置用于執(zhí)行根據(jù)第一方面所述的方法。

6、在第五方面中，本披露公開(kāi)了一種集成電路，該集成電路包括第四方面所述的芯片。

7、本披露所提出的方法、裝置、芯片、系統(tǒng)和計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，響應(yīng)于待處理張量具有view類(lèi)算子子圖，可以利用view類(lèi)算子子圖將待處理張量還原為原始張量，然后基于原始張量進(jìn)行連續(xù)化處理。更進(jìn)一步地，在一些實(shí)施例中，使用與view類(lèi)算子子圖對(duì)應(yīng)的高性能計(jì)算庫(kù)kernel算子進(jìn)行數(shù)據(jù)搬運(yùn)，從而以較快的速度實(shí)現(xiàn)對(duì)待處理張量的連續(xù)化，進(jìn)而提高神經(jīng)網(wǎng)絡(luò)模型運(yùn)行速度。

技術(shù)特征：

1.一種將張量連續(xù)化的方法，包括：

2.根據(jù)權(quán)利要求1所述的方法，根據(jù)所述原始張量將所述待處理張量連續(xù)化包括：

3.根據(jù)權(quán)利要求2所述的方法，確定用于將所述原始張量連續(xù)化的第一目標(biāo)重排類(lèi)算子包括：

4.根據(jù)權(quán)利要求1所述的方法，所述view類(lèi)算子子圖包括：

5.根據(jù)權(quán)利要求4所述的方法，獲取所述view類(lèi)算子子圖的原始張量包括：

6.根據(jù)權(quán)利要求1所述的方法，根據(jù)所述原始張量將所述待處理張量連續(xù)化包括：

7.根據(jù)權(quán)利要求1所述的方法，根據(jù)所述原始張量將所述待處理張量連續(xù)化包括：

8.根據(jù)權(quán)利要求1所述的方法，進(jìn)一步包括：

9.根據(jù)權(quán)利要求1所述的方法，進(jìn)一步包括：

10.根據(jù)權(quán)利要求9所述的方法，確定用于將所述待處理張量連續(xù)化的第二目標(biāo)重排類(lèi)算子包括：

11.根據(jù)權(quán)利要求9所述的方法，確定用于將所述待處理張量連續(xù)化的第二目標(biāo)重排類(lèi)算子包括：

12.根據(jù)權(quán)利要求11所述的方法，根據(jù)所述第一重排類(lèi)算子和所述第二重排類(lèi)算子得到所述第二目標(biāo)重排類(lèi)算子包括：

13.一種裝置，包括：

14.一種計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，其中存儲(chǔ)有程序指令，所述程序指令適于由處理器加載并執(zhí)行根據(jù)權(quán)利要求1-12的任意一項(xiàng)所述的方法。

15.一種芯片，包括：

16.一種集成電路，包括根據(jù)權(quán)利要求15所述的芯片。

技術(shù)總結(jié)
本披露公開(kāi)了一種將張量連續(xù)化的方法及相關(guān)產(chǎn)品，一般涉及人工智能技術(shù)領(lǐng)域。該方法包括，響應(yīng)于待處理張量具有view類(lèi)算子子圖，獲取所述view類(lèi)算子子圖的原始張量；以及根據(jù)所述原始張量將所述待處理張量連續(xù)化。本披露所提出的方法、裝置、芯片、系統(tǒng)和計(jì)算機(jī)可讀存儲(chǔ)介質(zhì)，響應(yīng)于待處理張量具有view類(lèi)算子子圖，可以利用view類(lèi)算子子圖將待處理張量還原為原始張量，然后基于原始張量進(jìn)行連續(xù)化處理。更進(jìn)一步地，在一些實(shí)施例中，使用與view類(lèi)算子子圖對(duì)應(yīng)的高性能計(jì)算庫(kù)kernel算子進(jìn)行數(shù)據(jù)搬運(yùn)，從而以較快的速度實(shí)現(xiàn)對(duì)待處理張量的連續(xù)化，進(jìn)而提高神經(jīng)網(wǎng)絡(luò)模型運(yùn)行速度。

技術(shù)研發(fā)人員：請(qǐng)求不公布姓名,請(qǐng)求不公布姓名,請(qǐng)求不公布姓名
受保護(hù)的技術(shù)使用者：寒武紀(jì)（昆山）信息科技有限公司
技術(shù)研發(fā)日：
技術(shù)公布日：2024/12/30