1.一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,包括以下步驟:
2.如權(quán)利要求1中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,在構(gòu)建海洋時(shí)序數(shù)據(jù)的時(shí)間戳粒度級(jí)的token序列之前,還包括對(duì)海洋時(shí)序數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化預(yù)處理。
3.如權(quán)利要求1中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,建海洋時(shí)序數(shù)據(jù)的時(shí)間戳粒度級(jí)的token序列,具體為:
4.如權(quán)利要求3中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,協(xié)變量是除了時(shí)間本身以外的其他變量,包括靜態(tài)協(xié)變量和動(dòng)態(tài)協(xié)變量。
5.如權(quán)利要求1中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,所述transformer的解碼器在模型中堆疊有多個(gè),利用概率分布頭預(yù)測(cè)某個(gè)選擇的分布的參數(shù),使模型具備對(duì)未來(lái)海洋觀測(cè)數(shù)據(jù)的區(qū)間預(yù)測(cè)能力。
6.如權(quán)利要求5中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,所述概率分布頭采用student's?t分布。
7.如權(quán)利要求1中所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法,其特征在于,采用掩碼自監(jiān)督學(xué)習(xí)方法對(duì)基座模型進(jìn)行訓(xùn)練,在自監(jiān)督訓(xùn)練中使用的損失函數(shù)是基于預(yù)測(cè)分布的負(fù)對(duì)數(shù)似然函數(shù)。
8.一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建系統(tǒng),其特征在于,包括:
9.一種介質(zhì),其上存儲(chǔ)有程序,其特征在于,該程序被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法中的步驟。
10.一種電子設(shè)備,包括存儲(chǔ)器、處理器及存儲(chǔ)在存儲(chǔ)器上并可在處理器上運(yùn)行的程序,其特征在于,所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如權(quán)利要求1-7任一項(xiàng)所述的一種面向海洋觀測(cè)數(shù)據(jù)的基座模型構(gòu)建方法中的步驟。