本申請(qǐng)屬于數(shù)據(jù)處理,尤其涉及一種數(shù)據(jù)集市的管理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品。
背景技術(shù):
1、在當(dāng)今的金融科技領(lǐng)域,大數(shù)據(jù)的建設(shè)與應(yīng)用變得日益重要,銀行業(yè)需要靈活且不斷完善的數(shù)據(jù)集市(data?mart)來(lái)支撐不同領(lǐng)域、不同業(yè)務(wù)組件、不同業(yè)務(wù)模塊,來(lái)高效的處理和利用數(shù)據(jù),發(fā)揮數(shù)據(jù)的價(jià)值。
2、由于大型的商業(yè)銀行可以擁有多家分行,因此,各分行之間對(duì)于金融項(xiàng)目的處理程序既有統(tǒng)一性,又有差異性。那么在每家同業(yè)銀行之間的方案存在較大的差異,開發(fā)人員需要大量的時(shí)間編寫程序并修改數(shù)據(jù)集市?,F(xiàn)有的現(xiàn)有的定制化的數(shù)據(jù)集市的開發(fā)方式,需要投入大量的人力成本,且需要較長(zhǎng)的實(shí)施周期,因此數(shù)據(jù)集市的開發(fā)效率較低。
技術(shù)實(shí)現(xiàn)思路
1、本申請(qǐng)實(shí)施例提供了一種數(shù)據(jù)集市的管理方法、裝置、設(shè)備、存儲(chǔ)介質(zhì)及程序產(chǎn)品,能夠解決現(xiàn)有的數(shù)據(jù)集市的開發(fā)效率較低的問題。
2、第一方面,本申請(qǐng)實(shí)施例提供一種數(shù)據(jù)集市的管理方法,方法包括:
3、在接收到目標(biāo)項(xiàng)目中的第一數(shù)據(jù)的情況下,獲取并存儲(chǔ)所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息;
4、根據(jù)所述數(shù)據(jù)來(lái)源信息和所述流動(dòng)路徑信息生成第一清單,所述第一清單中包括所述數(shù)據(jù)集市中存在,且所述目標(biāo)項(xiàng)目不需要的內(nèi)容,所述內(nèi)容包括模型、程序以及腳本中的至少一項(xiàng);
5、根據(jù)所述第一清單對(duì)所述數(shù)據(jù)集市進(jìn)行裁剪。
6、在一些實(shí)施例中,所述獲取所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息之前,所述方法還包括:
7、根據(jù)所述數(shù)據(jù)來(lái)源信息和所述流動(dòng)路徑信息生成第二清單,所述第二清單中包括所述數(shù)據(jù)集市中不存在,且所述目標(biāo)項(xiàng)目需求的內(nèi)容;
8、輸出所述第二清單。
9、在一些實(shí)施例中,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息,包括:
10、在接收到所述第一數(shù)據(jù)的情況下,獲取所述數(shù)據(jù)來(lái)源信息,所述數(shù)據(jù)來(lái)源信息包括生成所述第一數(shù)據(jù)的業(yè)務(wù)系統(tǒng)名稱、組件名稱以及所述第一數(shù)據(jù)的生成時(shí)間;
11、將所述數(shù)據(jù)來(lái)源信息按照預(yù)設(shè)規(guī)則存儲(chǔ)至所述第一數(shù)據(jù)對(duì)應(yīng)的關(guān)系型數(shù)據(jù)庫(kù)中。
12、在一些實(shí)施例中,所述關(guān)系型數(shù)據(jù)庫(kù)的包括api接口,所述將所述數(shù)據(jù)來(lái)源信息按照預(yù)設(shè)規(guī)則存儲(chǔ)至所述第一數(shù)據(jù)對(duì)應(yīng)的關(guān)系型數(shù)據(jù)庫(kù)中之后,所述方法還包括:
13、在通過(guò)所述api接口接收到調(diào)用模塊發(fā)送的數(shù)據(jù)查詢請(qǐng)求的情況下,確定所述數(shù)據(jù)查詢請(qǐng)求中的數(shù)據(jù)查詢條件;
14、確定所述數(shù)據(jù)查詢條件確定對(duì)應(yīng)的目標(biāo)來(lái)源信息;
15、將所述目標(biāo)來(lái)源信息通過(guò)所述api接口向所述調(diào)用模塊發(fā)送。
16、在一些實(shí)施例中,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的流動(dòng)路徑信息,包括:
17、通過(guò)所述數(shù)據(jù)集市中的腳本對(duì)所述第一數(shù)據(jù)執(zhí)行目標(biāo)操作,得到目標(biāo)操作后的第一數(shù)據(jù),所述目標(biāo)操作包括數(shù)據(jù)清洗、數(shù)據(jù)聚合以及數(shù)據(jù)轉(zhuǎn)換中的至少一項(xiàng);
18、獲取和所述目標(biāo)操作關(guān)聯(lián)的操作信息;
19、根據(jù)所述操作信息生成并存儲(chǔ)所述流動(dòng)路徑信息。
20、在一些實(shí)施例中,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的流動(dòng)路徑信息之后,所述方法還包括:
21、基于所述流動(dòng)路徑信息生成流動(dòng)路徑圖;
22、顯示所述流動(dòng)路徑圖。
23、第二方面,本申請(qǐng)實(shí)施例提供一種數(shù)據(jù)集市的管理裝置,裝置包括:
24、獲取模塊,用于在接收到目標(biāo)項(xiàng)目中的第一數(shù)據(jù)的情況下,獲取并存儲(chǔ)所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息;
25、第一生成模塊,用于根據(jù)所述數(shù)據(jù)來(lái)源信息和所述流動(dòng)路徑信息生成第一清單,所述第一清單中包括所述數(shù)據(jù)集市中存在,且所述目標(biāo)項(xiàng)目不需要的內(nèi)容,所述內(nèi)容包括模型、程序以及腳本中的至少一項(xiàng);
26、裁剪模塊,用于根據(jù)所述第一清單對(duì)所述數(shù)據(jù)集市進(jìn)行裁剪。
27、第三方面,本申請(qǐng)實(shí)施例提供了一種數(shù)據(jù)集市的管理設(shè)備,設(shè)備包括:處理器以及存儲(chǔ)有計(jì)算機(jī)程序指令的存儲(chǔ)器;
28、處理器執(zhí)行計(jì)算機(jī)程序指令時(shí)實(shí)現(xiàn)如上的數(shù)據(jù)集市的管理方法。
29、第四方面,本申請(qǐng)實(shí)施例提供了一種計(jì)算機(jī)存儲(chǔ)介質(zhì),計(jì)算機(jī)存儲(chǔ)介質(zhì)上存儲(chǔ)有計(jì)算機(jī)程序指令,計(jì)算機(jī)程序指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上的數(shù)據(jù)集市的管理方法。
30、第五方面,本申請(qǐng)實(shí)施例提供了一種計(jì)算機(jī)程序產(chǎn)品,所述計(jì)算機(jī)程序產(chǎn)品包括計(jì)算機(jī)程序指令,所述計(jì)算機(jī)程序指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如上的數(shù)據(jù)集市的管理方法。
31、在本申請(qǐng)中,在接收到目標(biāo)項(xiàng)目中的第一數(shù)據(jù)的情況下,獲取并存儲(chǔ)第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息;根據(jù)數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息生成第一清單,第一清單中包括數(shù)據(jù)集市中存在,且目標(biāo)項(xiàng)目不需要的內(nèi)容,內(nèi)容包括模型、程序以及腳本中的至少一項(xiàng);根據(jù)第一清單對(duì)數(shù)據(jù)集市進(jìn)行裁剪。如此一來(lái),通過(guò)獲取和分析目標(biāo)項(xiàng)目中的數(shù)據(jù)來(lái)源和流動(dòng)路徑信息,能夠準(zhǔn)確識(shí)別并生成不再需要的模型、程序和腳本清單,從而對(duì)數(shù)據(jù)集市進(jìn)行有效的裁剪。如此一來(lái),能夠自動(dòng)減少數(shù)據(jù)集市中的冗余內(nèi)容,優(yōu)化系統(tǒng)性能,確保數(shù)據(jù)集市精確的符合項(xiàng)目的實(shí)際需求,無(wú)需人工編寫代碼來(lái)修改數(shù)據(jù)集市,提高了數(shù)據(jù)集市的開發(fā)效率。
1.一種數(shù)據(jù)集市的管理方法,其特征在于,所述方法應(yīng)用于數(shù)據(jù)集市,所述方法包括:
2.根據(jù)權(quán)利要求1所述的數(shù)據(jù)集市的管理方法,其特征在于,所述獲取所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息和流動(dòng)路徑信息之前,所述方法還包括:
3.根據(jù)權(quán)利要求1所述的數(shù)據(jù)集市的管理方法,其特征在于,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的數(shù)據(jù)來(lái)源信息,包括:
4.根據(jù)權(quán)利要求3所述的數(shù)據(jù)集市的管理方法,其特征在于,所述關(guān)系型數(shù)據(jù)庫(kù)的包括api接口,所述將所述數(shù)據(jù)來(lái)源信息按照預(yù)設(shè)規(guī)則存儲(chǔ)至所述第一數(shù)據(jù)對(duì)應(yīng)的關(guān)系型數(shù)據(jù)庫(kù)中之后,所述方法還包括:
5.根據(jù)權(quán)利要求1所述的數(shù)據(jù)集市的管理方法,其特征在于,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的流動(dòng)路徑信息,包括:
6.根據(jù)權(quán)利要求1所述的數(shù)據(jù)集市的管理方法,其特征在于,所述獲取并存儲(chǔ)所述第一數(shù)據(jù)的流動(dòng)路徑信息之后,所述方法還包括:
7.一種數(shù)據(jù)集市的管理裝置,其特征在于,所述裝置包括:
8.一種數(shù)據(jù)集市的管理設(shè)備,其特征在于,所述數(shù)據(jù)集市的管理設(shè)備包括:處理器以及存儲(chǔ)有計(jì)算機(jī)程序指令的存儲(chǔ)器;
9.一種計(jì)算機(jī)存儲(chǔ)介質(zhì),其特征在于,所述計(jì)算機(jī)存儲(chǔ)介質(zhì)上存儲(chǔ)有計(jì)算機(jī)程序指令,所述計(jì)算機(jī)程序指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)如權(quán)利要求1-6中任一項(xiàng)所述的數(shù)據(jù)集市的管理方法。
10.一種計(jì)算機(jī)程序產(chǎn)品,其特征在于,所述計(jì)算機(jī)程序產(chǎn)品包括計(jì)算機(jī)程序指令,所述計(jì)算機(jī)程序指令被處理器執(zhí)行時(shí)實(shí)現(xiàn)權(quán)利要求1-6中任一項(xiàng)所述的數(shù)據(jù)集市的管理方法。