本發(fā)明涉及金融系統(tǒng)領(lǐng)域,尤其涉及銀行核心系統(tǒng)的在線、近線、離線數(shù)據(jù)的清理和查詢處理。
背景技術(shù):
銀行核心系統(tǒng),英文名稱:corebankingsystem。銀行核心系統(tǒng)指金融行業(yè)的銀行核心業(yè)務(wù)系統(tǒng)?,F(xiàn)有的銀行核心系統(tǒng),都是以客戶為中心,進行帳務(wù)處理、滿足綜合柜員制、并提供24小時服務(wù)的核心銀行業(yè)務(wù)系統(tǒng)。銀行核心系統(tǒng)按照服務(wù)對象的不同,可分為二大類:第一類,服務(wù)對象為銀行客戶,提供的服務(wù)包括存款、貸款、結(jié)算、代理等;第二類,服務(wù)對象為銀行自己,提供的服務(wù)包括網(wǎng)點/柜員管理、總賬、內(nèi)部賬、現(xiàn)金、憑證、報表等。
無論哪一類銀行核心系統(tǒng),為了確保銀行核心系統(tǒng)的生產(chǎn)環(huán)境(生產(chǎn)表)保持一個輕量化的狀態(tài)運作,通常會對生產(chǎn)環(huán)境的在線數(shù)據(jù)做定時清理,但是目前的清理方式存在著以下問題:清理策略配置化程度低;清理方案部署落地復(fù)雜;近線和離線數(shù)據(jù)無法合理利用;以及多數(shù)據(jù)源運維困難等問題。
技術(shù)實現(xiàn)要素:
因此,針對上述的問題,本發(fā)明提出一種快速、高效的銀行核心系統(tǒng)的數(shù)據(jù)處理方法,對現(xiàn)有的銀行核心系統(tǒng)的清理方案進行改進,解決現(xiàn)有技術(shù)之不足。
為了達到上述目的,本發(fā)明所采用的技術(shù)方案是,一種基于銀行核心系統(tǒng)的數(shù)據(jù)處理方法,包括:
建立初始配置文件,初始配置文件上包括多個配置項信息,各配置項信息描述清理方案的規(guī)則;其中,配置文件可以是數(shù)據(jù)庫表單也可以是預(yù)加載文件(excel格式文件、ini格式文件、shell腳本文件均可),本發(fā)明中,配置項信息優(yōu)選配置在數(shù)據(jù)庫表中,相對于配置在其他文件中,一來便于管理,二來便于實時生效;
在顯示包括初始配置文件的人機界面后,接收用戶通過人機界面修改后的配置項信息,并對接收到的配置項信息進行檢驗,校驗成功后形成修改后的配置文件;
根據(jù)修改后的配置文件對數(shù)據(jù)庫執(zhí)行對應(yīng)的操作。所述數(shù)據(jù)庫包括生產(chǎn)庫和歷史庫,生產(chǎn)庫包括生產(chǎn)表和歷史表,歷史庫包括歷史表。
優(yōu)選的,所述配置項信息至少包括:
生產(chǎn)保留時長,用以標識生產(chǎn)庫生產(chǎn)表中的數(shù)據(jù)保留時間段;
近線保留時長,用以標識生產(chǎn)庫歷史表中的數(shù)據(jù)保留時間段;
生產(chǎn)清理頻率,用以標識間隔多久清理一次生產(chǎn)庫生產(chǎn)表;
近線清理頻率,用以標識間隔多久清理一次生產(chǎn)庫歷史表;
數(shù)據(jù)清理方式,用以標識當前表記錄的清理方式;
清理關(guān)鍵字,用以標識當前表記錄按哪個關(guān)鍵字清理。
其中,所述清理方案包括在同一數(shù)據(jù)庫同一區(qū)下執(zhí)行數(shù)據(jù)交換操作的同庫事務(wù)方式,用于在同一數(shù)據(jù)庫不同區(qū)下執(zhí)行數(shù)據(jù)交換操作的同庫分區(qū)事務(wù)方式,用于在同一服務(wù)器上不同數(shù)據(jù)庫之間執(zhí)行跨庫數(shù)據(jù)處理的本機跨庫數(shù)據(jù)泵方式,以及用于在不同服務(wù)器上不同數(shù)據(jù)庫之間執(zhí)行跨庫數(shù)據(jù)處理的跨物理機跨庫數(shù)據(jù)泵方式。
其中的同庫事務(wù)方式包括:i.根據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的清理關(guān)鍵字;ii.根據(jù)配置項信息中的生產(chǎn)保留時長計算清理關(guān)鍵字范圍,由該清理關(guān)鍵字范圍查詢生產(chǎn)表,得到生產(chǎn)表的指定范圍數(shù)據(jù);iii.使用同一事務(wù)將生產(chǎn)表的指定范圍數(shù)據(jù)遷移至歷史表,同時刪除生產(chǎn)表的指定范圍數(shù)據(jù)。
同庫分區(qū)事務(wù)方式包括:i.根據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的生產(chǎn)保留時長和生產(chǎn)清理頻率;ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱,由分區(qū)名稱得到生產(chǎn)表的指定分區(qū);iii.使用分區(qū)交換的方式將生產(chǎn)表的指定分區(qū)的數(shù)據(jù)遷移至歷史表的指定分區(qū);iv.重建歷史表的指定分區(qū)的索引;v.刪除生產(chǎn)表的指定分區(qū)。
其中的本機跨庫數(shù)據(jù)泵方式又可分為三種操作方案:1、將生產(chǎn)庫生產(chǎn)表傳輸至歷史庫的數(shù)據(jù)處理操作;2、將生產(chǎn)庫歷史表傳輸至歷史庫,歷史表采用同庫事務(wù)方式的數(shù)據(jù)處理操作;3、將生產(chǎn)庫歷史表傳輸至歷史庫,歷史表采用同庫分區(qū)交換方式的數(shù)據(jù)處理操作。
其中,所述本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫生產(chǎn)表至歷史庫)包括:
i.根據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的生產(chǎn)保留時長和生產(chǎn)清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱,由分區(qū)名稱得到生產(chǎn)庫指定分區(qū);
iii.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
iv.獲取配置文件中的數(shù)據(jù)源信息;
v.將生產(chǎn)庫指定分區(qū)的數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
vi.將轉(zhuǎn)儲文件導(dǎo)入至歷史庫指定分區(qū);
vii.刪除生產(chǎn)庫指定分區(qū)。
所述本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫,歷史表采用同庫事務(wù)方式)包括:
i.根據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的清理關(guān)鍵字、生產(chǎn)保留時長和近線保留時長;
ii.根據(jù)生產(chǎn)保留時長計算清理關(guān)鍵字范圍,由該清理關(guān)鍵字范圍獲得生產(chǎn)表指定范圍數(shù)據(jù);
iii.使用同一事務(wù)將生產(chǎn)表指定范圍數(shù)據(jù)遷移至歷史表,并刪除生產(chǎn)表指定范圍數(shù)據(jù);
iv.根據(jù)近線保留時長計算清理關(guān)鍵字范圍,由該清理關(guān)鍵字范圍獲得生產(chǎn)庫歷史表指定范圍;
v.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
vi.獲取配置文件中的數(shù)據(jù)源信息;
vii.將生產(chǎn)庫歷史表指定范圍數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
viii.將轉(zhuǎn)儲文件導(dǎo)入至歷史庫;
ix.校驗第vii、viii步驟的操作是否成功,如果成功則刪除歷史表指定范圍數(shù)據(jù)。
所述本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫,歷史表采用同庫分區(qū)交換方式)包括:
i.根據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的生產(chǎn)保留時長、生產(chǎn)清理頻率、近線保留時長和近線清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱,由分區(qū)名稱獲得生產(chǎn)表指定分區(qū)的數(shù)據(jù);
iii.使用分區(qū)交換的方式將生產(chǎn)表指定分區(qū)的數(shù)據(jù)遷移至歷史表指定分區(qū);
iv.重建歷史表指定分區(qū)的索引;
v.刪除生產(chǎn)表指定分區(qū)的數(shù)據(jù);
vi.根據(jù)近線保留時長和近線清理頻率計算分區(qū)名稱,由近線保留時長和近線清理頻率獲得歷史表指定分區(qū)的數(shù)據(jù);
vii.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
viii.獲取配置文件中的數(shù)據(jù)源信息;
ix.將歷史表指定分區(qū)的數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
x.將轉(zhuǎn)儲文件導(dǎo)入至歷史庫指定分區(qū);
xi.刪除歷史表指定分區(qū)的數(shù)據(jù)。
其中的跨物理機跨庫數(shù)據(jù)泵方式又可分為三種操作方案:1、將生產(chǎn)庫生產(chǎn)表采用文件傳輸?shù)姆绞絺鬏斨翚v史庫的數(shù)據(jù)處理操作;2、將生產(chǎn)庫歷史表采用文件傳輸?shù)姆绞絺鬏斨翚v史庫,歷史表采用同庫事務(wù)方式的數(shù)據(jù)處理操作;3、將生產(chǎn)庫歷史表采用文件傳輸?shù)姆绞絺鬏斨翚v史庫,歷史表采用同庫分區(qū)交換方式的數(shù)據(jù)處理操作。
所述跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫生產(chǎn)表至歷史庫)包括:
i.據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的生產(chǎn)保留時長和生產(chǎn)清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱,由分區(qū)名稱獲得生產(chǎn)庫指定分區(qū)的數(shù)據(jù);
iii.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
iv.獲取配置文件中的數(shù)據(jù)源信息;
v.將生產(chǎn)庫指定分區(qū)的數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
vi.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器傳輸(ftp)至歷史庫服務(wù)器;
vii.將轉(zhuǎn)儲文件導(dǎo)入至轉(zhuǎn)儲文件目錄的歷史庫指定分區(qū);
viii.刪除生產(chǎn)庫指定分區(qū)的數(shù)據(jù)。
所述跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫,歷史表采用同庫事務(wù)方式)包括:
i.據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的清理關(guān)鍵字、生產(chǎn)保留時長和近線保留時長;
ii.根據(jù)生產(chǎn)保留時長計算清理關(guān)鍵字范圍,由清理關(guān)鍵字范圍獲得生產(chǎn)表指定范圍數(shù)據(jù);
iii.使用同一事務(wù)將生產(chǎn)表指定范圍數(shù)據(jù)遷移至歷史表并刪除生產(chǎn)表指定范圍數(shù)據(jù);
iv.根據(jù)近線保留時長計算清理關(guān)鍵字范圍,由該清理關(guān)鍵字范圍得到生產(chǎn)庫歷史表指定范圍的數(shù)據(jù);
v.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
vi.獲取配置文件中的數(shù)據(jù)源信息;
vii.將生產(chǎn)庫歷史表指定范圍的數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
viii.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器傳輸(ftp)至歷史庫服務(wù)器;
ix.將轉(zhuǎn)儲文件導(dǎo)入至轉(zhuǎn)儲文件目錄的歷史庫;
x.如果第viii和ix步驟成功,則刪除歷史表指定范圍數(shù)據(jù)。
所述跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫歷史表采用同庫分區(qū)交換方式)包括:
i.據(jù)配置項信息中的數(shù)據(jù)清理方式獲取被清理表的生產(chǎn)保留時長、生產(chǎn)清理頻率、近線保留時長和近線清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱,由分區(qū)名稱獲得生產(chǎn)表指定分區(qū)的數(shù)據(jù);
iii.使用分區(qū)交換的方式將生產(chǎn)表指定分區(qū)的數(shù)據(jù)遷移至歷史表指定分區(qū);
iv.重建歷史表指定分區(qū)的索引;
v.刪除生產(chǎn)表指定分區(qū);
vi.根據(jù)近線保留時長和近線清理頻率計算分區(qū)名稱,由該分區(qū)名稱獲取歷史表指定分區(qū)的數(shù)據(jù);
vii.獲取數(shù)據(jù)庫的轉(zhuǎn)儲文件目錄;
viii.獲取配置文件中的數(shù)據(jù)源信息;
ix.將歷史表指定分區(qū)的數(shù)據(jù)導(dǎo)出為轉(zhuǎn)儲文件;
x.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器傳輸(ftp)至轉(zhuǎn)儲文件目錄的歷史庫服務(wù)器;
xi.將轉(zhuǎn)儲文件導(dǎo)入至歷史庫指定分區(qū);
xii.刪除歷史表指定分區(qū)的數(shù)據(jù)。
作為一個進一步的方案,所述配置項信息還描述歷史查詢方案的規(guī)則。
所述歷史查詢方案包括:數(shù)據(jù)路由處理步驟和結(jié)果拼接步驟;
其中,數(shù)據(jù)路由處理步驟包括:通過查詢數(shù)據(jù)清理轉(zhuǎn)移表返回生產(chǎn)庫與歷史庫的日期界限,以及傳入的起止日期,規(guī)定如下:
起始日期大于等于生產(chǎn)庫與歷史庫的日期界限值,則路由到生產(chǎn)庫單數(shù)據(jù)源;
終止日期小于生產(chǎn)庫與歷史庫的日期界限值,則路由到歷史庫單數(shù)據(jù)源;
否則,先路由到生產(chǎn)庫數(shù)據(jù)源,再路由到歷史庫數(shù)據(jù)源;
同時生成dao類邏輯;
結(jié)果拼接步驟包括:新增命名sql對應(yīng)的歷史查詢方法;業(yè)務(wù)程序如果是歷史查詢,則需要調(diào)用歷史查詢方法;其中,歷史查詢方法通過雙庫遍歷方式完成歷史數(shù)據(jù)查詢,并開放回調(diào)類,用以提供歷史庫與生產(chǎn)庫的數(shù)據(jù)界線。
本發(fā)明針對清理策略提供了簡捷全面的配置項,確保清理方式完全自定義;清理方案通過web方式由自主設(shè)計的人機界面進行部署;配套的歷史查詢方案將在線、近線、離線數(shù)據(jù)有機結(jié)合,在不影響生產(chǎn)效率的條件下,為數(shù)據(jù)的充分利用提供了渠道。分布式部署架構(gòu)下,可以通過dbagentor的方式在不用數(shù)據(jù)源上使用不同策略對數(shù)據(jù)進行管理。
附圖說明
圖1為使用本發(fā)明完成銀行核心系統(tǒng)數(shù)據(jù)管理的多數(shù)據(jù)源運維流程圖;
圖2為本發(fā)明的基于銀行核心系統(tǒng)的數(shù)據(jù)處理方法的流程圖;
圖3為使用本發(fā)明完成銀行核心系統(tǒng)的歷史數(shù)據(jù)查詢的流程圖。
具體實施方式
下面詳細描述本發(fā)明的實施例,所述實施例的示例在附圖中示出,其中自始至終相同或類似的標號表示相同或類似的元件或具有相同或類似功能的元件。下面通過參考附圖描述的實施例是示例性的,僅用于解釋本發(fā)明,而不能理解為對本發(fā)明的限制。
本發(fā)明針對現(xiàn)有的清理策略進行改進,通過提供簡捷全面的配置項,確保清理方式完全自定義,可廣泛適用不同客戶的各種需求;清理方案通過自主搭建的web平臺以人機交互的方式部署;配套有歷史查詢方案,可對在線、近線、離線數(shù)據(jù)進行有機結(jié)合,在不影響生產(chǎn)效率的條件下,為數(shù)據(jù)的充分利用提供了渠道。
另外,分布式部署架構(gòu)下,可以通過dbagentor的方式在不用數(shù)據(jù)源上使用不同策略對數(shù)據(jù)進行管理。圖1為本發(fā)明的完成銀行核心系統(tǒng)數(shù)據(jù)管理的多數(shù)據(jù)源運維流程圖,首先搭建web平臺,web平臺設(shè)置有批處理頁面,用戶通過采用人機交互的方式在批處理頁面上執(zhí)行抽象組件配置操作,后臺的處理程序接收用戶的配置項信息,校驗成功后形成配置文件,然后根據(jù)該配置文件對數(shù)據(jù)庫進行操作。對數(shù)據(jù)庫的操作,可以是同一數(shù)據(jù)庫內(nèi)的數(shù)據(jù)操作,也可以是同一服務(wù)器上的不同數(shù)據(jù)庫的操作,還可以是不同服務(wù)器上的不同數(shù)據(jù)庫的操作。
具體的,參見圖2,本發(fā)明的一種銀行核心系統(tǒng)的數(shù)據(jù)處理方法,包括:
建立初始配置文件,初始配置文件上包括多個配置項信息,各配置項信息描述清理方案的規(guī)則以及歷史查詢方案的規(guī)則;在顯示包括初始配置文件的人機界面后,接收用戶通過人機界面修改后的配置項信息,并對接收到的配置項信息進行檢驗,校驗成功后形成修改后的配置文件;根據(jù)修改后的配置文件對數(shù)據(jù)庫執(zhí)行對應(yīng)的清理操作或者歷史查詢操作。其中的數(shù)據(jù)庫包括生產(chǎn)庫和歷史庫,生產(chǎn)庫包括生產(chǎn)表和歷史表,歷史庫包括歷史表。生產(chǎn)庫和歷史庫可以在同一服務(wù)器上,也可在不同的服務(wù)器上。
其中,配置項信息至少包括,生產(chǎn)保留時長、近線保留時長、生產(chǎn)清理頻率、近線清理頻率、數(shù)據(jù)清理方式以及清理關(guān)鍵字。其中,生產(chǎn)保留時長用以標識生產(chǎn)庫生產(chǎn)表中的數(shù)據(jù)保留時間段;近線保留時長用以標識生產(chǎn)庫歷史表中的數(shù)據(jù)保留時間段;生產(chǎn)清理頻率用以標識間隔多久清理一次生產(chǎn)庫生產(chǎn)表;近線清理頻率用以標識間隔多久清理一次生產(chǎn)庫歷史表;數(shù)據(jù)清理方式用以標識當前表記錄的清理方式;清理關(guān)鍵字用以標識當前表記錄按哪個關(guān)鍵字清理。
上述清理方案包括在同一數(shù)據(jù)庫同一區(qū)下執(zhí)行數(shù)據(jù)交換操作的同庫事務(wù)方式,用于在同一數(shù)據(jù)庫不同區(qū)下執(zhí)行數(shù)據(jù)交換操作的同庫分區(qū)事務(wù)方式,用于在同一服務(wù)器上不同數(shù)據(jù)庫之間執(zhí)行跨庫數(shù)據(jù)處理的本機跨庫數(shù)據(jù)泵方式,以及用于在不同服務(wù)器上不同數(shù)據(jù)庫之間執(zhí)行跨庫數(shù)據(jù)處理的跨物理機跨庫數(shù)據(jù)泵方式。清理方案的各個清理方式可由自定義配置項信息來實現(xiàn)自定義編輯,可滿足不同場合的各種清理需求。
為了實現(xiàn)配置項的全面化簡捷化,作為一個具體的實施方式,本發(fā)明的配置項信息列表如下:
本發(fā)明的清理方案的各數(shù)據(jù)清理方式列表如下:
通過對配置項信息進行操作選擇,可得到如下清理方案:
上述清理方案中的7中清理方式分別詳細描述如下:
0)同庫事務(wù)方式
i.各配置項信息形成數(shù)據(jù)清理配置表kapp_sjqlpz,由該數(shù)據(jù)清理配置表中的數(shù)據(jù)清理方式sjqlfash配置為0的記錄獲取被清理表的清理關(guān)鍵字;
ii.根據(jù)生產(chǎn)保留時長計算清理關(guān)鍵字范圍;
iii.使用同一事務(wù)將生產(chǎn)表指定范圍數(shù)據(jù)遷移至歷史表,并刪除生產(chǎn)表指定范圍數(shù)據(jù)。
1)同庫分區(qū)交換方式
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為1的記錄,獲取被清理表的保留時長和清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱;
iii.使用分區(qū)交換的方式將生產(chǎn)表指定分區(qū)的數(shù)據(jù)遷移至歷史表指定分區(qū);
iv.重建歷史表指定分區(qū)的索引;
v.刪除生產(chǎn)表指定分區(qū)。
2)本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫生產(chǎn)表至歷史庫)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為2的記錄,獲取被清理表的生產(chǎn)保留時長和生產(chǎn)清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱;
iii.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
iv.獲取配置文件中的數(shù)據(jù)源信息;
v.導(dǎo)出生產(chǎn)庫指定分區(qū)數(shù)據(jù)為轉(zhuǎn)儲文件;
vi.導(dǎo)入轉(zhuǎn)儲文件至歷史庫指定分區(qū);
vii.刪除生產(chǎn)庫指定分區(qū)。
3)本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫歷史表采用同庫事務(wù)方式)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為3的記錄,獲取被清理表的清理關(guān)鍵字、生產(chǎn)保留時長和近線保留時長;
ii.根據(jù)生產(chǎn)保留時長計算清理關(guān)鍵字范圍;
iii.使用同一事務(wù)將生產(chǎn)表指定范圍數(shù)據(jù)遷移至歷史表并刪除生產(chǎn)表指定范圍數(shù)據(jù);
iv.根據(jù)近線保留時長計算清理關(guān)鍵字范圍;
v.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
vi.獲取配置文件中的數(shù)據(jù)源信息;
vii.導(dǎo)出生產(chǎn)庫歷史表指定范圍數(shù)據(jù)為轉(zhuǎn)儲文件;
viii.導(dǎo)入轉(zhuǎn)儲文件至歷史庫;
ix.如果第vii、viii步驟成功,則刪除歷史表指定范圍數(shù)據(jù)。
4)本機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫歷史表采用同庫分區(qū)交換方式)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為4的記錄,獲取被清理表的生產(chǎn)保留時長、生產(chǎn)清理頻率、近線保留時長和近線清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱;
iii.使用分區(qū)交換的方式將生產(chǎn)表指定分區(qū)的數(shù)據(jù)遷移至歷史表指定分區(qū);
iv.重建歷史表指定分區(qū)的索引;
v.刪除生產(chǎn)表指定分區(qū);
vi.根據(jù)近線保留時長和近線清理頻率計算分區(qū)名稱;
vii.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
viii.獲取配置文件中的數(shù)據(jù)源信息;
ix.導(dǎo)出歷史表指定分區(qū)數(shù)據(jù)為轉(zhuǎn)儲文件;
x.導(dǎo)入轉(zhuǎn)儲文件至歷史庫指定分區(qū);
xi.刪除歷史表指定分區(qū)。
5)跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫生產(chǎn)表至歷史庫)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為5的記錄,獲取被清理表的生產(chǎn)保留時長和生產(chǎn)清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱;
iii.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
iv.獲取配置文件中的數(shù)據(jù)源信息;
v.導(dǎo)出生產(chǎn)庫指定分區(qū)數(shù)據(jù)為轉(zhuǎn)儲文件;
vi.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器ftp至歷史庫服務(wù)器;
vii.導(dǎo)入轉(zhuǎn)儲文件至歷史庫指定分區(qū);
viii.刪除生產(chǎn)庫指定分區(qū)。
6)跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫歷史表采用同庫事務(wù)方式)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為6的記錄,獲取被清理表的清理關(guān)鍵字、生產(chǎn)保留時長和近線保留時長;
ii.根據(jù)生產(chǎn)保留時長計算清理關(guān)鍵字范圍;
iii.使用同一事務(wù)將生產(chǎn)表指定范圍數(shù)據(jù)遷移至歷史表并刪除生產(chǎn)表指定范圍數(shù)據(jù);
iv.根據(jù)近線保留時長計算清理關(guān)鍵字范圍;
v.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
vi.獲取配置文件中的數(shù)據(jù)源信息;
vii.導(dǎo)出生產(chǎn)庫歷史表指定范圍數(shù)據(jù)為轉(zhuǎn)儲文件;
viii.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器經(jīng)ftp傳輸至歷史庫服務(wù)器;
ix.導(dǎo)入轉(zhuǎn)儲文件至歷史庫;
x.如果第viii、ix步驟成功,則刪除歷史表指定范圍數(shù)據(jù)。
7)跨物理機跨庫數(shù)據(jù)泵方式(生產(chǎn)庫歷史表至歷史庫歷史表采用同庫分區(qū)交換方式)
i.根據(jù)數(shù)據(jù)清理配置表kapp_sjqlpz中的數(shù)據(jù)清理方式sjqlfash配置為7的記錄,獲取被清理表的生產(chǎn)保留時長、生產(chǎn)清理頻率、近線保留時長和近線清理頻率;
ii.根據(jù)生產(chǎn)保留時長和生產(chǎn)清理頻率計算分區(qū)名稱;
iii.使用分區(qū)交換的方式將生產(chǎn)表指定分區(qū)的數(shù)據(jù)遷移至歷史表指定分區(qū);
iv.重建歷史表指定分區(qū)的索引;
v.刪除生產(chǎn)表指定分區(qū);
vi.根據(jù)近線保留時長和近線清理頻率計算分區(qū)名稱;
vii.獲取數(shù)據(jù)庫視圖dbadirectories中directory_name配置為dbcleandump的directory_path,即轉(zhuǎn)儲文件目錄;
viii.獲取配置文件中的數(shù)據(jù)源信息;
ix.導(dǎo)出歷史表指定分區(qū)數(shù)據(jù)為轉(zhuǎn)儲文件;
x.將轉(zhuǎn)儲文件從生產(chǎn)庫服務(wù)器經(jīng)ftp傳輸至歷史庫服務(wù)器;
xi.導(dǎo)入轉(zhuǎn)儲文件至歷史庫指定分區(qū);
xii.刪除歷史表指定分區(qū)。
上述配置項信息還描述了歷史查詢方案,該歷史查詢方案包括數(shù)據(jù)路由過程和結(jié)果拼接過程。
其中,數(shù)據(jù)路由包括如下步驟:
i.對于數(shù)據(jù)路由處理,通過查詢數(shù)據(jù)清理轉(zhuǎn)移表返回生產(chǎn)庫與歷史庫的日期界限,以及傳入的起止日期,規(guī)定如下:
ii.起始日期大于等于生產(chǎn)庫與歷史庫的日期界限值,路由到生產(chǎn)庫單數(shù)據(jù)源。
iii.終止日期小于生產(chǎn)庫與歷史庫的日期界限值,路由到歷史庫單數(shù)據(jù)源。
iv.否則,先路由到生產(chǎn)庫數(shù)據(jù)源,再路由到歷史庫數(shù)據(jù)源。
v.同時,由應(yīng)用平臺提供數(shù)據(jù)路由模板,ide工具自動完成dao生成類邏輯。
結(jié)果拼接包括如下步驟:
i.新增命名sql對應(yīng)的歷史查詢方法。
ii.業(yè)務(wù)程序如果是歷史查詢,則需要調(diào)用歷史查詢方法。
iii.原查詢方法保留,以備有其它用途。
iv.新增的歷史查詢方法中,通過雙庫遍歷方式完成歷史數(shù)據(jù)查詢。
v.歷史查詢方法中,開放回調(diào)類,由應(yīng)用平臺實現(xiàn),用以提供歷史庫與生產(chǎn)庫的數(shù)據(jù)界線。
vi.歷史查詢方法中,平臺需要使用兩個數(shù)據(jù)庫連接完成查詢、結(jié)果拼接。
圖3為本發(fā)明的歷史數(shù)據(jù)查詢的一個具體實例的流程圖。
另外,本發(fā)明的數(shù)據(jù)庫不限定其物理位置,針對多數(shù)據(jù)源運維管理有如下設(shè)計方案:
a)針對不同抽象組件配置不同dbagentor。
b)針對不同dbagentor配置不同清理策略。
c)運維平臺發(fā)起清理請求,調(diào)度各節(jié)點dbagentor做不同策略的清理。
本發(fā)明的具體實施可包括:上傳腳本,開通無密碼ssh連接,創(chuàng)建轉(zhuǎn)儲目錄,配置ftp傳輸信息,配置數(shù)據(jù)源信息,部署增量包,創(chuàng)建分區(qū)表,清理策略配置,代理流程、流程步驟以及目標代理配置,運維平臺發(fā)起驗證等過程。
盡管結(jié)合優(yōu)選實施方案具體展示和介紹了本發(fā)明,但所屬領(lǐng)域的技術(shù)人員應(yīng)該明白,在不脫離所附權(quán)利要求書所限定的本發(fā)明的精神和范圍內(nèi),在形式上和細節(jié)上可以對本發(fā)明做出各種變化,均為本發(fā)明的保護范圍。