本發(fā)明屬于人工智能領(lǐng)域，具體涉及一種基于強化學(xué)習(xí)的數(shù)據(jù)庫自適應(yīng)混合數(shù)據(jù)分區(qū)方法及系統(tǒng)。

背景技術(shù)：

1、數(shù)據(jù)庫查詢負載中的查詢通常只與部分?jǐn)?shù)據(jù)有關(guān)，數(shù)據(jù)庫分區(qū)的目的就是使負載執(zhí)行時，盡可能多的跳過與查詢無關(guān)的數(shù)據(jù)?，F(xiàn)有的數(shù)據(jù)分區(qū)方案包括基于水平方向的分區(qū)方案、基于垂直方向的分區(qū)方案和基于水平-垂直混合方向的分區(qū)方案。但在這些數(shù)據(jù)分區(qū)策略下，查詢負載執(zhí)行時仍然需要訪問大量冗余數(shù)據(jù)，并且無法實現(xiàn)對于動態(tài)查詢工作負載的自適應(yīng)數(shù)據(jù)分區(qū)。

2、因此，為了解決在現(xiàn)有數(shù)據(jù)分區(qū)方案下，查詢負載執(zhí)行時仍然需要訪問大量冗余數(shù)據(jù)，并且無法對動態(tài)工作負載自動進行自適應(yīng)數(shù)據(jù)分區(qū)的問題，提出一種新的數(shù)據(jù)庫自適應(yīng)混合數(shù)據(jù)分區(qū)方法是十分必要的。

技術(shù)實現(xiàn)思路

1、本發(fā)明的目的是為解決在現(xiàn)有數(shù)據(jù)分區(qū)方案下，查詢負載執(zhí)行時需要訪問大量冗余數(shù)據(jù)且無法根據(jù)動態(tài)工作負載自動進行自適應(yīng)數(shù)據(jù)分區(qū)的問題，而提出了一種基于強化學(xué)習(xí)的數(shù)據(jù)庫自適應(yīng)混合數(shù)據(jù)分區(qū)方法及系統(tǒng)。

2、本發(fā)明為解決上述技術(shù)問題所采取的技術(shù)方案是：

3、基于本發(fā)明的一個方面，一種基于強化學(xué)習(xí)的數(shù)據(jù)庫自適應(yīng)混合數(shù)據(jù)分區(qū)方法，所述方法具體包括以下步驟：

4、步驟一、采集數(shù)據(jù)庫中的各表信息、歷史查詢工作負載信息以及歷史查詢工作負載信息對應(yīng)的數(shù)據(jù)分區(qū)方案；

5、步驟二、將數(shù)據(jù)庫中的各表信息和歷史查詢工作負載信息作為強化學(xué)習(xí)模型智能體的狀態(tài)，利用步驟一中采集的各表信息和歷史查詢工作負載信息對強化學(xué)習(xí)模型的智能體進行訓(xùn)練，并將歷史查詢工作負載信息對應(yīng)的數(shù)據(jù)分區(qū)方案作為智能體訓(xùn)練的標(biāo)簽；

6、步驟三、建立查詢工作負載預(yù)測模型，利用歷史查詢工作負載信息對建立的查詢工作負載預(yù)測模型進行訓(xùn)練；

7、步驟四、根據(jù)當(dāng)前時間步長內(nèi)各種類查詢工作負載出現(xiàn)的次數(shù)以及p-1個歷史時間步長內(nèi)各種類查詢工作負載出現(xiàn)的次數(shù)，分別得到各種類查詢工作負載出現(xiàn)次數(shù)隨時間步長變化的時間序列數(shù)據(jù)；

8、再將各種類查詢工作負載對應(yīng)的時間序列數(shù)據(jù)分別輸入訓(xùn)練好的查詢工作負載預(yù)測模型，通過訓(xùn)練好的查詢工作負載預(yù)測模型輸出預(yù)測的下一個時間步長內(nèi)各種類査詢工作負載出現(xiàn)的頻率，獲得預(yù)測出的最大頻率所對應(yīng)的査詢工作負載種類i’；在下一時間步長的起始時刻，將數(shù)據(jù)分區(qū)方案初始化為査詢工作負載種類i’對應(yīng)的數(shù)據(jù)分區(qū)方案；

9、步驟五、初始化k＝1；

10、步驟六、判斷下一個時間步長內(nèi)到來的第k個查詢工作負載是否與當(dāng)前數(shù)據(jù)分區(qū)方案對應(yīng)的査詢工作負載種類相同；

11、若相同，則使用當(dāng)前數(shù)據(jù)分區(qū)方案直接進行查詢，再執(zhí)行步驟七；

12、若不相同，則將第k個查詢工作負載輸入訓(xùn)練好的強化學(xué)習(xí)模型，通過訓(xùn)練好的智能體輸出新的數(shù)據(jù)分區(qū)方案后再進行查詢，再繼續(xù)執(zhí)行步驟七；

13、步驟七、判斷下一個時間步長是否結(jié)束；

14、若下一個時間步長未結(jié)束，則令k＝k+1，返回執(zhí)行步驟六；

15、若下一個時間步長結(jié)束，則返回執(zhí)行步驟四。

16、基于本發(fā)明的另一個方面，一種基于強化學(xué)習(xí)的數(shù)據(jù)庫自適應(yīng)混合數(shù)據(jù)分區(qū)系統(tǒng)，所述系統(tǒng)包括信息采集模塊、強化學(xué)習(xí)模型、查詢工作負載預(yù)測模型和數(shù)據(jù)分區(qū)模塊，其中：

17、所述信息采集模塊用于采集數(shù)據(jù)庫中的各表信息、歷史查詢工作負載信息以及歷史查詢工作負載信息對應(yīng)的數(shù)據(jù)分區(qū)方案；

18、所述歷史查詢工作負載信息包括每條查詢語句以及每條查詢語句的執(zhí)行時間；

19、所述強化學(xué)習(xí)模型根據(jù)信息采集模塊采集的信息進行訓(xùn)練，訓(xùn)練好的強化學(xué)習(xí)模型的智能體用于輸出數(shù)據(jù)分區(qū)方案；

20、所述智能體的動作為：輸入查詢語句后，智能體對當(dāng)前狀態(tài)采取的添加行、添加列、刪除行、刪除列、合并分區(qū)、拆分分區(qū)或刪除分區(qū)的操作；智能體執(zhí)行動作后得到的獎勵為：

21、

22、其中，rewardt是智能體執(zhí)行當(dāng)前t時刻的動作后得到的獎勵；costt是在當(dāng)前t時刻的數(shù)據(jù)分區(qū)方案下輸入查詢語句后，查詢結(jié)果所在的分區(qū)的大??；costt-1是在t-1時刻的數(shù)據(jù)分區(qū)方案下輸入查詢語句后，查詢結(jié)果所在的分區(qū)的大??；

23、所述查詢工作負載預(yù)測模型根據(jù)信息采集模塊采集的歷史查詢工作負載信息進行訓(xùn)練，訓(xùn)練好的查詢工作負載預(yù)測模型用于對各種類查詢工作負載未來出現(xiàn)的頻率進行預(yù)測；

24、所述查詢工作負載預(yù)測模型的工作過程為：

25、步驟1、設(shè)置時間步長t，再分別統(tǒng)計每個種類歷史查詢工作負載在各個時間步長內(nèi)出現(xiàn)的次數(shù)，即將第i個種類歷史查詢工作負載在第j個時間步長內(nèi)出現(xiàn)的次數(shù)記為aij，i＝1,2,…,i，j＝1,2,…,j，i是歷史查詢工作負載的種類數(shù)，j是時間步長總數(shù)；

26、則對于每個種類歷史查詢工作負載，均得到查詢工作負載出現(xiàn)的次數(shù)隨時間步長變化的時間序列數(shù)據(jù)；

27、步驟2、對各種類歷史查詢工作負載對應(yīng)的時間序列數(shù)據(jù)進行聚類，分別獲得每個聚類內(nèi)的時間序列數(shù)據(jù)；

28、對于內(nèi)部只含有一組時間序列數(shù)據(jù)的聚類，不需要對聚類內(nèi)的時間序列數(shù)據(jù)進行處理，即將聚類內(nèi)的時間序列數(shù)據(jù)直接作為該聚類的擬合時間序列數(shù)據(jù)；

29、對于內(nèi)部含有兩組以及兩組以上時間序列數(shù)據(jù)的聚類，則將一個聚類內(nèi)的各組時間序列數(shù)據(jù)擬合為一組時間序列數(shù)據(jù)，將擬合獲得的時間序列數(shù)據(jù)作為該聚類的擬合時間序列數(shù)據(jù)；

30、步驟3、對于第k個聚類，將第k個聚類對應(yīng)的擬合時間序列數(shù)據(jù)上第1個時間步長至第p個時間步長對應(yīng)的查詢工作負載出現(xiàn)次數(shù)組成一個訓(xùn)練樣本，將第k個聚類對應(yīng)的擬合時間序列數(shù)據(jù)上第p+1個時間步長對應(yīng)的查詢工作負載出現(xiàn)次數(shù)作為該訓(xùn)練樣本的標(biāo)簽；

31、其中，k＝1,2,…,k，k是聚類得到的類別總數(shù)；

32、步驟4、利用步驟3得到的全部訓(xùn)練樣本對查詢工作負載預(yù)測模型進行訓(xùn)練；

33、在查詢工作負載預(yù)測模型內(nèi)，將訓(xùn)練樣本分別經(jīng)過dlinear模型和transformer模型，再將dlinear模型的輸出和transformer模型的輸出進行融合，將融合結(jié)果作為查詢工作負載預(yù)測結(jié)果；

34、再根據(jù)預(yù)測結(jié)果和標(biāo)簽計算損失，直至損失收斂時停止訓(xùn)練，獲得訓(xùn)練好的查詢工作負載預(yù)測模型；

35、所述數(shù)據(jù)分區(qū)模塊用于根據(jù)查詢工作負載預(yù)測模型的預(yù)測結(jié)果和訓(xùn)練好的強化學(xué)習(xí)模型的智能體生成數(shù)據(jù)分區(qū)方案。

36、本發(fā)明的有益效果是：

37、本發(fā)明提出了一種基于強化學(xué)習(xí)的自適應(yīng)混合數(shù)據(jù)分區(qū)技術(shù)，將數(shù)據(jù)庫數(shù)據(jù)分區(qū)問題建立為馬爾科夫決策過程，利用q學(xué)習(xí)對強化學(xué)習(xí)模型進行訓(xùn)練，同時通過構(gòu)建查詢工作負載預(yù)測模型，找到下一時間段查詢工作負載中各種類查詢出現(xiàn)的頻率，智能推薦合適的數(shù)據(jù)分區(qū)方案。

38、1.建立工作負載預(yù)測模型，基于歷史工作負載來預(yù)測數(shù)據(jù)庫未來一段時間內(nèi)查詢工作負載中各類查詢出現(xiàn)的頻率，便于后續(xù)調(diào)用。

39、2.將混合數(shù)據(jù)分區(qū)問題建模為馬爾科夫決策過程，定義智能體狀態(tài)、動作及獎勵，訓(xùn)練好的強化學(xué)習(xí)模型能夠為到來的查詢工作負載自適應(yīng)推薦出合適的混合數(shù)據(jù)分區(qū)方案，減少了查詢負載執(zhí)行時所需要訪問的數(shù)據(jù)量。