1.一種改進(jìn)的不確定連續(xù)屬性決策樹的構(gòu)建方法,本發(fā)明涉及機(jī)器學(xué)習(xí)、人工智能以及數(shù)據(jù)挖掘領(lǐng)域,具體涉及一種改進(jìn)的不確定連續(xù)屬性決策樹的構(gòu)建方法,其特征是,包括如下步驟:
步驟1:設(shè)不確定連續(xù)屬性訓(xùn)練集中有X個(gè)樣本,屬性個(gè)數(shù)為n,即同時(shí)分裂屬性對(duì)應(yīng)了m個(gè)類,其中其中屬性值具有連續(xù)不確定性
步驟2:把不確定連續(xù)數(shù)據(jù)屬性的屬性值合并排序,根據(jù)類對(duì)不確定性數(shù)據(jù)屬性進(jìn)行屬性值運(yùn)算,記為概率和對(duì)類進(jìn)行處理得每一分支屬性值的概率勢(shì)
步驟3:創(chuàng)建根節(jié)點(diǎn)G
步驟4:如果訓(xùn)練數(shù)據(jù)集為空,則返回節(jié)點(diǎn)G并標(biāo)記失敗
步驟5:如果訓(xùn)練數(shù)據(jù)集中所有記錄都屬于同一類別,則該類型標(biāo)記節(jié)點(diǎn)G
步驟6:如果候選屬性為空,則返回G為葉子結(jié)點(diǎn),標(biāo)記為訓(xùn)練數(shù)據(jù)集中最普通的類
步驟7:由于連續(xù)屬性值的不確定性,根據(jù)目標(biāo)函數(shù)從候選屬性中選擇
步驟8:標(biāo)記節(jié)點(diǎn)G為屬性
步驟9:由節(jié)點(diǎn)延伸出滿足條件為分支以及子分支,如果滿足以下兩條件之一,就停止建樹,同時(shí)利用先剪支技術(shù)對(duì)決策樹實(shí)施進(jìn)一步優(yōu)化操作
9.1這里假設(shè)為訓(xùn)練數(shù)據(jù)集中的樣本集合,如果為空,加上一個(gè)葉子結(jié)點(diǎn),根據(jù)設(shè)定的算法將此葉子結(jié)點(diǎn)標(biāo)記為訓(xùn)練數(shù)據(jù)集中最普通的類
9.2此節(jié)點(diǎn)中所有例子屬于同一類
步驟10:非9.1與9.2中情況,則遞歸調(diào)用步驟7至步驟9
步驟11:保存改進(jìn)的連續(xù)不確定性屬性的決策樹分類器。
2.根據(jù)權(quán)利要求1中所述的一種改進(jìn)的不確定連續(xù)屬性決策樹的構(gòu)建方法,其特征是,以上所述步驟7中的具體計(jì)算過(guò)程如下:
步驟7:由于連續(xù)屬性值的不確定性,根據(jù)下面目標(biāo)函數(shù)從候選屬性中選擇其具體計(jì)算過(guò)程如下:
目標(biāo)函數(shù):
上式為步驟2中屬性的屬性值對(duì)應(yīng)類為的概率勢(shì),j為屬性值個(gè)數(shù)
當(dāng)選擇屬性滿足目標(biāo)函數(shù)越大時(shí),則找到標(biāo)記節(jié)G。
3.根據(jù)權(quán)利要求1中所述的一種改進(jìn)的不確定連續(xù)屬性決策樹的構(gòu)建方法,其特征是,以上所述步驟9中的具體計(jì)算過(guò)程如下:
步驟9:由節(jié)點(diǎn)延伸出滿足條件為分支以及子分支,如果滿足以下兩條件之一,就停止建樹,同時(shí)利用先剪支技術(shù)對(duì)決策樹實(shí)施進(jìn)一步優(yōu)化操作,其具體計(jì)算過(guò)程如下:
在建樹過(guò)程中,順序利用下列規(guī)則對(duì)樹進(jìn)行剪枝操作:
上式為屬性值中類為L(zhǎng)的個(gè)數(shù),10%、為用戶設(shè)定的一個(gè)閾值,只有滿足用戶需求,才能更好的提高決策樹模型分類以及預(yù)測(cè)精度
9.1這里假設(shè)為訓(xùn)練數(shù)據(jù)集中的樣本集合,如果為空,加上一個(gè)葉子結(jié)點(diǎn),根據(jù)設(shè)定的算法將此葉子結(jié)點(diǎn)標(biāo)記為訓(xùn)練數(shù)據(jù)集中最普通的類,其具體實(shí)現(xiàn)算法如下:
對(duì)于不確定連續(xù)屬性最終樹中類的確定算法:
根據(jù)步驟2中得到的 對(duì)子分支按值從大到小進(jìn)行從右到左排序,從右至左進(jìn)行下列運(yùn)算,
上式h為樹的深度,h<k, c<k
9.2此節(jié)點(diǎn)中所有例子屬于同一類,其具體實(shí)現(xiàn)過(guò)程如下:
分支葉子節(jié)點(diǎn)的確定先對(duì)比訓(xùn)練集再由值大小確定,即
通過(guò)上式就可以確定葉子結(jié)點(diǎn)。