本發(fā)明涉及云處理,尤其涉及一種基于python的車云數(shù)據(jù)質(zhì)量評估方法及系統(tǒng)。
背景技術(shù):
1、隨著車聯(lián)網(wǎng)技術(shù)的普及,車端can數(shù)據(jù)成為車輛狀態(tài)監(jiān)控、故障診斷及駕駛行為分析的重要依據(jù)。
2、然而,在數(shù)據(jù)從車端采集、傳輸至云端的過程中,可能因干擾和錯誤等多種因素導(dǎo)致數(shù)據(jù)質(zhì)量下降,包括數(shù)據(jù)內(nèi)容準(zhǔn)確性問題、數(shù)據(jù)丟失以及時間戳同步性偏差等,以及,現(xiàn)有的數(shù)據(jù)質(zhì)量評估方法多依賴于人工審核,不僅效率低下,且難以全面覆蓋的問題。針對上述出現(xiàn)的問題,目前尚未提出有效的解決方案。
技術(shù)實現(xiàn)思路
1、發(fā)明目的:提供一種基于python的車云數(shù)據(jù)質(zhì)量評估方法及系統(tǒng),以解決現(xiàn)有技術(shù)存在的上述問題。
2、技術(shù)方案:基于python的車云數(shù)據(jù)質(zhì)量評估方法,包括以下步驟:
3、獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫;
4、選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,生成評估結(jié)果;
5、將所述評估結(jié)果生成相應(yīng)的結(jié)果報告;其中,所述結(jié)果報告包括:數(shù)據(jù)丟失率結(jié)果報告、數(shù)據(jù)內(nèi)容準(zhǔn)確性結(jié)果報告和時間戳同步性評估結(jié)果報告。
6、作為優(yōu)選,獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫,包括:
7、車端采集的原始文件、車云數(shù)據(jù)文件、dbc協(xié)議數(shù)據(jù)庫和時間戳偏差范圍;其中,所述時間戳偏差范圍為±2s。
8、作為優(yōu)選,將所述評估結(jié)果生成相應(yīng)的結(jié)果報告之后,還包括:
9、當(dāng)所述數(shù)據(jù)丟失率結(jié)果報告和所述數(shù)據(jù)內(nèi)容準(zhǔn)確性結(jié)果報告滿足預(yù)設(shè)指標(biāo)時,縮小預(yù)設(shè)時間戳范圍,并將縮小后的時間戳范圍內(nèi)的結(jié)果報告與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,以精確時間戳同步性結(jié)果。
10、作為優(yōu)選,獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫之前,還包括:
11、輸入車輛vin碼和需求測試數(shù)據(jù)的起止時間,一鍵下發(fā)遠程調(diào)用任務(wù),拉取測試數(shù)據(jù)至云端數(shù)據(jù)庫,并下載至本地測試端。
12、作為優(yōu)選,輸入車輛vin碼和需求測試數(shù)據(jù)的起止時間,一鍵下發(fā)遠程調(diào)用任務(wù),拉取測試數(shù)據(jù)至云端數(shù)據(jù)庫,并下載至本地測試端之前,還包括:
13、通過can卡硬件設(shè)備連接待測試整車的obd口,啟動數(shù)據(jù)實時采集和記錄功能,持續(xù)預(yù)設(shè)時間,同時將車端數(shù)采ecu記錄數(shù)據(jù)包至本地內(nèi)存。
14、作為優(yōu)選,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
15、通過預(yù)設(shè)python腳本,以云端數(shù)據(jù)庫中提取的can數(shù)據(jù)包為比對基準(zhǔn)數(shù)據(jù),提取數(shù)據(jù)id、數(shù)據(jù)字段和數(shù)據(jù)時間戳信息,并與車端采集的原始數(shù)據(jù)進行比對;
16、獲取原始數(shù)據(jù)相同id,時間戳偏差±2s范圍內(nèi)的所有數(shù)據(jù)字段,逐一與云端數(shù)據(jù)字段比對,以驗證數(shù)據(jù)內(nèi)容的準(zhǔn)確性。
17、作為優(yōu)選,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
18、通過預(yù)設(shè)python腳本,比對車端數(shù)據(jù)包報文幀總數(shù)與云端拉取數(shù)據(jù)包報文幀總數(shù),計算數(shù)據(jù)丟失率;并以車端采集的原始數(shù)據(jù)包為基準(zhǔn)數(shù)據(jù),提取數(shù)據(jù)id、數(shù)據(jù)字段和時間戳,與內(nèi)容評估相同方式,比對車端原始數(shù)據(jù)在云端采集數(shù)據(jù)中是否存在,進一步確認是否存在數(shù)據(jù)包丟失情況。
19、作為優(yōu)選,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
20、比較車端采集控制器記錄上云的數(shù)據(jù)內(nèi)容時間戳與車端發(fā)送時的時間戳,驗證時間差的合理性;并預(yù)設(shè)時間戳閾值,評估時間戳的同步性。
21、為了實現(xiàn)上述目的,根據(jù)本申請的另一方面,提供了一種基于python的車云數(shù)據(jù)質(zhì)量評估系統(tǒng)。
22、根據(jù)本申請的基于python的車云數(shù)據(jù)質(zhì)量評估系統(tǒng),包括:
23、獲取模塊,用于獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫;
24、車云數(shù)據(jù)質(zhì)量評估模塊,用于選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,生成評估結(jié)果;
25、結(jié)果生成模塊,用于將所述評估結(jié)果生成相應(yīng)的結(jié)果報告;其中,所述結(jié)果報告包括:數(shù)據(jù)丟失率結(jié)果報告、數(shù)據(jù)內(nèi)容準(zhǔn)確性結(jié)果報告和時間戳同步性評估結(jié)果報告。
26、為了實現(xiàn)上述目的,根據(jù)本申請的另一方面,提供了一種電子設(shè)備,所述電子設(shè)備包括:至少一個處理器;以及與所述至少一個處理器通信連接的存儲器;其中,所述存儲器存儲有可被所述至少一個處理器執(zhí)行的計算機程序,所述計算機程序被所述至少一個處理器執(zhí)行,以使所述至少一個處理器能夠執(zhí)行本發(fā)明任一項所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法。
27、有益效果:在本申請實施例中,采用基于python自動化評估的方式,通過獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫;選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,生成評估結(jié)果;將所述評估結(jié)果生成相應(yīng)的結(jié)果報告;其中,所述結(jié)果報告包括:數(shù)據(jù)丟失率結(jié)果報告、數(shù)據(jù)內(nèi)容準(zhǔn)確性結(jié)果報告和時間戳同步性評估結(jié)果報告,達到了驗證數(shù)據(jù)內(nèi)容準(zhǔn)確性、數(shù)據(jù)丟失率評估和時間戳同步性的目的,從而實現(xiàn)了提升車云數(shù)據(jù)的質(zhì)量和可靠性的技術(shù)效果,進而解決了在數(shù)據(jù)從車端采集、傳輸至云端的過程中,可能因干擾和錯誤等多種因素導(dǎo)致數(shù)據(jù)質(zhì)量下降,包括數(shù)據(jù)內(nèi)容準(zhǔn)確性問題、數(shù)據(jù)丟失以及時間戳同步性偏差等,以及,現(xiàn)有的數(shù)據(jù)質(zhì)量評估方法多依賴于人工審核,不僅效率低下,且難以全面覆蓋的技術(shù)問題。
28、與相關(guān)的現(xiàn)有技術(shù)相比,本申請至少具有以下主要技術(shù)優(yōu)點,本發(fā)明的有益效果是:
29、全面評估:本發(fā)明實現(xiàn)了對車云數(shù)據(jù)質(zhì)量的多維度評估,包括內(nèi)容準(zhǔn)確性、數(shù)據(jù)丟失率及時間戳同步性等關(guān)鍵指標(biāo)。
30、自動化處理:利用python編程語言實現(xiàn)評估流程的自動化處理,提高了大量數(shù)據(jù)評估的效率和準(zhǔn)確性。
31、易于擴展:評估方法具有良好的可擴展性,可根據(jù)實際需求添加新的評估維度或優(yōu)化現(xiàn)有評估算法。
32、以上描述對技術(shù)方案的有益效果進行了全面且合理的闡述,突出了其在評估全面性、效率提升和可擴展性等方面的優(yōu)勢。
1.基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,包括以下步驟:
2.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫,包括:
3.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,將所述評估結(jié)果生成相應(yīng)的結(jié)果報告之后,還包括:
4.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,獲取車端can數(shù)據(jù)、云端can數(shù)據(jù)和dbc協(xié)議數(shù)據(jù)庫之前,還包括:
5.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,輸入車輛vin碼和需求測試數(shù)據(jù)的起止時間,一鍵下發(fā)遠程調(diào)用任務(wù),拉取測試數(shù)據(jù)至云端數(shù)據(jù)庫,并下載至本地測試端之前,還包括:
6.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
7.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
8.根據(jù)權(quán)利要求1所述的基于python的車云數(shù)據(jù)質(zhì)量評估方法,其特征在于,選擇預(yù)設(shè)時間戳范圍內(nèi)的所述車端can數(shù)據(jù)和云端can數(shù)據(jù),并與所述dbc協(xié)議數(shù)據(jù)庫的內(nèi)容作一致性比對,包括:
9.基于python的車云數(shù)據(jù)質(zhì)量評估系統(tǒng),其特征在于,包括:
10.電子設(shè)備,其特征在于,所述電子設(shè)備包括: