本發(fā)明屬于數(shù)據(jù)處理，更進(jìn)一步涉及電數(shù)字?jǐn)?shù)據(jù)處理中的一種基于細(xì)粒度語(yǔ)義多任務(wù)學(xué)習(xí)的合同與法律一致性審查方法。本發(fā)明通過(guò)挖掘法律合同文本的細(xì)粒度語(yǔ)義特征，對(duì)合同條款與相關(guān)法律條文之間的語(yǔ)義一致性進(jìn)行匹配，從而實(shí)現(xiàn)對(duì)合同與相關(guān)法律一致性的智能化審查。

背景技術(shù)：

1、合同與相關(guān)法律一致性的智能化審查的相關(guān)技術(shù)可以分為四類：第一類，基于自動(dòng)化分析技術(shù)的合同審查工具。該類方法通常根據(jù)關(guān)鍵字類別輸出分析結(jié)果，完成風(fēng)險(xiǎn)檢測(cè)。例如，fenech等人針對(duì)航空公司登機(jī)臺(tái)的案例，開(kāi)發(fā)了一種用于自動(dòng)分析用合同語(yǔ)言編寫(xiě)的合同沖突條款的工具。第二類，基于實(shí)體識(shí)別的合同審查工具。該類方法通常針對(duì)合同進(jìn)行實(shí)體識(shí)別，根據(jù)不同的實(shí)體類別輸出不同的輔助信息。例如，leivaditi等人針對(duì)租賃合同開(kāi)發(fā)了一種名為aleasebert的語(yǔ)言模型，用于提取所涉及到的合同實(shí)體和危險(xiǎn)信號(hào)。許亞瓊等人構(gòu)建了合同命名實(shí)體識(shí)別數(shù)據(jù)集，并基于該數(shù)據(jù)集設(shè)計(jì)了針對(duì)合同文本要素提取的深度學(xué)習(xí)模型。

2、重慶繽博網(wǎng)絡(luò)科技有限公司在其申請(qǐng)的專利文獻(xiàn)“一種利用ai進(jìn)行合同審查預(yù)警的方法及系統(tǒng)”(申請(qǐng)?zhí)枺篶n?202410405960.x，申請(qǐng)公布號(hào)：cn?118229224?a)中提供了一種提供一種利用人工智能進(jìn)行合同審查預(yù)警的方法及系統(tǒng)。該方法的核心步驟如下：首先，訓(xùn)練第一個(gè)合同分類模型，識(shí)別輸入合同的大致類別。然后，訓(xùn)練第二個(gè)合同條款分類模型，確定每個(gè)條款的具體類別。在第二個(gè)模型中被識(shí)別為相同類別的兩個(gè)連續(xù)條款，去除其分詞的交集部分，生成訓(xùn)練樣本。利用樣本訓(xùn)練第三個(gè)模型。第三個(gè)模型的輸出包含一組合同基本條款的分類標(biāo)簽集合。當(dāng)審查新合同時(shí)，便可利用該模型判斷待審查合同是否已包含全部基本條款。若缺少，系統(tǒng)將自動(dòng)輸出缺少條款提示。該發(fā)明仍然存在的不足之處是：雖然自動(dòng)檢查合同條款的完整性可以幫助審查者快速識(shí)別可能缺少的合同要素，但缺乏針對(duì)要素具體語(yǔ)義內(nèi)容的審查方案，審查者無(wú)法通過(guò)該發(fā)明獲取要素內(nèi)容的法律依據(jù)。

3、第三類，基于關(guān)鍵值一致性的合同審查工具。該類方法提取關(guān)鍵交易值，通過(guò)分析前后邏輯是否一致來(lái)判斷合同風(fēng)險(xiǎn)，為合同自動(dòng)化審查提供輔助。例如，zhang等人設(shè)計(jì)了一個(gè)成對(duì)空白解決的端到端框架，通過(guò)檢測(cè)合同在預(yù)編譯格式中預(yù)留的空白處的一致性完成智能化合同審查。第四類，合同文本的理解。該類方法通過(guò)判斷合同文本的關(guān)鍵等級(jí)，幫助律師捕捉合同重點(diǎn)，完成合同審查。例如，hendrycks等人構(gòu)建了合同理解數(shù)據(jù)集cuad(the?contract?understanding?atticus?dataset)，幫助深度學(xué)習(xí)模型自動(dòng)從合同中提取和識(shí)別關(guān)鍵條款。wang等人注釋了一個(gè)大型合同閱讀理解數(shù)據(jù)集maud(the?mergeragreement?understanding?dataset)，對(duì)于給定的交易要點(diǎn)問(wèn)題和交易要點(diǎn)文本，模型可以借助該數(shù)據(jù)集從可能的答案列表中預(yù)測(cè)正確答案。

4、無(wú)憂吾律(無(wú)錫)科技有限公司在其申請(qǐng)的專利文獻(xiàn)“一種基于大語(yǔ)言模型的智能自助合同審查方法”(申請(qǐng)?zhí)枺篶n?202410480404.9，申請(qǐng)公布號(hào)：cn?118379165a)中提供了一種基于大語(yǔ)言模型的智能自助合同審查方法。該方法的實(shí)現(xiàn)步驟可以概括為：1)配置審查點(diǎn)；2)將基于配置好的審查點(diǎn)的審查邏輯通過(guò)大模型問(wèn)答生成可參考的審查步驟；3)合同文本切分及向量化。將合同按照常見(jiàn)中文句子分隔符進(jìn)行劃分或按照合同章節(jié)內(nèi)容劃分，根據(jù)合同的標(biāo)題、格式進(jìn)行切塊；4)合同條款定位。根據(jù)合同和審查邏輯進(jìn)行合同中與該審查點(diǎn)相關(guān)的條款進(jìn)行召回；5)基于條款和審查邏輯生成審查結(jié)果，根據(jù)召回的條款及審查邏輯中的風(fēng)險(xiǎn)判斷方式，設(shè)計(jì)與審查邏輯中判斷風(fēng)險(xiǎn)相關(guān)的prompt，通過(guò)大模型判斷出條款中是否存在風(fēng)險(xiǎn)，并根據(jù)需求生成風(fēng)險(xiǎn)提示和修改建議信息；6)審查結(jié)果定位處理。該方法存在兩點(diǎn)的不足是：其一，通過(guò)自然語(yǔ)言描述生成風(fēng)險(xiǎn)提示和修改建議的方式，無(wú)法精準(zhǔn)地為使用者提供各項(xiàng)合同條款的法律依據(jù)。其二，通過(guò)向量模型直接生成合同條款的句粒度編碼，會(huì)導(dǎo)致對(duì)合同條款的深層語(yǔ)義學(xué)習(xí)不夠充分。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明的目的在于針對(duì)上述現(xiàn)有技術(shù)存在的不足，提出一種基于細(xì)粒度語(yǔ)義多任務(wù)學(xué)習(xí)的合同與法律一致性審查方法，旨在解決現(xiàn)有合同審查方法對(duì)法律文本的深層語(yǔ)義分析不足，未充分考慮合同條款與法律條文之間語(yǔ)義一致性的問(wèn)題。

2、實(shí)現(xiàn)本發(fā)明目的的技術(shù)思路是，通過(guò)串聯(lián)bert模塊和本發(fā)明設(shè)計(jì)的flse模塊，實(shí)現(xiàn)了構(gòu)建法律文本細(xì)粒度語(yǔ)義特征學(xué)習(xí)子網(wǎng)絡(luò)。通過(guò)多層次的語(yǔ)義提取結(jié)構(gòu)同時(shí)學(xué)習(xí)法律文本的粗粒度語(yǔ)義特征和更深層次的細(xì)粒度語(yǔ)義特征，提高對(duì)復(fù)雜法律文本的學(xué)習(xí)能力，改善現(xiàn)有方法在復(fù)雜法律文本理解上存在的不足。本發(fā)明從合同條款與相關(guān)法律條文之間的語(yǔ)義一致性入手，設(shè)計(jì)多任務(wù)學(xué)習(xí)框架，以法律文本語(yǔ)義匹配為主任務(wù)，以法律文本分類為輔任務(wù)，利用主任務(wù)和輔任務(wù)之間的相關(guān)性，從不同角度學(xué)習(xí)法律文本特征，深入理解法律文本包含的語(yǔ)義，從而提高模型對(duì)法律文本的語(yǔ)義理解能力，以此解決現(xiàn)有合同審查方法未充分考慮并學(xué)習(xí)合同條款與法律條文之間語(yǔ)義一致性的問(wèn)題。本發(fā)明針對(duì)法律合同智能化審查的多任務(wù)損失動(dòng)態(tài)融合策略，通過(guò)策略平衡不同任務(wù)在模型訓(xùn)練過(guò)程中所占的權(quán)重，確保輔任務(wù)在提供額外語(yǔ)義信息的同時(shí)，不會(huì)對(duì)主任務(wù)造成過(guò)多的干擾，從而實(shí)現(xiàn)任務(wù)間的最優(yōu)協(xié)同，提高法律條文匹配的效果。

3、為實(shí)現(xiàn)上述目的，本發(fā)明包含以下步驟：

4、步驟1，生成訓(xùn)練集：

5、將至少1200條合同條款及其對(duì)應(yīng)的法律條文組成為樣本集；提取樣本集包含的所有字符，構(gòu)建詞匯映射表；將樣本集中的法律類別進(jìn)行標(biāo)注，將合同條款、對(duì)應(yīng)的法律條文及其法律類別的標(biāo)簽組成訓(xùn)練集；根據(jù)詞匯映射表，對(duì)樣本集包含的法律文本依次進(jìn)行分詞、令牌化預(yù)處理，得到法律文本的令牌序列；

6、步驟2，構(gòu)建由雙向編碼器表征法(bidirectional?encoder?representationsfrom?transformers,bert)模塊、細(xì)粒度法律語(yǔ)義增強(qiáng)模塊(fine-grained?legalsemantics?enhancement,flse)串聯(lián)組成的法律文本細(xì)粒度語(yǔ)義特征學(xué)習(xí)子網(wǎng)絡(luò)；

7、步驟3，構(gòu)建由法律文本細(xì)粒度語(yǔ)義特征學(xué)習(xí)子網(wǎng)絡(luò)、法律條文匹配子網(wǎng)絡(luò)、法律條文分類子網(wǎng)絡(luò)組成的合同法律一致性審查網(wǎng)絡(luò)；

8、步驟4，訓(xùn)練合同法律一致性審查網(wǎng)絡(luò)：

9、將訓(xùn)練集按照批次依次輸入到合同法律一致性審查網(wǎng)絡(luò)中，使用adam損失函數(shù)進(jìn)行模型參數(shù)優(yōu)化，動(dòng)態(tài)更新主任務(wù)和輔任務(wù)所占的權(quán)重值，直至主任務(wù)損失函數(shù)、輔任務(wù)的損失函數(shù)的加權(quán)和收斂為止，得到訓(xùn)練好的合同法律一致性審查網(wǎng)絡(luò)；

10、步驟5，對(duì)合同條款進(jìn)行合同法律一致性審查：

11、采用與步驟1相同的方式，對(duì)測(cè)試集中的法律文本進(jìn)行預(yù)處理，得到令牌序列；將令牌序列輸入到訓(xùn)練好的合同法律一致性審查網(wǎng)絡(luò)中，輸出合同法律一致性的匹配結(jié)果。

12、本發(fā)明與現(xiàn)有技術(shù)相比，具有以下優(yōu)點(diǎn)：

13、第1，本發(fā)明通過(guò)串聯(lián)bert模塊和本發(fā)明設(shè)計(jì)的flse模塊，實(shí)現(xiàn)了構(gòu)建法律文本細(xì)粒度語(yǔ)義特征學(xué)習(xí)子網(wǎng)絡(luò)的技術(shù)思路。該子網(wǎng)絡(luò)可以從法律文本中同時(shí)提取多層次的粗粒度語(yǔ)義特征和細(xì)粒度語(yǔ)義特征，規(guī)避了現(xiàn)有合同智能審查方法對(duì)法律文本深層次語(yǔ)義理解不充分的問(wèn)題，使得本發(fā)明具有更加全面、精準(zhǔn)地理解合同條款的法律含義的優(yōu)點(diǎn)。

14、第2，本發(fā)明通過(guò)構(gòu)建合同法律一致性審查網(wǎng)絡(luò)，以合同條款與相關(guān)法律條文之間的語(yǔ)義一致性為切入點(diǎn)，利用任務(wù)間的特征共享機(jī)制提升了模型對(duì)法律文本的深層次語(yǔ)義理解能力，實(shí)現(xiàn)了設(shè)計(jì)多任務(wù)學(xué)習(xí)框架的技術(shù)思路?？朔爽F(xiàn)有合同智能審查方法未充分考慮合同條款與法律條文之間語(yǔ)義一致性的問(wèn)題，使得本發(fā)明能夠根據(jù)合同條款內(nèi)容，準(zhǔn)確匹配與之相關(guān)的法律條文，從而確保了合同的合法性和準(zhǔn)確性。

15、第3，本發(fā)明在訓(xùn)練合同法律一致性審查網(wǎng)絡(luò)時(shí)，通過(guò)動(dòng)態(tài)平衡主任務(wù)和輔任務(wù)的損失權(quán)重，實(shí)現(xiàn)了針對(duì)法律合同智能化審查設(shè)計(jì)多任務(wù)損失動(dòng)態(tài)融合策略的技術(shù)思路，使得本發(fā)明有效提升了輔任務(wù)對(duì)主任務(wù)的輔助作用，優(yōu)化了主任務(wù)的語(yǔ)義匹配性能，增強(qiáng)了模型學(xué)習(xí)復(fù)雜法律文本的能力，進(jìn)而確保合同審查具備有效性和可靠性。