專利名稱：用于處理語音處理請(qǐng)求的方法和系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及網(wǎng)絡(luò)負(fù)載均衡的領(lǐng)域，并且更具體地涉及基于語音處理指定的因素的負(fù)載均衡。
背景技術(shù)：
負(fù)載均衡器通常用于選擇幾個(gè)可用服務(wù)器之一用來處理進(jìn)入的請(qǐng)求。一種傳統(tǒng)的負(fù)載均衡方法基于響應(yīng)時(shí)間來確定服務(wù)器上的相對(duì)負(fù)載。例如，負(fù)載均衡器可以“ping”服務(wù)器，并基于“ping”響應(yīng)時(shí)間來確定負(fù)載。另一種傳統(tǒng)負(fù)載均衡技術(shù)在于，使用例如存儲(chǔ)器、中央處理單元(CPU)用法等的標(biāo)準(zhǔn)硬件度量來確定服務(wù)器負(fù)載。
存在多種行業(yè)標(biāo)準(zhǔn)負(fù)載均衡器，其允許由負(fù)載均衡器使用的負(fù)載均衡算法以插件的形式被指定、添加或更新。當(dāng)前使用中的多數(shù)負(fù)載均衡器在將請(qǐng)求分配給請(qǐng)求處理服務(wù)器時(shí)，未能考慮區(qū)分各個(gè)語音服務(wù)器的服務(wù)器指定的因素。因此，利用傳統(tǒng)技術(shù)，由負(fù)載均衡器以通用的方式來對(duì)待語音服務(wù)器，即使是不同語音服務(wù)器的能力可能彼此之間存在很大差異。
沒有已知行業(yè)標(biāo)準(zhǔn)的負(fù)載均衡器基于語音處理指定的因素來確定負(fù)載，其中所述因素例如是與文語轉(zhuǎn)換(TTS)和/或自動(dòng)語音識(shí)別(ASR)功能唯一相關(guān)的因素。對(duì)于語音服務(wù)器和/或由語音服務(wù)器執(zhí)行的語音處理任務(wù)為唯一的這些因素，可能對(duì)服務(wù)器負(fù)載和負(fù)載確定結(jié)果產(chǎn)生顯著的實(shí)際影響。通過使用如這里所公開的、基于語音處理指定的因素來分配負(fù)載的負(fù)載均衡器，可以達(dá)到語音處理效率上的顯著增益。
另外，沒有已知的語音服務(wù)器以任何方式使用行業(yè)標(biāo)準(zhǔn)負(fù)載均衡器。相反，多數(shù)語音服務(wù)器將負(fù)載均衡的責(zé)任歸于語音客戶端，其中所述語音客戶端典型地采用利用客戶側(cè)查尋(hunt)列表的簡單循環(huán)法路由。

發(fā)明內(nèi)容
提供了一種根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、用于語音服務(wù)器的負(fù)載均衡算法，該負(fù)載均衡算法是基于語音處理指定的因素的。所述負(fù)載均衡算法可以基于語音利用率分?jǐn)?shù)，其中所述語音利用率分?jǐn)?shù)反映了語音服務(wù)器接受附加的語音服務(wù)請(qǐng)求的能力。所述算法可以考慮各種不同的影響語音的因素和資源。另外，所述負(fù)載均衡算法可以對(duì)應(yīng)于指定語音服務(wù)器，并且可以特別針對(duì)該語音服務(wù)器而被調(diào)整。因此，幾個(gè)不同的語音服務(wù)器每個(gè)都可以基于針對(duì)該語音服務(wù)器而被唯一調(diào)整的負(fù)載均衡算法來確定語音利用率分?jǐn)?shù)。
本發(fā)明可以根據(jù)與這里所介紹的素材一致的若干方面來被實(shí)現(xiàn)。例如，本發(fā)明的一個(gè)方面可以包括這樣的負(fù)載均衡器其使用與一個(gè)或多個(gè)語音利用率算法關(guān)聯(lián)的一個(gè)或多個(gè)插入式接收器(receptor)。所述語音利用率算法可以基于語音處理因素來計(jì)算語音服務(wù)器負(fù)載。所述負(fù)載均衡器可以使用這些計(jì)算來將語音處理請(qǐng)求路由到具有用于處理所述請(qǐng)求的可用容量的語音服務(wù)器。
所述插入式接收器遵循已知的行業(yè)標(biāo)準(zhǔn)，并且語音服務(wù)器管理員可以使用標(biāo)準(zhǔn)接口來配置語音利用率算法。例如，所述行業(yè)標(biāo)準(zhǔn)可以是基于JAVA2企業(yè)版(J2EE)的標(biāo)準(zhǔn)。所述插入式接收器遵循JAVA連接器結(jié)構(gòu)(JCA)。所述負(fù)載均衡器可以是WEBSPHERE應(yīng)用服務(wù)器(WAS)邊緣服務(wù)器負(fù)載均衡器。由所述負(fù)載均衡器管理的一個(gè)或多個(gè)語音服務(wù)器可以是WEBSPHERE語音服務(wù)器。所述行業(yè)標(biāo)準(zhǔn)和相符合的部件僅用于進(jìn)行說明，并且本發(fā)明不限于此。
本發(fā)明的另一方面是一種基于計(jì)算機(jī)的方法，所述方法用于基于語音利用率負(fù)載來自動(dòng)選擇用于處理語音處理請(qǐng)求的語音服務(wù)器。計(jì)算機(jī)向一個(gè)或多個(gè)語音服務(wù)器查詢語音處理負(fù)載數(shù)據(jù)。語音利用率分?jǐn)?shù)可以針對(duì)每個(gè)被查詢的語音服務(wù)器而被計(jì)算，以便每個(gè)語音處理請(qǐng)求被路由到通過所述查詢的結(jié)果而被確定的最小加載的服務(wù)器。
本發(fā)明的又一方面可以包括用于處理語音處理請(qǐng)求的系統(tǒng)。所述系統(tǒng)可以包括兩個(gè)或更多語音服務(wù)器和至少一個(gè)負(fù)載均衡器。所述語音服務(wù)器可以處理語音處理請(qǐng)求，例如ASR請(qǐng)求和TTS請(qǐng)求。所述語音服務(wù)器中每一個(gè)都可以包括語音負(fù)載均衡器小服務(wù)程序和符合J2EE的資源適配器。所述資源適配器可以包括這樣的負(fù)載均衡算法其基于至少一個(gè)語音處理指定的因素來計(jì)算關(guān)聯(lián)服務(wù)器的負(fù)載。所述語音負(fù)載均衡器小服務(wù)程序可以用作所述負(fù)載均衡器與所述資源適配器之間的接口。
應(yīng)當(dāng)指出，本發(fā)明的各個(gè)方面可以被實(shí)現(xiàn)為用于控制計(jì)算設(shè)備以實(shí)現(xiàn)這里描述的功能的程序，或用于使計(jì)算設(shè)備能夠執(zhí)行與這里公開的步驟相對(duì)應(yīng)的過程的程序?？梢酝ㄟ^將所述程序存儲(chǔ)在磁盤、光盤、半導(dǎo)體存儲(chǔ)器或任何其它記錄介質(zhì)中來提供這個(gè)程序。所述程序還可以作為通過載波傳送的數(shù)字編碼的信號(hào)而被提供。所描述的程序可以是單個(gè)程序，或可以被實(shí)現(xiàn)為多個(gè)子程序，其中所述多個(gè)子程序中每一個(gè)在單個(gè)計(jì)算設(shè)備內(nèi)進(jìn)行交互，或以分布式的方式跨越網(wǎng)絡(luò)空間進(jìn)行交互。
還應(yīng)當(dāng)指出，這里詳述的方法還可以響應(yīng)于服務(wù)請(qǐng)求而至少部分上由服務(wù)代理和/或由服務(wù)代理操縱的機(jī)器來執(zhí)行。


附圖中示出了當(dāng)前優(yōu)選的實(shí)施例，然而應(yīng)當(dāng)理解，本發(fā)明不限于所示出的確切安排和手段。
-圖1是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、用于利用多個(gè)語音服務(wù)器來處理語音處理請(qǐng)求的系統(tǒng)的示意圖；-圖2是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、由負(fù)載均衡器所使用的一個(gè)預(yù)期的語音利用率算法的示例性代碼；-圖3是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、由負(fù)載均衡器所使用的另一個(gè)預(yù)期的語音利用率算法的示例性代碼；-圖4是用于根據(jù)這里公開的本發(fā)明安排的實(shí)施例、實(shí)現(xiàn)語音利用率算法的方法的流程圖；
-圖5是一種方法的流程圖，其中服務(wù)代理可以根據(jù)這里公開的本發(fā)明安排的實(shí)施例為用戶配置語音利用率算法。
具體實(shí)施例方式
圖1是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、用于利用多個(gè)語音服務(wù)器來處理語音處理請(qǐng)求的系統(tǒng)100的示意圖。系統(tǒng)100可以包括客戶端110，該客戶端經(jīng)由網(wǎng)絡(luò)170通信鏈接到負(fù)載均衡器120，其中負(fù)載均衡器120經(jīng)由網(wǎng)絡(luò)172通信鏈接到語音服務(wù)器130和140。
客戶端110可以是語音使能的客戶端，其中一個(gè)或多個(gè)語音處理任務(wù)被遠(yuǎn)程執(zhí)行?？蛻舳?10可以包括語音使能的應(yīng)用112和語音處理通信器114。語音處理通信器114可以被配置用來向負(fù)載均衡器120提交語音處理請(qǐng)求。通信器114還可以被通信鏈接到語音服務(wù)器130和/或140中的一個(gè)，以便將所述請(qǐng)求指定的信息傳送給所鏈接的語音服務(wù)器，并且可以接收由所鏈接的語音服務(wù)器所執(zhí)行的語音處理任務(wù)的結(jié)果。
負(fù)載均衡器120可以確定多個(gè)語音服務(wù)器130和140的負(fù)載，并且可以基于所確定的負(fù)載來選擇所述語音服務(wù)器130和140之一用于處理進(jìn)入的語音處理請(qǐng)求。請(qǐng)求管理和選路可以由請(qǐng)求管理引擎122來處理。語音服務(wù)器130和140上的負(fù)載可以至少部分上基于語音處理指定的因素。
在一個(gè)實(shí)施例中，負(fù)載均衡器120可以包括插入式接收器124。插入式接收器124可以關(guān)聯(lián)于由請(qǐng)求管理引擎122所利用的一個(gè)或多個(gè)負(fù)載均衡算法。這些負(fù)載均衡算法可以在部署后的階段由被授權(quán)的系統(tǒng)管理員或系統(tǒng)技術(shù)人員來添加、移除和更新。即，插入式接收器124可以提供一種可擴(kuò)展的裝置，其中由請(qǐng)求管理引擎122使用的負(fù)載均衡算法可以通過該裝置而被更改。
插入式接收器124遵循已知行業(yè)標(biāo)準(zhǔn)，例如J2EE標(biāo)準(zhǔn)。在一個(gè)實(shí)施例中，J2EE標(biāo)準(zhǔn)可以是基于J2EE連接器結(jié)構(gòu)(JCA)的標(biāo)準(zhǔn)。已知行業(yè)標(biāo)準(zhǔn)的利用允許第三方轉(zhuǎn)售商構(gòu)建或定制操作于系統(tǒng)100中的負(fù)載均衡算法。另外，已知行業(yè)標(biāo)準(zhǔn)的使用可以允許系統(tǒng)管理員利用遵循已知標(biāo)準(zhǔn)的其它系統(tǒng)的現(xiàn)有知識(shí)，而不需要關(guān)于負(fù)載均衡器120指定的機(jī)制廣泛培訓(xùn)管理員，其中所述負(fù)載均衡器120指定的機(jī)制當(dāng)使用傳統(tǒng)技術(shù)時(shí)通常是銷售商指定的專有機(jī)制。
設(shè)想插入式接收器124可以被配置以使得負(fù)載均衡算法可以直接被載入負(fù)載均衡器120中，所述算法在該負(fù)載均衡器中被執(zhí)行。還設(shè)想插入式接收器124被通信鏈接到駐留于語音服務(wù)器130和/或140內(nèi)的部件。
在后一設(shè)想的配置中，負(fù)載均衡算法對(duì)于語音服務(wù)器130和/或140可以是本地的，并且可以本地執(zhí)行。有利地，使用對(duì)語音服務(wù)器130和/或140為本地的負(fù)載均衡算法，可以允許負(fù)載均衡算法隨節(jié)點(diǎn)(或隨語音服務(wù)器)而變化。另外，使用本地負(fù)載均衡算法可以允許具有有限特權(quán)(例如針對(duì)由負(fù)載均衡器120管理的群集中的一個(gè)語音服務(wù)器而不是其它語音服務(wù)器的特權(quán))的本地管理來優(yōu)化針對(duì)該語音服務(wù)器的算法。此外，在語音服務(wù)器的級(jí)別執(zhí)行負(fù)載均衡算法來計(jì)算語音利用率負(fù)載或語音利用率分?jǐn)?shù)，從資源消耗的角度來看可能要比在負(fù)載均衡器120執(zhí)行算法更有效。它還可以允許負(fù)載均衡器120被高效地實(shí)現(xiàn)在硬件上，其中該硬件與可用于語音服務(wù)器的資源相比具有相對(duì)有限的計(jì)算資源。
也設(shè)想了這兩種方法的組合，其中所述負(fù)載均衡算法的一部分包含于對(duì)負(fù)載均衡器120為本地的數(shù)據(jù)存儲(chǔ)單元中，并且其中不同的部分包含于對(duì)語音服務(wù)器130和/或140為本地的數(shù)據(jù)存儲(chǔ)單元中。例如，默認(rèn)的負(fù)載均衡算法可以包含于負(fù)載均衡器120中，其通常用于不具有本地配置的負(fù)載均衡算法的語音服務(wù)器130和/或140。在另一個(gè)例子中，所述負(fù)載均衡器可以包括一個(gè)或多個(gè)負(fù)載均衡算法，其中所述算法被傳送給正被管理的語音服務(wù)器130和/或140。所傳送的算法可以由語音服務(wù)器130和/或140來執(zhí)行，并且所述算法的結(jié)果可以被傳送給負(fù)載均衡器120。
語音服務(wù)器130和/或140中每一個(gè)都可以是能夠執(zhí)行一個(gè)或多個(gè)語音處理任務(wù)的應(yīng)用，所述任務(wù)例如是文語轉(zhuǎn)換(TTS)任務(wù)和/或自動(dòng)語音識(shí)別(ASR)任務(wù)。語音服務(wù)器130和/或140可以被歸入一個(gè)或多個(gè)群集中，例如群集147和148。另外，語音服務(wù)器140的一部分可以被實(shí)現(xiàn)在應(yīng)用服務(wù)器146內(nèi)。應(yīng)用服務(wù)器146可以是J2EE應(yīng)用服務(wù)器，例如WEBSPHERE應(yīng)用服務(wù)器(WAS)。
用于系統(tǒng)100中的語音服務(wù)器不必被實(shí)現(xiàn)在應(yīng)用服務(wù)器146內(nèi)，如通過語音服務(wù)器130所示的那樣，而是可以以現(xiàn)有技術(shù)中已知的多種方式中的任一種被實(shí)現(xiàn)。例如，語音服務(wù)器130可以是獨(dú)立的設(shè)備，其遵循針對(duì)插入式接收器124所指定的行業(yè)標(biāo)準(zhǔn)。
語音服務(wù)器130和140中每一個(gè)都可以包括語音負(fù)載均衡器小服務(wù)程序132和/或142，以及資源適配器134和/或144。語音負(fù)載均衡器小服務(wù)程序132和/或134可以是用于與負(fù)載均衡器120通信的接口。在一個(gè)實(shí)施例中，小服務(wù)程序132和/或142可以是到插入式接收器124的接口。小服務(wù)程序132和/或142還可以是到資源適配器134和/或144的接口。
資源適配器134和/或144可以包括由語音服務(wù)器130和/或140中關(guān)聯(lián)的那個(gè)所使用的負(fù)載均衡算法。所述負(fù)載均衡算法可以是包括一個(gè)或多個(gè)語音處理和/或語音服務(wù)器指定的因素的語音利用率算法。資源適配器134和/或144符合J2EE連接器結(jié)構(gòu)(JCA)。資源適配器134和/或144可以使不同負(fù)載均衡算法的部署、安裝和修改成為相對(duì)簡單的過程。
管理控制臺(tái)160和/或162可以由被授權(quán)的管理員使用以部署、添加、刪除、激活、更新和操縱所述負(fù)載均衡算法。管理控制臺(tái)160和/或162是符合已知行業(yè)標(biāo)準(zhǔn)的標(biāo)準(zhǔn)化控制臺(tái)。例如，管理控制臺(tái)160可以是用于部署J2EE資源適配器部件的WAS管理控制臺(tái)。
網(wǎng)絡(luò)170和/或網(wǎng)絡(luò)172可以包括針對(duì)傳送被編碼到載波中的數(shù)據(jù)所必需的任何硬件/軟件/固件。數(shù)據(jù)可以包含于模擬或數(shù)字信號(hào)中，并且通過數(shù)據(jù)或語音信道而被傳送。網(wǎng)絡(luò)170和網(wǎng)絡(luò)172可以包括本地部件和數(shù)據(jù)路徑，其對(duì)于要在計(jì)算設(shè)備部件之中以及在集成設(shè)備部件與外圍設(shè)備之間被交換的通信而言是必要的。網(wǎng)絡(luò)170和網(wǎng)絡(luò)172還可以包括共同構(gòu)成例如互聯(lián)網(wǎng)的數(shù)據(jù)網(wǎng)絡(luò)的網(wǎng)絡(luò)設(shè)備，例如路由器、數(shù)據(jù)線、集線器和中間服務(wù)器。網(wǎng)絡(luò)170和網(wǎng)絡(luò)172還可以包括基于電路的通信部件和移動(dòng)通信部件，例如電話交換機(jī)、調(diào)制解調(diào)器、蜂窩通信塔等。網(wǎng)絡(luò)170和172可以包括基于線路的和/或無線的通信路徑。
應(yīng)當(dāng)認(rèn)識(shí)到，系統(tǒng)100的安排僅出于說明的目的，并且這里設(shè)想了不同的相容的安排。說明性部件可以被組合以構(gòu)成實(shí)現(xiàn)這里詳述的分離部件的功能的單一部件。例如，負(fù)載均衡器120可以是應(yīng)用服務(wù)器146的部件。類似地，系統(tǒng)100的單一部件可以被分成多個(gè)部件，這多個(gè)部件共同擁有這里詳述的功能。
圖2是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、由負(fù)載均衡器使用的一種期望的語音利用率算法200的示例性代碼。圖3是根據(jù)這里公開的本發(fā)明安排的實(shí)施例的、由負(fù)載均衡器使用的另一種期望的語音利用率算法300的示例性代碼。語音利用率算法200和/或算法300每個(gè)都可以是確定語音服務(wù)器130和/或語音服務(wù)器140的語音利用率負(fù)載的算法中的一個(gè)。
語音利用率算法200和算法300只是用來基于語音處理指定的因素來確定負(fù)載的兩種期望的算法。本領(lǐng)域的技術(shù)人員可以用許多方式來調(diào)整算法200和/或算法300的細(xì)節(jié)，以優(yōu)化用于特定語音服務(wù)器、語音處理群集、針對(duì)其而優(yōu)化群集的語音處理區(qū)域等的算法。因此，算法200和算法300應(yīng)當(dāng)被構(gòu)建為這里詳述的一般概念的具體例子。本發(fā)明不應(yīng)當(dāng)被解釋為限于包含于算法200和/或算法300中的確切細(xì)節(jié)，而是應(yīng)當(dāng)包括根據(jù)一個(gè)或多個(gè)語音處理因素來確定負(fù)載的任何算法。
例如，在另一種期望的語音利用率算法(未示出)中，所述語音利用率分?jǐn)?shù)可能是基于遠(yuǎn)端語音服務(wù)器向呼叫方遞送回實(shí)時(shí)音頻的能力。所述算法可以主要用于TTS語音處理任務(wù)。例如，實(shí)時(shí)語音遞送度量和/或計(jì)算可以說明，音頻分組的5％在20毫秒的實(shí)時(shí)遞送速率窗口之外被遞送。該百分比可以被轉(zhuǎn)換成級(jí)別為1的語音利用率，其中該級(jí)別指示相對(duì)較輕的負(fù)載。因素可以被調(diào)整以確保實(shí)現(xiàn)語音的實(shí)時(shí)或接近實(shí)時(shí)的遞送。這些因素中的一些可以包括添加優(yōu)先化方案，從而與其它不具有實(shí)時(shí)性能考慮的請(qǐng)求相比，增加具有實(shí)時(shí)性能考慮的請(qǐng)求的相對(duì)優(yōu)先級(jí)。
下列約定用于算法200和300，其每個(gè)都接受語音處理指定的因素作為輸入。不是專用于語音服務(wù)器的其他因素可以與語音處理指定的因素相組合，所述其他因素例如是服務(wù)器上消耗的CPU周期、每服務(wù)器的CPU數(shù)量、ping的響應(yīng)時(shí)間等。應(yīng)當(dāng)指出，下面提供的輸入并不旨在作為可用來確定語音利用率分?jǐn)?shù)的輸入的全面列表，并且并不是這里描述的所有輸入都要被每個(gè)語音利用率算法所使用。

圖表1算法的輸入語音利用率算法的輸出是語音利用率分?jǐn)?shù)。在一個(gè)實(shí)施例中，這個(gè)分?jǐn)?shù)可以表示為所計(jì)算的服務(wù)器利用率百分比。所述分?jǐn)?shù)或百分比還可以分為各種不同的利用率級(jí)別。如下所示，建立了四個(gè)利用率級(jí)別，包括低、中、高和完全。所使用的利用率級(jí)別的數(shù)量是可變的，并且可以建立任意數(shù)量的級(jí)別。在下面使用的約定中，較高的利用率級(jí)別或利用率權(quán)重指示較大的負(fù)載。

圖表2算法的采樣輸出算法200是基于相對(duì)于所配置引擎的數(shù)量的使用中的語音引擎數(shù)量，以及例如CPU利用率的其他因素。具體地，機(jī)器利用率的百分比可以根據(jù)以下來計(jì)算X乘以所利用的CPU百分比，加上Y乘以使用中的ASR的數(shù)量除以ASR引擎數(shù)量最大值，加上Z乘以使用中的TTS引擎的數(shù)量除以TTS引擎數(shù)量最大值。這里X、Y和Z代表可配置參數(shù)，該參數(shù)可以在計(jì)算所述語音利用率分?jǐn)?shù)時(shí)被調(diào)整以增加一個(gè)語音處理因素相對(duì)于另一因素的權(quán)重。
算法200可以被設(shè)置為利用靜態(tài)或動(dòng)態(tài)因素操作，該因素改變計(jì)算ASR引擎最大值和TTS引擎最大值所用的方式。當(dāng)在動(dòng)態(tài)配置中時(shí)，ASR引擎最大值和TTS引擎最大值可以基于機(jī)器的總處理能力和每機(jī)器的CPU數(shù)量來被計(jì)算。例如，ASR引擎最大值可以等于機(jī)器的GHz額定值(rating)乘以百分之六十除以每ASR的CPU數(shù)量。所述TTS引擎最大值可以等于機(jī)器的GHz額定值乘以百分之六十除以每TTS的CPU數(shù)量。
當(dāng)在靜態(tài)配置中時(shí)，ASR引擎最大值可以等于所配置ASR引擎的總數(shù)量。TTS引擎最大值可以等于所配置TTS引擎的總數(shù)量。
用于算法200的動(dòng)態(tài)因素計(jì)算的例子如下，其中X＝0％；Y＝100％；
以及Z＝0％1)每ASR的CPU＝50MHz(獲取自配置工具)2)機(jī)器的GHz＝4GHz(獲取自系統(tǒng)信息)3)使用中的ASR引擎＝12(獲取自配置工具)4)ASR引擎最大值＝((機(jī)器的GHz×60％)/每ASR的CPU)＝4GHz×60％/50MHz＝2.4GHz/50MHz＝48。
5)百分比機(jī)器利用率＝((X×CPU百分比利用率)+(Y×(使用中的ASR引擎×100)/ASR引擎最大值))+(Z×(使用中的TTS引擎×100)/TTS引擎最大值)))＝使用中的ASR引擎/ASR引擎最大值＝12/48＝25％6)25％的利用率級(jí)別＝1例1動(dòng)態(tài)因素計(jì)算算法300基于會(huì)話數(shù)量、到達(dá)速率、占空比和預(yù)測來計(jì)算語音利用率負(fù)載。占空比百分?jǐn)?shù)等于會(huì)話中的(ASR或TTS)秒數(shù)除以整個(gè)會(huì)話的秒數(shù)。每秒的會(huì)話數(shù)和每會(huì)話的總秒數(shù)是通常由語音服務(wù)器所維持的統(tǒng)計(jì)。
ASR利用率等于每秒的會(huì)話數(shù)量乘以ASR占空比乘以預(yù)測周期加上使用中的ASR引擎的數(shù)量再除以所配置ASR引擎的數(shù)量。TTS利用率等于每秒的會(huì)話數(shù)量乘以TTS占空比乘以預(yù)測周期加上使用中的TTS引擎的數(shù)量再除以所配置TTS引擎的數(shù)量。
基于算法300的ASR利用率的例子如下1)會(huì)話中的ASR秒數(shù)＝12秒(由系統(tǒng)統(tǒng)計(jì)來確定)2)整個(gè)會(huì)話的秒數(shù)＝120秒(由系統(tǒng)統(tǒng)計(jì)來確定)3)ASR占空比＝#會(huì)話中的ASR秒數(shù)/#整個(gè)會(huì)話的秒數(shù)＝12/120＝10％4)每秒的會(huì)話＝20個(gè)會(huì)話/秒5)預(yù)測周期＝5秒
6)使用中的ASR引擎＝15(獲取自配置工具)7)所配置的ASR引擎＝30(獲取自配置工具)8)ASR利用率百分比＝(每秒的會(huì)話×ASR占空比×預(yù)測周期+使用中的ASR引擎)/所配置的ASR引擎＝(20個(gè)會(huì)話/秒×10％×5秒+15個(gè)引擎)/30個(gè)引擎＝(10個(gè)引擎+15個(gè)引擎)/30個(gè)引擎＝25個(gè)引擎/30個(gè)引擎＝83％9)83％的利用率級(jí)別＝3例2ASR利用率計(jì)算圖4是用于根據(jù)這里公開的本發(fā)明安排的實(shí)施例、實(shí)現(xiàn)語音利用率算法的方法400的流程圖。方法400可以在負(fù)載均衡器的情況下被執(zhí)行，其中該負(fù)載均衡器選擇多個(gè)語音服務(wù)器之一用于處理進(jìn)入的客戶端語音處理請(qǐng)求。在一個(gè)實(shí)施例中，方法400可以在系統(tǒng)100的情況下被執(zhí)行。方法400的語音利用率算法可以被實(shí)現(xiàn)為算法200、算法300，或者是利用一個(gè)或多個(gè)語音處理指定的因素來確定語音利用率分?jǐn)?shù)或語音利用率級(jí)別的任何算法。
方法400開始于步驟405，其中一個(gè)或多個(gè)語音利用率算法可以針對(duì)一個(gè)或多個(gè)語音服務(wù)器而被安裝或配置。在一個(gè)實(shí)施例中，步驟405可以利用部署資源適配器的管理控制臺(tái)來被執(zhí)行，其中該資源適配器包含所述語音服務(wù)器內(nèi)的語音利用率算法。在步驟410，負(fù)載均衡器小服務(wù)程序?qū)⒈怀跏蓟?。所述小服?wù)程序?qū)τ诎稣Z音利用率算法的語音服務(wù)器可以是本地的，和/或?qū)τ诠芾韮蓚€(gè)或更多語音服務(wù)器的語音處理請(qǐng)求的負(fù)載均衡器可以是本地的。
在步驟415，所述負(fù)載均衡器可以訪問所述語音服務(wù)器中的一個(gè)或多個(gè)資源適配器。在步驟420，所述資源適配器可以鏈接到相應(yīng)語音服務(wù)器的語音利用率算法。因此，所述負(fù)載均衡器可以經(jīng)由所述資源適配器而鏈接到所述語音利用率算法。
在步驟425，所述負(fù)載均衡器可以從客戶端接收語音處理請(qǐng)求。在步驟430，所述負(fù)載均衡器可以向所述語音服務(wù)器中的一個(gè)或多個(gè)提交負(fù)載查詢。所述語音服務(wù)器可以執(zhí)行所述語音處理算法以確定語音利用率分?jǐn)?shù)。所述語音利用率分?jǐn)?shù)可以可選地被轉(zhuǎn)換為語音利用率級(jí)別。在步驟435，語音利用率分?jǐn)?shù)和/或語音利用率級(jí)別可以由所述負(fù)載均衡器從所述語音服務(wù)器中的一個(gè)或多個(gè)來接收。在步驟440，所述負(fù)載均衡器可以基于所述語音利用率分?jǐn)?shù)和/或語音利用率級(jí)別來選擇用于處理所述請(qǐng)求的語音服務(wù)器。在步驟445，所選擇的語音服務(wù)器可以處理所述請(qǐng)求。所述請(qǐng)求可以例如是TTS和/或ASR處理請(qǐng)求。
在所述負(fù)載均衡器已對(duì)所述請(qǐng)求分配語音服務(wù)器之后，附加請(qǐng)求可以被接收和/或被分配給可用的語音服務(wù)器。因此，所述方法可以從步驟440跳轉(zhuǎn)回步驟425。應(yīng)當(dāng)認(rèn)識(shí)到，當(dāng)所分配的請(qǐng)求正被一個(gè)或多個(gè)不同的語音服務(wù)器處理時(shí)，所述負(fù)載均衡器可以持續(xù)地管理新的請(qǐng)求(如圖4所示，步驟445和從步驟440到步驟425的跳轉(zhuǎn)彼此無關(guān)地進(jìn)行)。
圖5是方法500的流程圖，其中服務(wù)代理可以根據(jù)這里公開的本發(fā)明安排的實(shí)施例為用戶配置語音利用率算法。方法500可以在系統(tǒng)100的情況下或在使用至少一個(gè)語音利用率算法的任何負(fù)載均衡系統(tǒng)的情況下被執(zhí)行。
方法500開始于步驟505，這時(shí)用戶發(fā)起服務(wù)請(qǐng)求。所述服務(wù)請(qǐng)求可以是這樣的請(qǐng)求使服務(wù)代理為一個(gè)或多個(gè)客戶端計(jì)算機(jī)配置語音處理系統(tǒng)。
參考系統(tǒng)100，客戶端110可以是使用由采用服務(wù)代理的實(shí)體所提供的語音處理服務(wù)的用戶計(jì)算機(jī)。所述語音處理服務(wù)可以使用負(fù)載均衡器120和/或包含多個(gè)語音服務(wù)器140的J2EE應(yīng)用服務(wù)器146。
在步驟510，人類代理可以被選擇以對(duì)所述服務(wù)請(qǐng)求作出響應(yīng)。在步驟515，所述人類代理可以分析用戶的語音處理需求、設(shè)備和配置。另外，所述人類代理可以分析現(xiàn)有語音服務(wù)器的可用容量，以確定現(xiàn)有基礎(chǔ)設(shè)施能夠處理由于新的用戶請(qǐng)求所引起的增加的負(fù)載。所述代理可以適當(dāng)?shù)刂匦屡渲秘?fù)載均衡器和語音利用率算法，以處理當(dāng)前的和預(yù)期的負(fù)載。所述代理還可以在必要時(shí)分配附加的語音處理資源，以處理當(dāng)前的和/或預(yù)期的負(fù)載。
在步驟520，所述人類代理可以使用一個(gè)或多個(gè)計(jì)算設(shè)備來執(zhí)行或致使計(jì)算機(jī)設(shè)備執(zhí)行方法400的步驟。例如，所述代理可以配置用戶的客戶端設(shè)備以自動(dòng)向遠(yuǎn)端負(fù)載均衡器傳送語音處理請(qǐng)求。與所述負(fù)載均衡器和/或語音服務(wù)器進(jìn)行通信所需要的軟件組件也可以被配置。
明顯地，所述人類代理所使用的一個(gè)或多個(gè)計(jì)算設(shè)備可以包括用戶的計(jì)算機(jī)、所述人類代理所使用的移動(dòng)計(jì)算設(shè)備、網(wǎng)絡(luò)化的計(jì)算設(shè)備以及其組合。所述人類代理可以對(duì)中間件應(yīng)用服務(wù)器和/或利用該中間件服務(wù)器的客戶端操作的管理信息系統(tǒng)作出調(diào)整。例如，所述人類代理可以在中間件應(yīng)用服務(wù)器(例如WAS應(yīng)用服務(wù)器)內(nèi)加載并配置語音識(shí)別應(yīng)用，并且可以調(diào)整用戶的計(jì)算機(jī)系統(tǒng)的接口參數(shù)以與應(yīng)用服務(wù)器進(jìn)行交互。
在可選的步驟525中，所述人類代理可以以這樣的方式來配置用戶計(jì)算機(jī)該用戶或該用戶的客戶端可以執(zhí)行將來的方法400的一個(gè)或多個(gè)步驟，例如使用戶能夠自動(dòng)執(zhí)行將來的語音處理請(qǐng)求。在步驟530，所述人類代理可以完成所述服務(wù)活動(dòng)。
應(yīng)當(dāng)指出，盡管所述人類代理可以物理地移至本地位置以調(diào)整用戶計(jì)算機(jī)或應(yīng)用服務(wù)器，但物理移動(dòng)可能是不必要的。例如，所述人類代理可以使用遠(yuǎn)端代理來遠(yuǎn)端操縱用戶計(jì)算機(jī)系統(tǒng)和/或應(yīng)用服務(wù)器。
本發(fā)明可以用硬件、軟件或硬件和軟件的組合來實(shí)現(xiàn)。本發(fā)明可以用一個(gè)計(jì)算機(jī)系統(tǒng)內(nèi)的集中式方式或用分布式方式來實(shí)現(xiàn)，在所述分布方式中不同的單元散布于幾個(gè)互連的計(jì)算機(jī)系統(tǒng)之中。適于實(shí)現(xiàn)這里描述的方法的任何類型的計(jì)算機(jī)系統(tǒng)或其它裝置都是適合的。硬件和軟件的典型組合可能是具有計(jì)算機(jī)程序的通用計(jì)算機(jī)系統(tǒng)，其中該計(jì)算機(jī)程序在被加載并執(zhí)行時(shí)控制所述計(jì)算機(jī)系統(tǒng)以使它實(shí)現(xiàn)這里描述的方法。
本發(fā)明還可以被嵌入計(jì)算機(jī)程序產(chǎn)品，該計(jì)算機(jī)程序產(chǎn)品包括能實(shí)現(xiàn)這里描述的方法的所有特征并且在被載入計(jì)算機(jī)系統(tǒng)中時(shí)能夠?qū)崿F(xiàn)這些方法。本上下文中的計(jì)算機(jī)程序是指一組指令以任何語言、代碼或符號(hào)的任何表示，其中所述指令旨在致使系統(tǒng)具有直接地或在下列任一操作或兩個(gè)操作之后執(zhí)行特定功能的信息處理能力a)轉(zhuǎn)換為另一語言、代碼或符號(hào)；b)以不同素材的形式再生。
可以在不脫離本發(fā)明的精神或基本屬性的情況下以其它形式體現(xiàn)本發(fā)明。因此，應(yīng)當(dāng)參考以下指示本發(fā)明范圍的權(quán)利要求，而不是前面的描述。
權(quán)利要求
1.一種機(jī)器可讀存儲(chǔ)單元，其包括一組用于負(fù)載均衡的指令，所述存儲(chǔ)單元包括至少一個(gè)插入式接收器，其中，所述插入式接收器符合已知行業(yè)標(biāo)準(zhǔn)并且關(guān)聯(lián)于多個(gè)負(fù)載均衡算法，其中，所述負(fù)載均衡器利用從所述負(fù)載均衡算法中選出的算法來確定多個(gè)語音服務(wù)器中用于處理進(jìn)入的語音處理請(qǐng)求的語音服務(wù)器，其中，從所述負(fù)載均衡算法中選出的算法中的至少一個(gè)包括語音利用率算法；以及所述語音利用率算法，其被配置用來基于多個(gè)語音處理指定的因素而計(jì)算所述多個(gè)語音服務(wù)器中至少一個(gè)的語音利用率分?jǐn)?shù)。
2.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，所述已知行業(yè)標(biāo)準(zhǔn)是J2EE標(biāo)準(zhǔn)。
3.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，所述插入式接收器符合J2EE連接器結(jié)構(gòu)。
4.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，所述語音利用率算法包含在相應(yīng)語音服務(wù)器的符合J2EE的資源適配器中。
5.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，所述語音服務(wù)器中每一個(gè)都包括語音負(fù)載均衡器小服務(wù)程序，并且包括J2EE資源適配器，其中，所述J2EE資源適配器包含用于相應(yīng)語音服務(wù)器的負(fù)載均衡算法。
6.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，多個(gè)所述負(fù)載均衡算法是語音利用率算法，其中不同的語音利用率算法對(duì)應(yīng)于不同的語音服務(wù)器。
7.根據(jù)權(quán)利要求6的機(jī)器可讀存儲(chǔ)單元，其中，所述不同的語音利用率算法基于不同的語音處理指定的因素來計(jì)算語音利用率分?jǐn)?shù)。
8.根據(jù)權(quán)利要求6的機(jī)器可讀存儲(chǔ)單元，其中，所述不同的語音利用率算法基于由不同語音服務(wù)器使用的相同語音處理指定的因素來計(jì)算語音利用率分?jǐn)?shù)，但是其中所述不同的語音服務(wù)器在計(jì)算服務(wù)器指定的語音利用率分?jǐn)?shù)時(shí)將不同的權(quán)重應(yīng)用于所述語音處理指定的因素。
9.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，所述語音處理算法包括靜態(tài)操作模式和動(dòng)態(tài)操作模式，其中，當(dāng)以所述靜態(tài)操作模式操作時(shí)，所述語音處理算法利用所述語音處理指定的因素中的靜態(tài)因素來計(jì)算所述語音利用率分?jǐn)?shù)，并且其中，當(dāng)以所述動(dòng)態(tài)操作模式操作時(shí)，所述語音處理算法利用至少一個(gè)動(dòng)態(tài)語音處理指定的因素來計(jì)算所述語音利用率分?jǐn)?shù)。
10.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，用于計(jì)算所述語音利用率分?jǐn)?shù)的所述語音處理指定的因素中的至少一個(gè)包括至少兩個(gè)自動(dòng)語音識(shí)別指定的因素，并且其中，所述語音處理指定的因素中的至少一個(gè)包括至少兩個(gè)文語轉(zhuǎn)換指定的因素。
11.根據(jù)權(quán)利要求1的機(jī)器可讀存儲(chǔ)單元，其中，用于計(jì)算所述語音利用率分?jǐn)?shù)的所述語音處理指定的因素包括從一個(gè)組中選出的至少一個(gè)因素，所述組包括所分配自動(dòng)語音識(shí)別引擎的數(shù)量、所分配文語轉(zhuǎn)換引擎的數(shù)量、所配置自動(dòng)語音識(shí)別引擎的數(shù)量、所配置文語轉(zhuǎn)換引擎的數(shù)量、針對(duì)自動(dòng)語音識(shí)別的每信道CPU MHz、針對(duì)文語轉(zhuǎn)換的每信道CPUMHz、針對(duì)自動(dòng)語音識(shí)別的占空比、針對(duì)文語轉(zhuǎn)換的占空比、平均自動(dòng)語音識(shí)別延遲、平均文語轉(zhuǎn)換延遲、平均自動(dòng)語音識(shí)別語法大小、平均文語轉(zhuǎn)換語法大小、自動(dòng)語音識(shí)別處理請(qǐng)求的總數(shù)量、文語轉(zhuǎn)換處理請(qǐng)求的總數(shù)量、激活語音處理會(huì)話的數(shù)量、所允許的并發(fā)語音處理會(huì)話的總數(shù)量、每會(huì)話自動(dòng)語音識(shí)別引擎使用的平均長度，以及每會(huì)話文語轉(zhuǎn)換引擎使用的平均長度。
12.根據(jù)權(quán)利要求11的機(jī)器可讀存儲(chǔ)單元，其中，所述至少一個(gè)因素包括所述組中的至少兩個(gè)因素。
13.根據(jù)權(quán)利要求11的機(jī)器可讀存儲(chǔ)單元，其中，所述語音指定的因素中的至少一個(gè)包括所述組中的至少四個(gè)因素。
14.根據(jù)權(quán)利要求11的機(jī)器可讀存儲(chǔ)單元，其中，所述語音指定的因素中的至少一個(gè)包括所分配自動(dòng)語音識(shí)別引擎的數(shù)量、所分配文語轉(zhuǎn)換引擎的數(shù)量、所配置自動(dòng)語音識(shí)別引擎的數(shù)量以及所配置文語轉(zhuǎn)換引擎的數(shù)量。
15.根據(jù)權(quán)利要求11的機(jī)器可讀存儲(chǔ)單元，其中，所述語音指定的因素包括所分配自動(dòng)語音識(shí)別引擎的數(shù)量、所分配文語轉(zhuǎn)換引擎的數(shù)量、針對(duì)自動(dòng)語音識(shí)別的每信道CPU MHz以及針對(duì)文語轉(zhuǎn)換的每信道CPUMHz。
16.根據(jù)權(quán)利要求11的機(jī)器可讀存儲(chǔ)單元，其中，所述語音指定的因素中的至少一個(gè)包括針對(duì)自動(dòng)語音識(shí)別的占空比、所分配自動(dòng)語音識(shí)別引擎的數(shù)量以及所配置自動(dòng)語音識(shí)別引擎的數(shù)量。
17.一種用于自動(dòng)選擇多個(gè)語音服務(wù)器之一的方法，該方法包括下列步驟接收語音處理請(qǐng)求；查詢至少一個(gè)語音服務(wù)器以確定語音處理負(fù)載，其中，每個(gè)所查詢的語音服務(wù)器的語音利用率分?jǐn)?shù)是利用語音利用率算法來被計(jì)算的，其中，所述語音利用率算法包括至少兩個(gè)語音處理指定的因素；以及基于所述查詢步驟的結(jié)果來選擇用于處理所述語音處理請(qǐng)求的語音服務(wù)器。
18.根據(jù)權(quán)利要求17的方法，其中，所述至少一個(gè)語音利用率算法包含在符合J2EE的資源適配器中。
19.根據(jù)權(quán)利要求17的方法，其中，所述權(quán)利要求17的步驟是由服務(wù)代理和由該服務(wù)代理操縱的計(jì)算設(shè)備中的至少一個(gè)來執(zhí)行的，其中響應(yīng)于服務(wù)請(qǐng)求來執(zhí)行所述步驟。
20.一種用于處理語音處理請(qǐng)求的系統(tǒng)，該系統(tǒng)包括用于處理語音處理請(qǐng)求的多個(gè)語音服務(wù)器，其中，每個(gè)語音服務(wù)器包括語音負(fù)載均衡器小服務(wù)程序和符合J2EE的資源適配器，所述資源適配器包括基于至少一個(gè)語音處理指定的因素來計(jì)算關(guān)聯(lián)服務(wù)器的負(fù)載的負(fù)載均衡算法；以及被配置用來接收進(jìn)入的語音處理請(qǐng)求的負(fù)載均衡器，其中，所述語音服務(wù)器被配置用來為所述負(fù)載均衡器斷續(xù)地提供利用所述負(fù)載均衡算法中相關(guān)聯(lián)的一個(gè)所計(jì)算的負(fù)載指示符，其中，所述負(fù)載均衡器被配置用來利用所述負(fù)載指示符在所述語音服務(wù)器中選擇用于處理所述進(jìn)入的請(qǐng)求之一的那個(gè)語音服務(wù)器。
全文摘要
一種機(jī)器可讀存儲(chǔ)單元可以包括用于負(fù)載均衡的一組指令。所述存儲(chǔ)單元可以包括負(fù)載均衡器的插入式接收器。所述插入式接收器符合已知行業(yè)標(biāo)準(zhǔn)并且可以關(guān)聯(lián)于兩個(gè)或更多負(fù)載均衡算法。所述負(fù)載均衡器可以利用從所述負(fù)載均衡算法中選出的算法，來確定兩個(gè)或更多語音服務(wù)器中用于處理進(jìn)入的語音處理請(qǐng)求的語音服務(wù)器。從所述負(fù)載均衡算法中選出的算法可以包括語音利用率算法。所述語音利用率算法可以基于語音處理指定的因素來計(jì)算所述語音服務(wù)器中至少一個(gè)的語音利用率分?jǐn)?shù)。
文檔編號(hào)H04M7/00GK1988548SQ200610144548
公開日2007年6月27日 申請(qǐng)日期2006年11月10日 優(yōu)先權(quán)日2005年12月21日
發(fā)明者G·坦登, M·E·德阿馬斯, W·L·努斯比克爾, J·I·赫爾曼, M·W·哈特利 申請(qǐng)人:國際商業(yè)機(jī)器公司