技術(shù)編號:40598689
提示:您尚未登錄,請點(diǎn) 登 陸 后下載,如果您還沒有賬戶請點(diǎn) 注 冊 ,登陸完成后,請刷新本頁查看技術(shù)詳細(xì)信息。本申請涉及模型量化,尤其涉及模型量化方法、裝置、設(shè)備及存儲介質(zhì)。背景技術(shù)、為了保證模型效果,模型中的參數(shù)一般采用精度較高的數(shù)據(jù)類型和比特?cái)?shù)來表征模型參數(shù)(如利用比特的浮點(diǎn)數(shù)據(jù)fp表示模型參數(shù)),而以高精度實(shí)現(xiàn)表示模型參數(shù)的模型,其運(yùn)行時占用內(nèi)存空間較大,且對設(shè)備的計(jì)算性能要求也較高,而由于端側(cè)(如用戶側(cè))的設(shè)備性能限制,如今的模型若要應(yīng)用在端側(cè),一般需要對模型進(jìn)行模型量化,減少模型占用的空間,降低模型對設(shè)備性能的要求,才能保證模型在端側(cè)順利使用。、在模型量化過程中,模型精度會下降,雖...
注意:該技術(shù)已申請專利,請尊重研發(fā)人員的辛勤研發(fā)付出,在未取得專利權(quán)人授權(quán)前,僅供技術(shù)研究參考不得用于商業(yè)用途。
該專利適合技術(shù)人員進(jìn)行技術(shù)研發(fā)參考以及查看自身技術(shù)是否侵權(quán),增加技術(shù)思路,做技術(shù)知識儲備,不適合論文引用。
請注意,此類技術(shù)沒有源代碼,用于學(xué)習(xí)研究技術(shù)思路。