積核權重，并且通常對于較高的分辨率需要更多的位。在這種情況下，將分類器的位分辨率設置為六(6)位的固定值。然后，參照性能評價卷積核的不同的位分辨率。
[0131]圖15是示出將實施例的模擬性能與現(xiàn)有技術對比的模擬結果的表。列是輸入分辨率位的數量，行是權重分辨率位的數量。每行具有針對不同量化方法的三個子行，針對均勻量化的頂部子行，針對k-means自適應量化的中間子行以及底部子行。
[0132]對于非常低的位分辨率，誤差當然是非常高的。然而，將觀察到，利用僅四位的分辨率，通過實施例實現(xiàn)了與利用第一子行和第二子行中的原始同樣(低)的僅1.15%的誤差。實際上，箭頭指出了頂部子行中的原始低誤差表值如何遇到用于僅四位分辨率的底部子行中的沒有更遜色的表值。
[0133]圖16是用于將實施例的模擬性能與現(xiàn)有技術對比的條形圖。條形圖1610、1620、1643分別針對a)均勻量化，b)k-means自適應量化和c)實施例示出對低位分辨率(達到4位)的平均測試誤差。條1643具有最小的誤差。
[0134]圖17是用于將實施例的模擬性能與現(xiàn)有技術對比的另一個條形圖。條形圖1710、1720、1743分別針對a)均勻量化，b) k-means自適應量化和c)實施例示出對所有位分辨率的平均測試誤差。條形圖1743具有最小的誤差。
[0135]圖18示出用于將實施例的模擬性能與現(xiàn)有技術對比的多組條形圖。沿著橫軸示出的每組三個條形圖是針對同一誤差。在每組中，a)最左條是針對均勻量化，b)中間條是針k-means自適應量化，c)最右條是每個實施例?？v軸示出要求滿足誤差水平(即，針對不能更高的誤差水平)的總位數。對于示出的所有測試誤差，最右條需要要求滿足誤差水平的最少總位數。
[0136]上述設備和/或系統(tǒng)執(zhí)行函數、處理和/或方法。這些函數、處理和/或方法可以通過包括邏輯電路的一個或更多個設備來實現(xiàn)。這種設備可以選擇性地稱為計算機等。其可以是單獨的設備或計算機，諸如通用計算機，或具有一個或多個附加功能的設備的部分。
[0137]應由系統(tǒng)設計者、制造商、用戶或其他類似的相關方來對性能的標準做出判斷。如這里使用的術語“大量的”通常涉及所得系統(tǒng)性能的充足。
[0138]邏輯電路可以包括可能出于通用或專用的目的而編程的處理器，諸如微控制器、微處理器、數字信號處理器(DSP)等。示例可以包括處理器120和320。
[0139]邏輯電路也可以包括諸如存儲器的非臨時性計算機可讀存儲介質。這種介質可以具有不同類型，包括但不限于易失性存儲器、非易失性存儲器(NVM)、只讀存儲器(ROM);隨機存取存儲器(RAM);磁盤存儲介質；光學存儲介質；智能卡、閃存裝置等。示例可以包括存儲器130和330。
[0140]這些單獨或與其他結合的存儲介質可以具有存儲在其上的數據。用于存儲在存儲介質中的數據的示例包括數據135和335。
[0141 ] 此外，這些存儲介質可以存儲處理器能夠讀取和執(zhí)行的程序。更具體而言，程序可以包括以處理器在讀取時能夠執(zhí)行的編碼格式的指令。示例包括程序132和332。
[0142]運行程序通過物理量的物理操作而執(zhí)行，并且可能引起將要被執(zhí)行的函數、處理、動作和/或方法，和/或使其他設備或組件或塊執(zhí)行這樣的函數、處理、行動和/或方法的處理器。通常，僅為了方便起見，優(yōu)選地實施和描述作為各種相互連接的有區(qū)別的軟件模塊或特征的程序。這些，連同數據一起被單獨地并且也被共同地稱為軟件。在某些情況下，軟件與硬件結合，以混合稱為“固件”。
[0143]此外，這里描述方法和算法。這些方法和算法不必與任何具體的邏輯裝置或其他設備固有地聯(lián)系。相反，這些方法和算法可以被程序有利地實施以供諸如通用計算機、專用計算機、微處理器等的計算機器使用。
[0144]這種詳細的描述包括位于至少一個計算機可讀介質中的程序操作的流程圖、顯示圖像、算法和符號表示。由于使用單組流程圖來描述程序和方法兩者而實現(xiàn)節(jié)約。所以，在流程圖根據框描述方法的同時，它們也同時地描述程序。
[0145]在上述方法中，可以按照動作的肯定步驟，或者使書面記載了能夠發(fā)生的事情發(fā)生來執(zhí)行每個操作。可以由整個系統(tǒng)或裝置，或者由它的僅一個或多個組件來進行這樣的動作或者使事情發(fā)生。此外，操作的順序不被約束為所示出的順序，并且根據不同的實施例可以是不同的順序。此外，在某些實施例中，可以添加新的操作，或者可以修改或刪除個別操作。添加的操作可以是例如來自于在主要描述不同的系統(tǒng)、設備、裝置或方法的同時所提到的內容。
[0146]本領域技術人員將能夠根據被視為整體的本說明書實現(xiàn)本發(fā)明。包括詳情以提供透徹的理解。在其他情況下，為了防止不必要地模糊本發(fā)明，沒有描述公知的方面。加之，本說明書中對任何現(xiàn)有技術所做出的任何參考不是并且不應當被認為承認或以任何形式暗示該現(xiàn)有技術在任何國家形成公知常識的部分。
[0147]本說明書包括一個或更多個示例，但是不限制發(fā)明可以如何實現(xiàn)。發(fā)明的實施例或示例的確可以根據所描述的內容來實現(xiàn)，或者也可以有差別地并且還與其他當前或未來的技術相結合地實現(xiàn)。其他實施例包括這里描述的特征的組合和子組合，包括例如，等同于如下情況的實施例，即:以與描述的實施例不同的順序提供或應用特征；從一個實施例中提取個別特征并且將該特征插入到另一個實施例中；從實施例中去除一個或多個特征；或者在提供這種組合和子組合中包括的特征的同時，既從一個實施例中去除特征又添加從另一個實施例中提取的特征。
[0148]在本文件中，短語“被構造為”和/或“被配置為”表示構造和/或配置的一個或更多個實際狀態(tài)，其根本上與前述的這些短語的元件或特征的物理特性相關聯(lián)，如此，達到了遠超過僅描述的預期用途。如本領域技術人員在看到本公開之后將明了的，可以以超出本文件中示出的任何示例的任意數量的方式來實現(xiàn)任何這些元件或特征。
[0149]權利要求限定了被視為新穎的和非顯而易見的元素、特征和步驟或操作的某些組合和子組合。針對其他這種組合和子組合的附加權利要求可以存在于本文件或相關文件中。
【主權項】
1.一種配置有神經網絡的客戶端設備，所述客戶端設備包括: 處理器、存儲器、用戶接口、通信接口、電源和輸入設備； 所述存儲器包括從服務器系統(tǒng)接收的訓練神經網絡，所述服務器系統(tǒng)已經訓練并配置了用于客戶端設備的神經網絡。2.根據權利要求1所述的客戶端設備，其中，所述輸入設備被配置為捕獲圖像并且將圖像輸入數據存儲在存儲器中。3.根據權利要求1所述的客戶端設備，所述客戶端設備還包括被配置為映射圖像輸入數據的多層感知器分類器。4.根據權利要求1所述的客戶端設備，其中，所述神經網絡包括卷積神經網絡。5.根據權利要求1所述的客戶端設備，其中，所述神經網絡被配置為生成特征映射。6.根據權利要求5所述的客戶端設備，其中，所述特征映射包括從輸入圖像得到的多個權重值。7.根據權利要求5所述的客戶端設備，其中，所述神經網絡被配置為對所述特征映射進行量化操作。8.根據權利要求7所述的客戶端設備，其中，所述量化操作包括統(tǒng)一量化、自適應量化、均勻量化和監(jiān)督迭代量化中的一者。9.根據權利要求7所述的客戶端設備，其中，所述量化操作執(zhí)行圖像輸入數據的反向傳播。10.根據權利要求1所述的客戶端設備，其中，所述神經網絡被配置為執(zhí)行目標識別。11.根據權利要求1所述的客戶端設備，所述客戶端設備包括智能電話、平板電腦和便攜式電子設備。12.一種利用客戶端設備提供目標識別的系統(tǒng)，所述系統(tǒng)包括: 服務器系統(tǒng)，被配置為訓練神經網絡以執(zhí)行目標識別，并且將所述神經網絡輸出到所述客戶端設備。13.根據權利要求12所述的系統(tǒng)，所述系統(tǒng)還包括: 客戶端設備，包括處理器、存儲器、用戶接口、通信接口、電源和輸入設備；并且 所述存儲器包括從所述服務器系統(tǒng)接收的訓練神經網絡。14.根據權利要求12所述的系統(tǒng)，其中，所述服務器系統(tǒng)包括訓練圖像的數據庫。15.根據權利要求12所述的系統(tǒng)，其中，所述神經網絡包括卷積神經網絡。16.根據權利要求15所述的系統(tǒng)，其中，所述卷積神經網絡包括至少兩個層。17.根據權利要求15所述的系統(tǒng)，其中，所述卷積神經網絡包括卷積層和子采樣層。18.根據權利要求12所述的系統(tǒng)，其中，所述服務器系統(tǒng)包括多層感知器分類器。19.根據權利要求12所述的系統(tǒng)，其中，針對所述神經網絡的學習技術包括反向傳播、限制玻爾茲曼機、自動編碼器解碼技術中的一者。20.一種服務器系統(tǒng)，所述服務器系統(tǒng)包括: 輸入設備，被配置為接收訓練圖像； 神經網絡，包括至少兩個層對，每個層對包括卷積層和子采樣層； 多層感知器分類器； 其中，所述神經網絡被配置為執(zhí)行卷積層中的中間權重的量化， 所述神經網絡還被配置為響應于應用到卷積層的輸入而在所述子采樣層中生成中間特征映射；所述神經網絡被配置為執(zhí)行所述多層感知器分類器中的權重的量化，并且 所述神經網絡被配置為響應于應用到量化的權重多層感知器的所述特征映射而在所述多層感知器分類器中生成分類輸出。
【專利摘要】提供了配置有神經網絡的客戶端設備、系統(tǒng)和服務器系統(tǒng)。一種配置有神經網絡的客戶端設備，所述客戶端設備包括：處理器、存儲器、用戶接口、通信接口、電源和輸入設備，其中，存儲器包括從服務器系統(tǒng)接收的訓練神經網絡，所述服務器系統(tǒng)已經訓練并配置了用于客戶端設備的神經網絡。公開了訓練神經網絡的服務器系統(tǒng)和方法。
【IPC分類】G06N3/08, G06K9/62
【公開號】CN105447498
【申請?zhí)枴緾N201510608615
【發(fā)明人】冀正平, 伊利亞·奧夫相尼科夫, 王一兵, 石立龍
【申請人】三星電子株式會社
【公開日】2016年3月30日
【申請日】2015年9月22日
【公告號】US20160086078