神經(jīng)架構(gòu)搜索(NAS)是費力的過程。與自動化NAS目標有關的先前工作主要是提高精度,但未考慮計算資源使用。本文提出資源有效的神經(jīng)架構(gòu)(RENA)的實施方式,這是使用強化學習的具有網(wǎng)絡嵌入的高效的資源受限NAS。RENA實施方式使用策略網(wǎng)絡處理網(wǎng)絡嵌入以生成新配置。本文還提出與圖像識別和關鍵詞檢測(KWS)問題有關的RENA實施方式的示例證明。在即使資源嚴重受限的情況下,RENA實施方式也可找到實現(xiàn)高性能的新型架構(gòu)。對于CIFAR10數(shù)據(jù)集,測試的實施方式在計算強度大于100FLOP/byte時具有2.95%的測試誤差,并且在模型大小小于3M參數(shù)時具有3.87%的測試誤差。對于谷歌語音命令數(shù)據(jù)集,測試后的RENA實施方式實現(xiàn)了在無資源約束的情況下的最先進精度,并在資源嚴重受限的情況下優(yōu)于優(yōu)化的架構(gòu)。
聲明:
“資源有效的神經(jīng)架構(gòu)” 該技術(shù)專利(論文)所有權(quán)利歸屬于技術(shù)(論文)所有人。僅供學習研究,如用于商業(yè)用途,請聯(lián)系該技術(shù)所有人。
我是此專利(論文)的發(fā)明人(作者)