這種經(jīng)典的機器視覺架構(gòu)具有如下幾個方面的缺點：

 

第一，高像素傳感器拍攝帶來大量信息使其難以實現(xiàn)極高速的圖像或視頻數(shù)字化存儲和分析，尤其在使用移動設(shè)備和電池供電的設(shè)備時更是帶來了能耗和性能的平衡問題；

 

第二，所捕獲的圖像通常包含許多對機器學(xué)習(xí)任務(wù)無用的冗余信息，帶來了后端處理器某種程度上的性能負(fù)擔(dān)，和資源浪費，從而導(dǎo)致在功耗和內(nèi)存需求方面效率低下。

 

第三，在可見光的波長以外的電磁波段制造高像素數(shù)圖像傳感器（如手機相機中的傳感器）具有很大的挑戰(zhàn)性，且其成本十分昂貴，因而也限制了機器視覺系統(tǒng)在更長波段（如太赫茲）上的應(yīng)用。

 

最近，加州大學(xué)洛杉磯分校（UCLA）的研究人員開發(fā)了一種新的單像素機器視覺系統(tǒng)，通過引入光學(xué)神經(jīng)網(wǎng)絡(luò)（名詞解釋?）的方式規(guī)避了傳統(tǒng)機器視覺系統(tǒng)的諸多缺點。

 

圖1 來自加州大學(xué)洛杉磯分校的研究人員發(fā)明了一個新型單像素機器視覺系統(tǒng)，該系統(tǒng)可以將物體的空域信息編碼為功率譜，從而實現(xiàn)對圖像進(jìn)行分類和重建。

 

該成果以Spectrally encoded single-pixel machine vision using diffractive networks為題發(fā)表在Science Advances。

 

研究人員借助深度學(xué)習(xí)技術(shù)，設(shè)計了一個由多個衍射層組成的衍射光學(xué)神經(jīng)網(wǎng)絡(luò)（Diffractive Optical Neural Networks）（拓展閱讀?），這些衍射層由計算機自動優(yōu)化設(shè)計，可將經(jīng)過的輸入光場調(diào)制成一定的目標(biāo)分布，從而能夠執(zhí)行計算和統(tǒng)計推斷任務(wù)。

 

與常規(guī)的基于鏡頭模組的相機不同，該衍射光學(xué)神經(jīng)網(wǎng)絡(luò)以被寬帶光照明的物體作為其輸入，將物體的空域特征信息提取并編碼到衍射光的光譜上，而后光譜信號由具有頻譜探測能力的單像素超快傳感器所收集。通過將物體對應(yīng)的不同的類別分配給不同波長的光頻譜分量，該系統(tǒng)僅使用單像素傳感器探測到的輸出光譜即可自動對輸入對象完成分類，從而無需圖像傳感器陣列和后端數(shù)字處理。這種框架實現(xiàn)了全光學(xué)推理和機器視覺，在幀速率、內(nèi)存需求和功耗效率方面具有明顯優(yōu)勢，這些特點對于移動計算應(yīng)用而言尤為重要。

 

圖2. 該系統(tǒng)使用寬帶光對物體進(jìn)行照明。系統(tǒng)分類結(jié)果取決于單像素傳感器測得的輸出光功率譜上10個波長位置上最強的信號，其波長對應(yīng)的類別即是分類預(yù)測結(jié)果。功率譜信號還可以輸入到數(shù)字神經(jīng)網(wǎng)絡(luò)中被用于重建物體本身的圖像。

 

為驗證這一概念，研究人員通過使用單像素傳感器和3D打印的衍射層對使用手寫數(shù)字圖像數(shù)據(jù)集（MNIST）的所構(gòu)建的物體進(jìn)行分類，在實驗中證明了該框架在太赫茲波段下的性能。研究者基于提前選定的10個波長對實驗系統(tǒng)進(jìn)行了設(shè)計，這10個波長被逐一分配給輸入物的不同類別（對應(yīng)手寫數(shù)字的0到9），對物的分類結(jié)果取決于傳感器輸出功率譜上10個波長位置上信號最強者的波長對應(yīng)的類別。

 

實驗系統(tǒng)中的單像素探測方案基于太赫茲時域光譜術(shù)實現(xiàn)，照明光為極短的太赫茲脈沖，網(wǎng)絡(luò)的推理以光速在瞬時間完成。

 

最終，該系統(tǒng)在手寫數(shù)字分類任務(wù)中實現(xiàn)了超過96%的分類精度，實驗結(jié)果也與數(shù)值模擬非常吻合，證明了該單像素機器視覺框架在構(gòu)建低延遲、高效的機器學(xué)習(xí)系統(tǒng)方面的可行性。除物體分類外，研究人員還將此衍射神經(jīng)網(wǎng)絡(luò)的輸出與一個簡單的全連接數(shù)字神經(jīng)網(wǎng)絡(luò)相連接，僅通過功率譜上10個波長處的信號強度來快速重建此輸入物的圖像，從而實現(xiàn)了圖像的重建或“解壓縮”。

 

總而言之，這種單像素對象分類和圖像重建框架可以為新的機器視覺系統(tǒng)的開發(fā)鋪平道路。該系統(tǒng)具有低像素數(shù)、低延遲、低功耗和低成本的特點，以高效、節(jié)省資源的獨特優(yōu)勢通過將物體信息進(jìn)行頻譜編碼來實現(xiàn)特定的推理任務(wù)，有望廣泛應(yīng)用于移動計算、邊緣計算等領(lǐng)域。

 

此外，該新框架還可以擴展到各種光譜域測量系統(tǒng)，例如光學(xué)相干斷層掃描、紅外波段成像等，有助于構(gòu)建基于衍射神經(jīng)網(wǎng)絡(luò)的光譜和空間信息編碼集成的新型3D傳感和成像方式。