物聯(lián)網(wǎng)與智慧化概念快速興起，導(dǎo)入嵌入式系統(tǒng)，加速數(shù)位轉(zhuǎn)型成為企業(yè)趨勢(shì)，而就目前發(fā)展來看，AI與物聯(lián)網(wǎng)結(jié)合的AIoT，已被視為未來各產(chǎn)業(yè)的主要營(yíng)運(yùn)架構(gòu)，此一架構(gòu)也將影響嵌入式技術(shù)的發(fā)展，其中邊緣運(yùn)算更會(huì)是系統(tǒng)的設(shè)計(jì)重點(diǎn)。

AI的崛起加速了物聯(lián)網(wǎng)發(fā)展。物聯(lián)網(wǎng)問世初期是以集中式運(yùn)算作為主要架構(gòu)，先以底層感測(cè)器擷取第一線設(shè)備的狀態(tài)，在透過中間層的通訊網(wǎng)路，將訊息傳送到上層雲(yún)端平臺(tái)儲(chǔ)存、分析。這種集中式運(yùn)算架構(gòu)雖然完整，不過層層轉(zhuǎn)遞會(huì)讓訊息傳輸速度變慢，而且所有數(shù)據(jù)都匯集到後端，將使雲(yún)端平臺(tái)的運(yùn)算負(fù)載過重，影響系統(tǒng)運(yùn)作效能，對(duì)製造、車載等對(duì)即時(shí)性有高度要求的產(chǎn)業(yè)來說並不適用，因此從2018年開始，邊緣運(yùn)算成為系統(tǒng)設(shè)計(jì)主流，這也讓各廠商紛紛啟動(dòng)布局。

處理器廠商搶攻AI晶片市場(chǎng)

圖1 : 讓邊緣運(yùn)算系統(tǒng)的運(yùn)作效能可滿足市場(chǎng)需求，AI晶片是關(guān)鍵因素。（source：Barron's）

要讓邊緣運(yùn)算系統(tǒng)的運(yùn)作效能可滿足市場(chǎng)需求，AI晶片是關(guān)鍵因素。由於這次AI的發(fā)展是以機(jī)器學(xué)習(xí)演算法為主，而機(jī)器學(xué)習(xí)中的神經(jīng)網(wǎng)絡(luò)需要高強(qiáng)度的浮點(diǎn)運(yùn)算能力，因此GPU被視為這波AI熱潮中最適合的運(yùn)算架構(gòu)，作為GPU市場(chǎng)領(lǐng)導(dǎo)廠商，NVIDIA在此一領(lǐng)域的優(yōu)勢(shì)明顯，動(dòng)作也相當(dāng)積極。NVIDIA的主要產(chǎn)品是GeForce系列，後來又針對(duì)企業(yè)應(yīng)用推出Jetson系列產(chǎn)品，訴求效能、穩(wěn)定、成本、彈性等特色，目前已有多起成功的案例。

GPU之外，CPU大廠Intel與AMD在此也未缺席。Intel除了在2017年就分別推出獨(dú)立AI 加速器Movidius Neural Compute Stick與Myriad X視覺處理器(Vision Processing Unit；VPU)外，2019年再度強(qiáng)化布局，在11月的AI高峰會(huì)上發(fā)布了代號(hào)為Keem Bay的新一代Movidius VPU， 與上一代相較，Keem Bay的效能提升了10倍，功耗則只有30W，主攻邊緣運(yùn)算市場(chǎng)。AMD則是在今年推出Ryzen 3000系列處理器，包含Ryzen 5、Ryzen 7以及Ryzen 9，此產(chǎn)品在產(chǎn)品尺寸、可擴(kuò)充性、穩(wěn)定性與體積上，都是針對(duì)身處嚴(yán)苛環(huán)境的嵌入式設(shè)備而設(shè)計(jì)。

除了處理器大廠，Google也推出客製化的ASIC AI晶片TPU。Google早期是為了符合本身機(jī)房需求並降低耗電，且不願(yuàn)意投入鉅額費(fèi)用購(gòu)置GPU，因此自習(xí)設(shè)計(jì)TPU，一直到2014年才開始將之產(chǎn)品化。

Google向來強(qiáng)調(diào)開放性特色，Google Cloud NEXT 2018推出的AI晶片Edge TPU訴求小體積、高處理能力、可運(yùn)作輕量版的TensorFlow Lite，並且內(nèi)建加速器，可將運(yùn)算資源移轉(zhuǎn)到大型電腦的類神經(jīng)網(wǎng)路，Google希望藉此複製過去Android的做法，在AI領(lǐng)域再創(chuàng)另一個(gè)產(chǎn)業(yè)生態(tài)系，透過大量廠商的使用測(cè)試，將觸角延伸到更多應(yīng)用場(chǎng)域。

除了GPU、CPU外，其他處理架構(gòu)如FPGA、DSP等廠商，也都積極投入AI市場(chǎng)，就發(fā)展來看，仍未看出那一類運(yùn)算架構(gòu)會(huì)成為市場(chǎng)主流，伺服器的應(yīng)用目前以CPU為主，不過現(xiàn)在NVIDIA也開始跨入發(fā)展，至於終端嵌入式設(shè)備市場(chǎng)，無論是體積、功耗、價(jià)格，其市場(chǎng)需求都比伺服器更嚴(yán)苛，因此難度會(huì)更高，不同的應(yīng)用會(huì)需要不同的運(yùn)算架構(gòu)，因此未來處理器在嵌入式終端市場(chǎng)的應(yīng)用將更為多元。

優(yōu)質(zhì)資料儲(chǔ)存讓系統(tǒng)更穩(wěn)定

圖2 : 在AIoT中，數(shù)據(jù)被視為系統(tǒng)效能的重要關(guān)鍵。（source：EnterpriseTalk）

除了處理器之外，儲(chǔ)存也是智慧化嵌入式系統(tǒng)設(shè)計(jì)的重要考量。在AIoT中，數(shù)據(jù)被視為系統(tǒng)效能的重要關(guān)鍵，然而過去的設(shè)計(jì)思維都以「量」為重，但其實(shí)「質(zhì)」的重要性更高，唯有高品質(zhì)的數(shù)據(jù)，才能讓AI的運(yùn)算價(jià)值最大化，而物聯(lián)網(wǎng)系統(tǒng)中，數(shù)據(jù)的來源是第一層嵌入式設(shè)備，而嵌入式設(shè)備的數(shù)據(jù)關(guān)鍵裝置，就是儲(chǔ)存元件，因此要強(qiáng)化系統(tǒng)效能，必須從此處著手。

目前物聯(lián)網(wǎng)系統(tǒng)在數(shù)據(jù)部分會(huì)遇到三大難題，首先是無用的數(shù)據(jù)量過於龐大，要從中篩選出真正有效的數(shù)據(jù)，需要耗費(fèi)極大功夫，其次是消費(fèi)性儲(chǔ)存載體，在特定領(lǐng)域的穩(wěn)定性不佳，最後則是有限的資訊難以管理系統(tǒng)中日益分散的設(shè)備。

對(duì)於有用數(shù)據(jù)的篩選，現(xiàn)在的做法是強(qiáng)化系統(tǒng)前端的閘道器功能，以工業(yè)物聯(lián)網(wǎng)為例，當(dāng)?shù)讓釉O(shè)備傳來數(shù)據(jù)後，需要即時(shí)處理者，會(huì)將訊息即時(shí)回饋給底層設(shè)備，非即時(shí)的長(zhǎng)期資訊，例如設(shè)備的運(yùn)作狀態(tài)，閘道器會(huì)先做簡(jiǎn)單的處理再傳送到上層，讓雲(yún)端平臺(tái)接收的都是已經(jīng)初步處理的資料，而非從原始數(shù)據(jù)開始處理。

儲(chǔ)存載體穩(wěn)定性不佳的問題，可從軟硬體兩端解決，硬體部分是採(cǎi)用工控等級(jí)的儲(chǔ)存元件，這類型元件不但都有寬溫、抗硫化設(shè)計(jì)，可確保穩(wěn)定性之外，也提供了長(zhǎng)供貨保證，可確保系統(tǒng)長(zhǎng)期運(yùn)作。軟體方面，現(xiàn)在工控儲(chǔ)存廠商也已推出各種保護(hù)機(jī)制，例如當(dāng)系統(tǒng)偵測(cè)到電源不穩(wěn)或是供電瓦數(shù)不足等惡劣情況時(shí)，就會(huì)立即中斷讀寫命令，避免因突然斷電導(dǎo)致資料受損，或是透過設(shè)計(jì)可短暫但即時(shí)的提供SSD所需要的電力，以確保資料能夠完整地被寫回儲(chǔ)存裝置內(nèi)。

最後則是資訊管理問題，現(xiàn)在已有廠商將AI技術(shù)應(yīng)用於儲(chǔ)存系統(tǒng)，從資料讀寫行為中，分析出儲(chǔ)存行為與資料讀寫狀況，讓使用者掌握儲(chǔ)存設(shè)備的狀態(tài)，另外使用者也可由瀏覽器監(jiān)控各設(shè)備，並分析儲(chǔ)存裝置使用量，同時(shí)預(yù)測(cè)使用壽命，讓管理者即時(shí)進(jìn)行設(shè)備的擴(kuò)充維護(hù)。

資料的運(yùn)算與儲(chǔ)存，向來是嵌入式系統(tǒng)的設(shè)計(jì)重點(diǎn)。在AIoT架構(gòu)中，這兩大重點(diǎn)也再度被強(qiáng)化，從市場(chǎng)態(tài)勢(shì)來看，AIoT的架構(gòu)與產(chǎn)業(yè)應(yīng)用雖仍處?kù)栋l(fā)展初期，未來再進(jìn)化的機(jī)會(huì)相當(dāng)大，不過AI的導(dǎo)入基本上已成趨勢(shì)，臺(tái)灣廠商必須將之列為重點(diǎn)觀察指標(biāo)，以掌握隨之而來的商機(jī)。

**刊頭圖（source：eInfochips）