介紹：即時機器學習推論

機器學習是支撐新型服務的技術，透過使用自然語音互動與影像辨識提供無縫社群媒體或客服中心體驗。此外，它能夠在與大量變數相關的巨量資料中辨識出模式或異常，因此經訓練的深度學習神經網路也將透過數位分身（digital twin）與預測性維護等服務，轉變我們進行科學研究、財務規劃、智慧城市營運、工業機器人編程和執行數位業務轉型的方式。

無論經訓練的網路是部署在云端還是在網路邊緣的嵌入式系統內進行推論，大多數使用者都期望能夠達到確定性的傳輸量和低延遲。然而，想在可行的尺寸和電源限制下同時達到這兩個要求，需在系統的核心架構高效且大規模的平行運算引擎，以有效率地傳輸資料，而這需要彈性的記憶體階層和靈活應變的高頻寬互連等功能。
...
...