嵌入式內部人士播客:人工智能與物聯網邊緣交彙的地方

關於邊緣AI的話題以及邊緣AI技術帶來的好處實際上並不是什麼新鮮事。我們可能在IoT之前添加了字母“ A”,現在我們稱之為 物聯網 (它實際上描述了實施邊緣AI技術時的總體環境),但工程方面的努力仍然存在:“這比聽起來要難。”我們的使命是將此短語更改為“使用ADLINK更容易”。聊一聊 

完整播客集:

與雲中的AI相比,邊緣的AI之間存在很大的差異。數據在邊緣生成;因此,使用 物聯網,情報和行動都發生在同一位置。這是至關重要的,因為某些應用程序不能浪費時間等待數據來回傳輸到雲中-生產線停機或自動駕駛汽車碰撞之間相差毫秒。顯然,如果數據不需要傳輸到任何地方,則可以實現更快的響應。 5G使這一點更具可維護性,但對於自動駕駛汽車或醫療設備等應用而言,速度不一定足夠快。 

在選擇可用的AI平台時,Edge AI平台設計師需要做出一些艱難的決定 處理器選項 在邊緣計算AI。他們必須在CPU,GPU和VPU之間進行選擇。似乎還不夠,Google正在將TPU(張量處理單元)包含在已經足夠豐富的處理單元集合中。 

的 不同的處理器類型 都以自己的方式特殊。例如,CPU可以處理順序的繁重操作。另一方面,GPU可以更好地並行處理小任務。但是,資源需要同步。這就是將CPU與GPU耦合的原因- 異構計算 方法–是邊緣AIoT設備的理想解決方案。 

雖然沒有一種“一刀切”的邊緣AI解決方案,但是要確定邊緣AI解決方案是否適合特定設計需要提出四個問題: 

  1. 您需要運行什麼算法? 
  1. 需要什麼樣的性能? 
  1. 您需要多快的響應時間? 
  1. 您的設計預算是多少? 

當然,需要大量的反複試驗分析才能找到適合您的AI應用程序的處理器組合。選擇合適的邊緣計算供應商來幫助您滿足正確的尺寸,重量和性能(SWaP)約束條件,以支持您的邊緣AI應用程序將決定您的項目成功。如果您正在閱讀此博客,那麼您來對地方了! 🙂

在凌華科技,我們能夠區分處理器組合在涉及多種因素(包括深度嵌入的AI算法)時如何相互作用,從而指導您完成邊緣AI設計過程。對於重型機械,自動化和製造行業中的人員安全和創收應用程序的健康而言,獲取組合方面至關重要。 

收聽完整的Embedded Insiders Podcast插曲,讓我知道您的想法!也強烈建議註冊 NVIDIA #GTC21,今年的會議是虛擬的,免費的,並且有大量有關相關主題的按需會議-在那見到嗎?

作者:贊恩·蔡
作者:贊恩·蔡

凌華科技嵌入式平台與模塊平台產品中心總監