#GTC21上的Edge AI:NVIDIA DeepStream SDK和TLT

不要害怕GPU。 凌華科技和NVIDIA在這里為您提供幫助!  

對於大多數開發人員來說,使系統的運行效率最大化是正常的目標。但是,在某些情況下,我們面臨著圍繞較新的GPU開發這些系統的任務,例如 英偉達。初次看時,這項任務可能令人望而生畏,但更深入的研究表明,有大量可用的信息可以緩解任何疑慮。 

減輕設計痛苦的第一步是使用軟件開發套件(SDK),這是GPU供應商通常提供的許多工具之一。但是,如果您的要求包括SDK中未包含的功能,您該怎麼辦?例如,在NVIDIA操舵室內,就可以在硬件設計的人工智能(AI)方面提供幫助,並提供充足的信息。但是,如果您需要針對特定應用調整硬件,會發生什麼?  

舉例來說,一個應用程序需要連接到大量攝像機的系統,這些攝像機全部饋入AI平台以在機場或火車站內進行圖像檢測。連接多台攝像機時,需要快速處理大量數據,每台攝像機本身都是必須鎖定的潛在漏洞(安全)點。 

知道你的最終目標 

所以你會怎麼做?專注於最終目標。我知道這似乎很明顯,但我曾與許多客戶合作,但他們在此過程中迷失了方向。您需要問的關鍵問題是:“期望的結果是什麼?”或者,“結果是我們想要採取什麼行動?”並繼續重新審視它。一旦回答了這個問題,您就可以反向進行設計,以生成將導致特定結果或所需動作的數據。如果始終沒有一個一致的答案或對這個問題的重新審視,您將冒著日後進行重新設計的風險,我們都知道這意味著額外的工作和成本。  

因此,例如,如果您要進行對象檢測,並且最終目標是在放置不正確的東西時向人員發出警報,那麼一種有效的方法是使用機器視覺來警告管理員,而不是將監視器塞到視頻室中,被安全團隊手動監視。  

在ADLINK,我們使用諸如 NVIDIA的DeepStream SDK。 DeepStream SDK可以將視頻拍攝並將其寫入磁盤,以協助進行深度學習所需的數據收集。 

您也可以通過NVIDIA的 轉移學習工具包。與從頭開始時相比,該工具包使您可以更快地創建可部署過程。結果可能/應該是更高的投資回報率。  

為了幫助開發人員,我們已經編譯了一組用例,這些用例創建了具有優化的特定於領域的模型的起點。在某些情況下,模型來自NVIDIA,其中包括公共安全和智慧城市。如果模型不易獲得,則開發人員可以從類似於用例的現有模型開始,並根據需要進行更改。 

為了實現特定的操作或結果,非結構化數據通過類似DeepStream的處理模型進行過濾,從而產生更多的結構化數據。以後,已保護的信息將傳播到其他應用程序以執行其功能。 

這是一個故意的預告片-加入我在#GTC21上的按需課程以獲取更多信息!我將深入探討NVIDIA的DeepStream SDK和Transfer Learning Tooklit, 在這裡註冊.  

作者:托比·麥克林(Toby McClean)
作者:托比·麥克林(Toby McClean)

凌華科技物聯網與創新副總裁