#GTC21のエッジAI:NVIDIA DeepStreamSDKおよびTLT

GPUを恐れないでください。 ADLINKとNVIDIAがお手伝いします!  

システムの運用効率を最大限に高めることは、多くの開発者にとって当たり前の目標です。しかし、場合によっては、 NVIDIAのような新しいGPUを使ってシステムを開発しなければならないこともあります。最初は大変そうに見えるかもしれませんが、よくよく考えてみると、不安を解消するための情報がたくさんあります。 

設計の手間を省くには、まずSDK(Software Development Kit)を使うことです。SDKは、GPUサプライヤーが提供する数多くのツールの1つです。しかし、SDKに含まれていない機能を要求する場合はどうすればよいのでしょうか。例えば、ハードウェア設計の人工知能(AI)面での支援は、NVIDIAの得意とするところであり、十分な情報が提供されています。しかし、特定のアプリケーションのためにハードウェアを適合させる必要がある場合はどうなるでしょうか?  

たとえば、アプリケーションで、空港や駅内の画像検出のためにAIプラットフォームにすべてフィードする多数のカメラに接続されたシステムが必要だとします。複数のカメラが接続されている場合、高速処理を必要とする大量のデータがあり、各カメラ自体が潜在的な脆弱性(セキュリティ)ポイントであり、ロックダウンする必要があります。 

最終目標を知る 

それでは、どうすればよいのか?最終目標に焦点を合わせます。当たり前のように思えますが、その過程でこれが失われる多くのお客様と協力してきました。あなたが尋ねる必要がある重要な質問は、「望ましい結果は何ですか?」です。または、「結果として必要なアクションは何ですか?」そして、それを再訪し続けます。この質問に答えたら、設計を逆方向に進めて、目的の特定の結果またはアクションをもたらすデータを生成できます。一貫した回答やこの質問への再検討がなければ、後で再設計するリスクがあり、それは余分な労力とコストを意味することは誰もが知っています。  

例えば、物体の検出を行い、何かが不適切に配置されていると担当者に警告することを最終目的とする場合、ビデオルームにモニターを詰め込んでセキュリティチームが手動で監視するのではなく、マシンビジョンを使用して管理者に警告するのが効率的な方法です。  

ADLINKでは、 NVIDIAのDeepStreamSDKのようなツールを使って、このような複雑なデータ収集プロセスを処理しています。DeepStream SDKは、ビデオを取り込んでディスクに書き込み、ディープラーニングに必要なデータ収集を支援します。 

また、NVIDIAの Transfer Learning Toolkitからも支援を受けることができます。このツールキットを使用すると、展開可能なプロセスを、最初から始める場合よりもはるかに早く作成することができます。その結果、より高い投資収益率を得ることができるでしょう。  

開発者を支援するために、最適化されたドメイン固有のモデルを用いて出発点となる一連の使用例をまとめました。モデルの中には、公共安全やスマートシティを含むNVIDIAのモデルが含まれています。モデルがすぐに入手できない場合、開発者はユースケースに似た既存のモデルから始めて、必要に応じて変更を加えることができます。 

特定のアクションまたは結果を達成するために、非構造化データはDeepStreamのような処理モデルでフィルタリングされ、DeepStreamはより構造化されたデータを生成します。後で、保護された情報は、その機能を実行するために他のアプリケーションに移動します。 

これは意図的なティーザーでした。詳細については、#GTC21でのオンデマンドセッションに参加してください。 NVIDIAのDeepStreamSDKとTransferLearningTooklitについて詳しく説明します。 登録はこちら.  

著者:トビーマクリーン
著者:トビー・マクリーン

ADLINK Technology、IoTおよびイノベーション担当副社長