Embedded Insiders Podcast:AIがIoTのエッジと出会う場所

エッジでのAIの話や、エッジAI技術で得られるメリットは、実はそれほど新しいものではありません。IoTの前に "A "を付けて、現在では AIoT (エッジAI技術を実装する際の全体的な環境を表現しています)と呼んでいますが、技術的な問題は依然として残っています。しかし、エンジニアにとっては、「思ったよりも難しい」というのが本音です。私たちは、この言葉を「ADLINKなら簡単だ」に変えることを使命としています。 

完全なポッドキャストエピソード:

エッジでのAIは、クラウドでのAIとは大きな違いがあります。データはエッジで生成されるため、 AIoTを使えば、インテリジェンスとアクションのすべてが同じ場所で行われます。生産ラインが停止するか、自律走行車が衝突するかは、ミリ秒単位の違いです。 生産ラインが停止するか、自律走行車が衝突するかは、ミリ秒単位の違いです。データがどこにも移動する必要がなければ、より迅速な対応が可能になるのは明らかです。5Gはこれをはるかに維持できるようにしますが、自律走行車や医療機器などの用途には必ずしも十分な速度ではありません。 

エッジAIプラットフォームの設計者は、エッジでAIを計算するために利用可能な プロセッサのオプション の中から選ぶとなると、難しい決断を迫られます。CPU、GPU、VPUに加えて、GoogleはTPU(Tensor Processing Unit)も追加して、すでに豊富な処理装置を揃えています。 

NS さまざまな種類のプロセッサ は、それぞれの方法で特別なものです。例えば、CPUは逐次的で負荷の高い処理を行うことができます。反対に、GPUは小さなタスクを並行して処理するのに適しています。しかし、リソースは同期している必要があります。だからこそ、CPUとGPUを組み合わせた ヘテロジニアスコンピューティング 手法は、エッジに設置されたAIoT機器にとって理想的なソリューションなのです。 

万能のエッジAIソリューションのようなものはありませんが、エッジAIソリューションが特定の設計に適しているかどうかを判断するために尋ねる4つの質問があります。 

  1. 実行する必要のあるアルゴリズムは何ですか? 
  1. どのようなパフォーマンスが必要ですか? 
  1. どのくらいの応答速度が必要ですか? 
  1. 設計予算はどのくらいですか? 

AIアプリケーションに適切なプロセッサの組み合わせを見つけるために必要な、試行錯誤の分析は確かにたくさんあります。エッジAIアプリケーションをサポートするための適切なサイズ、重量、パフォーマンス(SWaP)の制約を満たすために適切なエッジコンピューティングベンダーを選択することで、プロジェクトの成功が決まります。そして、あなたがこのブログを読んでいるなら、あなたは正しい場所に来ました! 🙂

ここADLINKでは、深く埋め込まれたAIアルゴリズムを含む多くの要因に関して、プロセッサの組み合わせがどのように相互作用するかを区別して、エッジAI設計プロセスをガイドすることができます。重機、自動化、製造における人々の安全と収益を生み出すアプリケーションの健康のために、組み合わせの側面を取得することが重要です。 

Embedded Insiders Podcastのエピソード全体を聞いて、ご意見をお聞かせください。また、 NVIDIA #GTC21への登録を強くお勧めします。今年のカンファレンスは仮想化されており、関連トピックのオンデマンドセッションが多数用意されていて無料です。

著者:ゼイン・ツァイ
著者:ゼイン・ツァイ

ADLINKテクノロジー、組込みプラットフォームおよびモジュール、プラットフォーム製品センターのディレクター