エッジでAIを処理するための組み込みハードウェア:GPU、VPU、FPGA、およびASICの説明

ITシステムは、企業や企業全体で急速に進化しており、コンピューティング能力をエッジに移行する傾向が高まっています。ガートナーは2025年までに、エッジコンピューティングが処理すると予測しています 75%のデータ 工場、ヘルスケア、輸送を含むすべてのユースケースによって生成されます。エッジコンピューティングの採用を 人工知能の上昇 (AI)は、工場をよりスマートにし、患者の転帰を改善し、自動運転車の安全性を高め、データ量をかつてないほど大きくします。製造装置、センサー、マシンビジョンシステム、および 倉庫管理システム 単一のスマートファクトリでは、1日あたり合計1ペタバイトになる可能性があります。 

企業が最初に組み込みシステムを導入したとき、システムアーキテクトは、AI、モノのインターネット(IoT)、およびその他の高度なテクノロジーが生成するデータ量を想像できませんでした。状況が変化した今、10年前の組み込みシステムは、今日のエッジコンピューティングをサポートするように適応する必要があります。 

今日の多くのAIワークロードはクラウドで処理されます。ただし、高帯域幅のデータが増えるとこれらのシステムへの要求が高まるため、データをエッジで処理することは、遅延、信頼性、モビリティ、セキュリティ、エネルギー効率、およびデータ転送コストの観点から理にかなっています。  

今日の新しい要求を満たすには、ハードウェアを制御およびルールベースのシステムからデータ中心の環境に進化させて、エッジAIに対応する必要があります。 

エッジでのAIワークロードのプロセッサタイプのガイド 

AIワークロードを処理するためのハードウェア要件は、ユースケースによって異なります。 AIは、ビデオ、画像、オーディオ、センサー、PLCデータなどの幅広い入力を活用できます。システムアーキテクトが直面する課題は、AIアプリケーションに最適なコンピューティングコアを選択することです。  

このガイドは、エッジシステムで使用できるさまざまなタイプのプロセッシングコアとその長所を理解するのに役立ちます。  

  1. CPU 

中央処理装置(CPU)は、通常4〜16コアの汎用処理装置です。 CPUは複雑なタスクを実行し、システム管理を容易にします。 

これらは、オーディオとテキストの両方を使用し、抽出、変換、および読み込み(ETL)プロセスを使用するシステムなど、混合データ入力で適切に機能します。 

  1. GPU 

グラフィックスプロセッシングユニット(GPU)は、高速グラフィックスレンダリング用の高度に並列化されたコア(100または1,000)です。これらは高性能の処理を提供し、通常、CPUよりもフットプリントが大きく消費電力が大きくなります。 

小さなコアの数が多いため、GPUはAIワークロードに最適であり、ニューラルネットワークトレーニングトレーニングとAI推論の両方を容易にします。 

  1. FPGA 

構成可能な論理ゲートであるフィールドプログラマブルゲートアレイ(FPGA)は、CPUやGPUよりも消費電力が少なくなります。これらは、プログラミングの専門知識を持つエンジニアが現場で再プログラミングできるようにします。 

高度な柔軟性が必要な場合は、これらが最適です。 

  1. ASIC 

特定用途向け集積回路(ASIC)は、メーカーの回路ライブラリを使用して設計されたカスタムロジックであり、低消費電力、速度、およびフットプリントが小さいという利点を提供します。ただし、設計に時間がかかり、他のオプションよりも高価であるため、非常に大量に実行される製品にはASICをお勧めします。   

ASICの種類は次のとおりです。 

  • ビジョンプロセッシングユニット(VPU)、画像およびビジョンプロセッサ、およびコプロセッサ 
  • Googleが機械学習フレームワークTensorFlow用に開発した最初のTPUなどのテンソルプロセッシングユニット(TPU) 
  • ARMからのものを含むニューラルコンピューティングユニット(NCU) 

各コアタイプは、さまざまなタイプの計算に適しており、 ヘテロジニアスコンピューティングアプリケーション 複雑なユースケースに必要なすべての機能を提供します。これらを一緒に使用すると、ワークロードのバランスを取り、さまざまなAI推論パフォーマンスを向上させ、最も費用効果が高く効率的な構成を構築することもできます。 

図1.AIアプリケーションの異種エッジコンピューティングアーキテクチャオプション

EdgeAI用の組み込みハードウェアを選択する手順 

エッジでAIを処理するための組み込みエッジハードウェアシステムを選択するには、通常、次の3つの主要な要素を評価する必要があります。 

パフォーマンス  

コアハードウェアシステムは、過酷な環境でも一貫して確実に機能しながら、複雑でデータ集約型のエッジAIアプリケーションが要求する速度を提供できなければなりません。 

スワップ  

SWaPは、サイズ、重量、および電力の頭字語です。エッジハードウェアは、アプリケーションに必要な機能を提供するだけでなく、アプリケーションの物理的制約に準拠し、消費電力の観点から最も理にかなっているサイズと重量の仕様も満たしている必要があります。 

費用 

エッジハードウェアのコストは、コアの種類やメーカーによって異なります。プロジェクトに必要な機能と仕様を最適な価格で提供するものを決定する必要があります。 

図2.エッジAIハードウェアのコアタイプの比較

作業中のエッジハードウェア  

次の例は、エッジハードウェアの革新によってAIが今日の価値を提供できるようにする多くのユースケースのほんの一部です。 

ディープラーニングアクセラレーションプラットフォーム 

ディープラーニングアクセラレーションプラットフォーム(DLAP)は、データ収集、画像前処理、画像分析、AIアクセラレーションなどの機能を有効にします。また、マシンに自身のパフォーマンスを向上させ、意思決定を行う機能を提供します。処理のためにデータをクラウドに送信するレガシーエッジデバイスをDLAPに置き換えることで、運用はより高速な応答と、より優れたセキュリティと制御を確認できます。 

DLAPは、異種設計を活用できます。たとえば、CPUを使用してデータ収集と画像の前処理を管理し、GPUを使用して、エッジシステムを小さく、電力効率を維持しながら、並列タスク処理を高速化します。 

ADLINKのDLAPシリーズ たとえば、過酷な産業環境または組み込み環境でのパフォーマンス、極端な温度、高湿度での動作、および衝撃や振動が一般的なユースケース向けに設計されています。これをエッジAI用に最適化されたSWaPと呼びます。 ADLINKのコンパクトなユニットには、モジュール上にNVIDIA®Quadro®組み込みGPUまたはNVIDIA®Jetson™スーパーコンピューターが含まれており、AIベースの推論、マシンビジョン、および自律型マシン制御アプリケーションに使用できます。 

例  

AIセルフチェックアウト: のんびりとしたランチは過去のものとなり、 食事を購入する簡単な方法を探しています。セルフサービスの採用は消費者の間で拡大しており、AIは顧客体験を近代化することができます。レストランや店舗のチェックアウト時に、マシンビジョンは1回のスキャンでアイテムを識別し、ADLINKDLAP-211-JT2を使用して1.5秒未満で合計期限を表示できます。顧客は購入を迅速かつ便利に完了することができます。

モバイルX線Cアーム: 医療機器は、信頼性が高く、耐久性があり、高性能を実現するように設計されている必要があります。モバイル機器は、必要なすべてのコンピューティング能力を低消費電力のコンパクトな設計に詰め込む必要もあります。 CPUと世界最小の産業用GPU対応システムである組み込みMXMGPUモジュールの組み合わせは、これらの仕様を満たしています。 

モジュール上のAI 

モバイルPCIExpressモジュール(MXM)GPUを使用すると、手のひらサイズのグラフィックカードでAIを実行できます。これらは、フルレングスのPEGカードのほんの一部のサイズなど、SWaPの大きな利点を提供します。これらはワットあたりの高性能を提供し、換気が制限されているかまったくない、狭いスペース、高温または低温、ほこりの多い環境や腐食性の環境などの極端な条件向けに設計されています。 

 

AI顔認識: アクセス制御は、製造工場、研究施設、データセンター、およびその他の高度に制御された領域への不正侵入を防ぐために不可欠です。 AI顔認識ゲートは、IDカード(偽造可能)の必要性を排除し、それらのレガシーシステムを、たとえ眼鏡や帽子をかぶっていても、ほんの一瞬で許可されたユーザーを識別するテクノロジーに置き換えます。実際の人間の顔と写真を区別することもできます。 

空港の安全性: 空港のパノラマ監視システムは、滑走路、空中および地上の交通の360度のビューを提供し、従来の監視システムよりも高度な状況認識を提供します。これらのAIテクノロジーは、屋外で使用するために設計された頑丈なファンレスエッジデバイスによってサポートされており、昼夜を問わず監視の改善をサポートする高性能GPUと統合されています。   

エッジロボティクス 

ハードウェアは、 エッジでのロボティクスをも可能にします。。 Eclipse Cyclone DDS(Data Distribution Service) が、2021年5月にリリースされるROS 2のデフォルトミドルウェアに選ばれたことをご存知ですか?これは、ロボットが自分自身や周囲の世界とコミュニケーションをとるためのROScube組み込み型ロボットコントローラに搭載されているDDS(Data Distribution Service)技術と同じであるため、非常に喜ばしいことです。 ROScube組み込みロボティクスコントローラー、ロボットが自分自身や周囲の世界と通信するのに役立ちます。  

例: 

製造業における自律移動ロボット: エッジAIを搭載したAMRは、マシンビジョン、5G、およびDDSテクノロジーを使用して、環境をネゴシエートし、コンテキストを理解できます。 フェアフレンドグループ、台湾最大のメーカーの1つは、5G over DDSインフラストラクチャを使用して、拡張現実、自動検査用のマシンビジョン、および今日の工場でのマテリアルハンドリング用のAMRスウォームによるリモートメンテナンスを可能にしています。

AI マシンビジョン  

AIベースのマシンビジョンシステムは、統合された産業用カメラと、高性能GPU、VPU、CPUが組み込まれたエッジコンピューティングシステムを活用してタスクを実行します。すべての計算能力がエッジにあるため、遅延と帯域幅の懸念が排除されます。また、右端のハードウェアを使用すると、スマートカメラはAIマシンビジョンの小さなフットプリント、重量、電力、パフォーマンス、およびコスト要件を維持できます。  

例: 

倉庫のフルフィルメント: 第三者の物流・サプライチェーン企業であるEvans Distribution Systems社は、有名な非営利団体であるGirl Scouts of Americaの最も人気のある募金活動の1つであるガールスカウトクッキーの注文に、AIマシンビジョンシステムを用いて迅速かつ正確に対応しています。 最近のインタビューによると、このシステムは99.8%以上の精度を誇り、生産性の向上と正確な顧客への出荷を実現しています。

エッジAIのための革新的な組み込みハードウェアを自分で探る 

ADLINKは、 Embedded World 2021 Digital において、エッジAI向けの各種ハードウェアを展示します。このカンファレンスは、お客様のユースケースに最適な組込みハードウェアを選択するために、ADLINKのエンジニア、パートナー、エッジシステムの専門家と交流するチャンスです。 こちらから無料で#ew21に登録してください プロモーションコードはこちら:ew21456845。

著者:ゼイン・ツァイ
著者:ゼイン・ツァイ

ADLINKテクノロジー、組込みプラットフォームおよびモジュール、プラットフォーム製品センターのディレクター