Podcast Embedded Insiders: là où l'IA rencontre les limites de l'IoT

Parler de l'IA à la périphérie et des avantages de la technologie de pointe de l'IA ne sont en fait pas si nouveaux. Nous avons peut-être ajouté la lettre «A» devant l'IoT, pour ce que nous appelons maintenant AIoT (qui décrit vraiment l'environnement global lors de la mise en œuvre de la technologie IA de pointe), mais la lutte d'ingénierie demeure: «c'est plus difficile qu'il n'y paraît». Nous avons pour mission de changer cette phrase en «c'est plus facile avec ADLINK». Parlons. 

Épisode complet du podcast:

Il y a une grande différence entre l'IA à la périphérie et l'IA dans le cloud. Les données sont générées au bord; par conséquent, en utilisant AIoT, l'intelligence et l'action se produisent toutes au même endroit. Ceci est vital car certaines applications ne peuvent pas perdre le temps d'attendre que les données vont et viennent dans le cloud - c'est une différence de milliseconde entre une ligne de production en panne ou une collision de véhicule autonome. Évidemment, si les données n'ont pas besoin de voyager n'importe où, des réponses plus rapides peuvent être obtenues. La 5G rend cela beaucoup plus facile à maintenir, mais pas nécessairement assez rapide pour des applications telles que les véhicules autonomes ou les appareils médicaux. 

Les concepteurs de plates-formes Edge AI ont des décisions difficiles à prendre lorsqu'il s'agit de choisir parmi les solutions disponibles options de processeur pour le calcul de l'IA à la périphérie. Ils doivent choisir entre les processeurs, les GPU et les VPU; et comme si cela ne suffisait pas, Google inclut des TPU (unités de traitement Tensor) dans la collection déjà abondante d'unités de traitement. 

La série différents types de processeurs sont tous spéciaux à leur manière. Par exemple, un processeur peut gérer des opérations séquentielles et lourdes. À l'opposé, un GPU fonctionne mieux avec de petites tâches en parallèle. Cependant, les ressources doivent être synchronisées. C'est pourquoi coupler des CPU avec des GPU - un calcul hétérogène approche - est la solution idéale pour les équipements AIoT en périphérie. 

Bien qu'il n'existe pas de solution d'IA de bord unique, il y a quatre questions à se poser pour déterminer si une solution d'IA de bord convient à une conception particulière: 

  1. Quel est l'algorithme dont vous avez besoin pour exécuter? 
  1. Quel type de performance est nécessaire? 
  1. À quelle vitesse avez-vous besoin d'une réponse? 
  1. Quel est votre budget de conception? 

Il y a certainement beaucoup d'analyses par essais et erreurs qui sont nécessaires pour trouver la combinaison de processeurs appropriée pour votre application d'intelligence artificielle. La sélection du fournisseur d'informatique de pointe pour vous aider à respecter les bonnes contraintes de taille, de poids et de performances (SWaP) pour prendre en charge votre application d'IA de périphérie déterminera la réussite de votre projet. Et si vous lisez ce blog, vous êtes au bon endroit! 🙂

Chez ADLINK, nous avons la possibilité de différencier la façon dont les combinaisons de processeurs interagissent en ce qui concerne un certain nombre de facteurs, y compris des algorithmes d'IA profondément intégrés, pour vous guider tout au long du processus de conception de l'IA de pointe. Il est crucial d'avoir l'aspect combinatoire, pour la sécurité des personnes et la santé des applications génératrices de revenus dans les machines lourdes, l'automatisation et la fabrication. 

Écoutez l'épisode complet du podcast Embedded Insiders et dites-moi ce que vous en pensez! Je vous recommande également vivement de vous inscrire à NVIDIA #GTC21, la conférence est virtuelle et gratuite cette année avec de nombreuses sessions à la demande sur des sujets connexes - vous y voyez?

Auteur: Zane Tsai
Auteur: Zane Tsai

Directeur du centre de produits de plate-forme, plates-formes et modules embarqués, technologie ADLINK