Ne craignez pas le GPU. ADLINK et NVIDIA sont là pour vous aider!
Maximiser l'efficacité opérationnelle d'un système est un objectif normal pour la plupart des développeurs. Cependant, dans certains cas, nous sommes confrontés à la tâche de développer ces systèmes autour de nouveaux GPU, comme ceux proposés par NVIDIA. Bien que la tâche puisse sembler intimidante la première fois que vous la regardez, une analyse plus approfondie révèle qu'il existe une bonne quantité d'informations disponibles pour apaiser les inquiétudes.
La première étape pour atténuer les problèmes de conception consiste à utiliser un kit de développement logiciel (SDK), qui est l'un des nombreux outils généralement fournis par un fournisseur de GPU. Mais que faites-vous si vos exigences incluent des fonctionnalités non incluses dans le SDK? Par exemple, aider avec l'intelligence artificielle (IA) d'une conception matérielle est directement dans la timonerie de NVIDIA avec de nombreuses informations disponibles. Mais que se passe-t-il si vous devez adapter le matériel à une application spécifique?
Supposons, par exemple, qu'une application nécessite des systèmes connectés à un grand nombre de caméras alimentant toutes une plate-forme d'IA pour la détection d'images dans les aéroports ou les gares. Lorsque plusieurs caméras sont connectées, une grande quantité de données nécessite un traitement rapide et chaque caméra elle-même est un point de vulnérabilité (sécurité) potentiel qui doit être verrouillé.
Connaissez votre objectif final
Donc que fais-tu? Concentrez-vous sur l'objectif final. Je sais que cela semble évident, mais j'ai travaillé avec de nombreux clients où cela se perd dans le processus. La question clé que vous devez vous poser est la suivante: «quel est le résultat souhaité?» ou "quelle est l'action souhaitée que nous souhaitons en conséquence?" Et continuez à le revoir. Une fois cette question répondue, vous pouvez travailler à rebours dans la conception pour produire les données qui aboutiront au résultat ou à l'action spécifique souhaité. Sans réponse cohérente ni réexamen de cette question tout au long, vous courez le risque de re-conception (s) plus tard, et nous savons tous que cela signifie des efforts et des coûts supplémentaires.
Donc, si vous voulez faire de la détection d'objets par exemple et que l'objectif final est que le personnel soit alerté lorsque quelque chose est mal positionné, un moyen efficace de le faire est d'utiliser la vision industrielle pour alerter un administrateur plutôt que d'entasser des moniteurs dans une salle vidéo qui sont surveillés manuellement par une équipe de sécurité.
Chez ADLINK, nous gérons ce type de processus complexe de capture de données avec des outils tels que SDK DeepStream de NVIDIA. DeepStream SDK peut prendre la vidéo et l'écrire sur un disque qui aide à la collecte de données nécessaire pour l'apprentissage en profondeur.
Vous pouvez également trouver de l'aide via NVIDIA Boîte à outils d'apprentissage de transfert. Cette boîte à outils vous permet de créer un processus déployable beaucoup plus rapidement que si vous deviez commencer depuis le tout début. Le résultat pourrait / devrait être un meilleur retour sur investissement.
Pour aider les développeurs, nous avons compilé un ensemble de cas d'utilisation qui créent un point de départ avec des modèles optimisés spécifiques au domaine. Dans certains cas, les modèles proviennent de NVIDIA qui incluent la sécurité publique et les villes intelligentes. Si un modèle n'est pas facilement disponible, le développeur peut commencer avec des modèles existants similaires au cas d'utilisation et apporter les modifications nécessaires.
Pour obtenir une action ou un résultat spécifique, les données non structurées sont filtrées via un modèle de traitement tel que DeepStream, qui à son tour produit des données plus structurées. Plus tard, les informations qui ont été sécurisées seront acheminées vers d'autres applications pour remplir leur fonction.
C'était un teaser intentionnel - rejoignez ma session à la demande au #GTC21 pour en savoir plus! Je vais approfondir le DeepStream SDK de NVIDIA et Transfer Learning Tooklit, Inscrivez-vous ici.