#GTC21上的Edge AI:NVIDIA DeepStream SDK和TLT

不要害怕GPU。 凌华科技和NVIDIA在这里为您提供帮助!  

对于大多数开发人员来说,使系统的运行效率最大化是正常的目标。但是,在某些情况下,我们面临着围绕较新的GPU开发这些系统的任务,例如 英伟达。第一次看任务可能会令人望而生畏,但更深入的研究表明,有大量可用的信息可以缓解任何疑虑。 

减轻设计痛苦的第一步是使用软件开发套件(SDK),这是GPU供应商通常提供的许多工具之一。但是,如果您的要求包括SDK中未包含的功能,您该怎么办?例如,在NVIDIA操舵室内,就可以在硬件设计的人工智能(AI)方面提供帮助,并提供充足的信息。但是,如果您需要针对特定应用调整硬件,会发生什么?  

举例来说,一个应用程序需要连接到大量摄像机的系统,这些摄像机全部馈入AI平台以在机场或火车站内进行图像检测。连接多台摄像机时,需要快速处理大量数据,每台摄像机本身都是必须锁定的潜在漏洞(安全)点。 

知道你的最终目标 

所以你会怎么做?专注于最终目标。我知道这似乎很明显,但我曾与许多客户合作,但他们在此过程中迷路了。您需要问的关键问题是:“期望的结果是什么?”或者,“结果是我们想要采取什么行动?”并继续重新审视它。一旦回答了这个问题,您就可以反向进行设计,以生成将导致特定结果或所需动作的数据。如果在整个过程中都没有一个一致的答案或重新审视此问题,您将冒着日后进行重新设计的风险,我们都知道这意味着额外的工作和成本。  

因此,例如,如果您要进行对象检测,并且最终目标是在放置不正确的东西时向人员发出警报,那么一种有效的方法是使用机器视觉来警告管理员,而不是将监视器塞到视频室中,被安全团队手动监视。  

在ADLINK,我们使用诸如 NVIDIA的DeepStream SDK。 DeepStream SDK可以将视频拍摄并将其写入磁盘,以协助进行深度学习所需的数据收集。 

您也可以通过NVIDIA的 转移学习工具包。与从头开始时相比,该工具包使您可以更快地创建可部署过程。结果可能/应该是更高的投资回报率。  

为了帮助开发人员,我们已经编译了一组用例,这些用例创建了具有优化的特定于领域的模型的起点。在某些情况下,模型来自NVIDIA,其中包括公共安全和智慧城市。如果模型不易获得,则开发人员可以从类似于用例的现有模型开始,并根据需要进行更改。 

为了实现特定的操作或结果,非结构化数据通过类似DeepStream的处理模型进行过滤,从而产生更多的结构化数据。以后,已保护的信息将传播到其他应用程序以执行其功能。 

这是一个故意的预告片-加入我在#GTC21上的按需课程以获取更多信息!我将深入探讨NVIDIA的DeepStream SDK和Transfer Learning Tooklit, 在这里注册.  

作者:托比·麦克林(Toby McClean)
作者:托比·麦克林(Toby McClean)

凌华科技物联网与创新副总裁