嵌入式内部人士播客:人工智能与物联网边缘交汇的地方

关于边缘AI的话题以及边缘AI技术带来的好处实际上并不是什么新鲜事。我们可能在IoT之前添加了字母“ A”,现在我们称之为 物联网 (它实际上描述了实施边缘AI技术时的总体环境),但工程方面的努力仍然存在:“这比听起来要难。”我们的使命是将此短语更改为“使用ADLINK更容易”。聊一聊 

完整播客集:

与云中的AI相比,边缘的AI之间存在很大的差异。数据在边缘生成;因此,使用 物联网,情报和行动都发生在同一位置。这是至关重要的,因为某些应用程序不能浪费时间等待数据来回传输到云中-生产线停机或自动驾驶汽车碰撞之间相差毫秒。显然,如果数据不需要传输到任何地方,则可以实现更快的响应。 5G使这一点更具可维护性,但对于自动驾驶汽车或医疗设备等应用而言,速度不一定足够快。 

在选择可用的AI平台时,Edge AI平台设计师需要做出一些艰难的决定 处理器选项 在边缘计算AI。他们必须在CPU,GPU和VPU之间进行选择。似乎还不够,Google正在将TPU(张量处理单元)包含在已经足够丰富的处理单元集合中。 

这 不同的处理器类型 都以自己的方式特殊。例如,CPU可以处理顺序的繁重操作。另一方面,GPU可以更好地并行处理小任务。但是,资源需要同步。这就是将CPU与GPU耦合的原因- 异构计算 方法–是边缘AIoT设备的理想解决方案。 

虽然没有一种“一刀切”的边缘AI解决方案,但是要确定边缘AI解决方案是否适合特定设计需要提出四个问题: 

  1. 您需要运行什么算法? 
  1. 需要什么样的性能? 
  1. 您需要多快的响应时间? 
  1. 您的设计预算是多少? 

当然,需要大量的反复试验分析才能找到适合您的AI应用程序的处理器组合。选择合适的边缘计算供应商来帮助您满足正确的尺寸,重量和性能(SWaP)约束条件,以支持您的边缘AI应用程序将决定您的项目成功。如果您正在阅读此博客,那么您来对地方了! 🙂

在凌华科技,我们能够区分处理器组合在涉及多种因素(包括深度嵌入的AI算法)时如何相互作用,从而指导您完成边缘AI设计过程。对于重型机械,自动化和制造行业中的人员安全和创收应用程序的健康而言,获取组合方面至关重要。 

收听完整的Embedded Insiders Podcast插曲,让我知道您的想法!也强烈建议注册 NVIDIA #GTC21,今年的会议是虚拟的,免费的,并且有大量有关相关主题的按需会议-在那见到吗?

作者:赞恩·蔡
作者:赞恩·蔡

凌华科技嵌入式平台与模块平台产品中心总监