随着您的制造业务开始探索深度学习可以提供的价值,您会注意到,它使您可以使用许多不同类型的数据。您的公司将不会继续使用条形码读取器收集的数据或通过键盘输入的数据。深度学习应用程序可以从各种数据类型(包括图像,视频,文本,语音和传感器)中提取价值。由于数据以多种异构形式出现,因此深度学习应用程序需要异构计算,该异构计算使用不同类型的计算核心来处理数据。
什么是异构计算?
异构计算使用两种或多种类型的计算核心,例如:
- 中央处理器(CPU)
- 图形处理单元(GPU)
- 现场可编程门阵列(FPGA)
- 专用集成电路(ASIC)
使用多核可为系统提供单核进程无法匹敌的功能。例如,一个同时使用FPGA和GPU的系统不仅可以快速渲染图像,而且还可以同时快速执行多个计算,而FPGA支持现场编程。深度学习还可以将这些内核与各种类型的ASIC相结合-用于计算机视觉的视觉处理单元(VPU)和张量处理单元(TPU),以提供低功耗的专用功能。
异构计算不是一个新概念。不同类型的计算核心已经在各种应用程序中协同工作。但是,深度学习平台需要将不同类型的计算核心集成到一个系统中,以提供最佳的每瓦性能。使用错误的内核或设计具有计算机内核“过大杀伤力”的系统,将使深度学习应用程序在大小,重量和功耗方面都不理想。
异构计算可以做什么
在某种程度上,您的操作可能正在利用现在使用异构体系结构构建的系统,并且异构计算可能会在实现您的Industry 4.0目标中发挥至关重要的作用。在单个平台上使用多种类型的计算核心可实现广泛的应用程序,例如:
- 机器视觉可实现更有效的质量控制检查,测量和增强的过程控制
- 光学字符识别(OCR),适用于各种用例,包括从旧设备中提取数据
- 自主移动机器人,可以提高日常操作的速度并执行对员工安全构成威胁的任务
- 物联网(IoT)环境,可在设备和系统之间实时流式传输和分析数据,从而提高效率并做出更好的决策
- 启用算法的深度学习系统首先学习,然后直接从图像,语音或视频中进行推断,而无需您告诉它如何完成工作。
- 并行计算可以加速图像处理,从而加速深度学习推理。
生产运营的优势
异构计算最显着的优势之一是,通过将不同类型的计算核心集成到系统中,您可以优化每瓦以及每美元,大小,重量和功率(SWaP)的性能,因为必须考虑这些参数部署边缘AI解决方案时应考虑在内。
异构体系结构还使您可以更轻松地扩展计算环境。例如,借助凌华科技的异构计算平台(包括用于外部工作负载整合的Vortex数据分发服务和微服务架构),您便能够扩展AI系统,使其包含新技术,并为它们带来新的机遇并为创新和竞争力提供新的机会。
不要一心一意地限制自己的潜力
每个单独的系统都使用单一类型的计算机处理核心构建,这将限制您的操作,无法构建您设想的支持AI的Industry 4.0环境。在利用异构计算的系统中,您具有洞察运营,防止停机,通过远程控制和自动化最大化生产率,增强工作人员安全性的潜力将无法与之竞争。
想了解更多?
加入我们 NVIDIA的虚拟#GTC20会议 听听我们的Edge AI专家提供的注册促销代码NVESEYMOUR!
并下载我们最新的异构计算 白皮书!
