이기종 컴퓨팅이 딥 러닝 워크로드를 최적화하는 방법

제조 작업에서 딥 러닝이 제공 할 수있는 가치를 탐색하기 시작하면 다양한 유형의 데이터를 사용할 수있는 가능성을 알게 될 것입니다. 귀하의 비즈니스는 바코드 리더로 수집하거나 키패드에 입력 된 데이터를 계속 사용하지 않습니다. 딥 러닝 애플리케이션은 이미지, 비디오, 텍스트, 음성 및 센서를 포함한 다양한 데이터 유형에서 가치를 추출 할 수 있습니다. 데이터는 다양한 이기종 형태로 제공되기 때문에 딥 러닝 애플리케이션에는 다양한 유형의 컴퓨팅 코어를 사용하여 데이터를 처리하는 이기종 컴퓨팅이 필요합니다.

이기종 컴퓨팅이란 무엇입니까?

이기종 컴퓨팅은 다음과 같은 두 가지 이상의 컴퓨팅 코어 유형을 사용합니다.

  • 중앙 처리 장치 (CPU)
  • 그래픽 처리 장치 (GPU)
  • FPGA (Field Programmable Gate Array)
  • 주문형 집적 회로 (ASIC)

다중 코어를 사용하면 단일 코어 프로세스가 비교할 수없는 기능이 시스템에 제공됩니다. 예를 들어, FPGA와 GPU를 모두 사용하는 시스템은 이미지를 빠르게 렌더링 할뿐만 아니라 동시에 여러 계산을 빠르게 수행 할 수 있으며 FPGA는 현장 프로그래밍을 가능하게합니다. 딥 러닝은 또한 이러한 코어를 다양한 유형의 ASIC (컴퓨터 비전에 사용되는 VPU) 및 텐서 처리 장치 (TPU)와 결합하여 저전력 소비로 특수 기능을 제공 할 수 있습니다.

이기종 컴퓨팅은 새로운 개념이 아닙니다. 다양한 유형의 컴퓨팅 코어가 이미 다양한 애플리케이션에서 함께 작동하고 있습니다. 그러나 딥 러닝 플랫폼은 와트 당 최적의 성능을 제공하기 위해 여러 유형의 컴퓨팅 코어를 하나의 시스템에 통합해야합니다. 잘못된 코어를 사용하거나 컴퓨터 코어 "과잉"이있는 시스템을 설계하면 크기, 무게 및 전력 소비 측면에서 딥 러닝 애플리케이션이 최적화되지 않습니다.

이기종 컴퓨팅으로 수행 할 수있는 작업

어느 정도까지 운영이 이기종 아키텍처로 구축 된 시스템을 활용하고있을 가능성이 있으며, 이기종 컴퓨팅이 Industry 4.0 목표를 달성하는 데 필수적인 역할을 할 가능성이 높습니다. 단일 플랫폼에서 여러 유형의 컴퓨팅 코어를 사용하면 다음과 같은 광범위한 응용 프로그램이 가능합니다.

  • 보다 효율적인 품질 관리 검사, 측정 및 향상된 프로세스 제어를위한 머신 비전
  • 레거시 장비에서 데이터 추출을 포함한 다양한 사용 사례를위한 OCR (광학 문자 인식)
  • 일상적인 작업 속도를 높이고 직원 안전에 위험을 초래하는 작업을 수행 할 수있는 자율 이동 로봇
  • 장치와 시스템간에 실시간으로 데이터를 스트리밍하고 분석하여 효율성을 높이고 의사 결정을 개선하는 사물 인터넷 (IoT) 환경
  • 알고리즘을 사용하여 먼저 학습 한 다음 작업을 수행하는 방법을 알려주지 않고도 이미지, 음성 또는 비디오에서 직접 추론 할 수있는 딥 러닝 시스템입니다.
  • 이미지 처리를 가속화하고 따라서 딥 러닝 추론을 가속화 할 수있는 병렬 컴퓨팅.

제조 작업의 이점

이기종 컴퓨팅의 가장 중요한 장점 중 하나는 다양한 유형의 컴퓨팅 코어를 시스템에 통합함으로써 와트 당 성능, 크기, 무게 및 전력 (SWaP)을 최적화 할 수 있다는 것입니다. 에지 AI 솔루션을 배포 할 때 고려합니다.

또한 이기종 아키텍처를 사용하면 컴퓨팅 환경을보다 쉽게 확장 할 수 있습니다. 예를 들어, 외부 워크로드 통합을위한 Vortex 데이터 배포 서비스 및 마이크로 서비스 아키텍처가 포함 된 에이디 링크의 이기종 컴퓨팅 플랫폼을 통해 AI 시스템을 확장하여 새로운 기술이 등장 할 때이를 포함하고 혁신과 경쟁력을위한 새로운 기회를 활성화 할 수 있습니다.

원 트랙 사고 방식으로 잠재력을 제한하지 마십시오

단일 유형의 컴퓨터 처리 코어로 구축 된 별도의 시스템은 사용자가 구상하는 AI 지원 인더스트리 4.0 환경을 구축하는 작업을 제한합니다. 운영에 대한 가시성을 확보하고, 다운 타임을 방지하고, 원격 제어 및 자동화를 통해 생산성을 극대화하고, 작업자 안전을 향상시킬 수있는 잠재력은 이기종 컴퓨팅을 활용하는 시스템과 경쟁 할 수 없습니다.

더 알고 싶으세요? 
우리와 함께 NVIDIA의 가상 #GTC20 컨퍼런스 등록 프로모션 코드 NVESEYMOUR로 Edge AI 전문가의 의견을 들어보세요!

최신 이기종 컴퓨팅을 다운로드하십시오. 백지

글쓴이: 제인 차이 (Zane Tsai)
글쓴이: 제인 차이 (Zane Tsai)

에이디링크 기술, 임베디드 플랫폼 및 모듈, 플랫폼 제품 센터 디렉터