클라우드의 스마트한 기술을 활용하는 엣지 비디오 분석 (EVA: Edge Video Analysis)

클라우드보다 엣지에서 계산을 수행하는 것이 더 좋은 이유가 있다. EVA가 그것을 가능하게 한다.

인공지능, 이른바 AI는 우리 주변에서 쉽게 볼 수 있다. 이는 이미지와 영상을 분석하는 데 사용되며, 그 분석으로 물체와 사람을 탐지하고 식별해내고, 실행 가능한 정보를 도출할 수 있다. 이 기술의 이점은 많으며, 우리는 아직 이룰 수 있는 많은 것의 아주 일부분을 시작하고 있을 뿐이지만, 그것은 엄청난 양의 컴퓨터 자원을 필요로 하는 상당히 복잡한 기술이다.

<br />인공지능(AI)이 여기에 있다. 엣지에서 더 많은 AI를 수행할수록 더 나은(그리고 더 빠른) 분석을 기대할 수 있습니다. (이미지 출처: builtin.com)

인공지능(AI) 시대가 왔다. 엣지에서 AI를 더 많이 수행할수록 더 나은(그리고 더 빠른) 분석을 기대할 수 있다. (이미지 소스: builtin.com) 이러한 이유로, AI와 관련된 대부분의 컴퓨팅은 컴퓨팅 집약적인 리소스가 저장된 클라우드에서 처리되었다. 그러나 클라우드 컴퓨팅은 일부 단점이 있으며, 그 중 가장 중요한 것은 엣지에서 클라우드로 데이터를 이동할 때 발생되는 지연 시간이다. 이러한 지연은 대부분의 미션 크리티컬 애플리케이션과 비즈니스에 중요한 애플리케이션에서 용납할 수 없을 것으로 간주 된다.

클라우드 컴퓨팅에 대한 두 번째 "아쉬운 측면"은 정보를 전송하는 데 사용되는 매체의 비용이 급격히 상승할 수 있다는 점이다. 비디오 데이터의 사이즈는 매우 빠르게 증가하는데, 이는 데이터를 전송하는 비용이 그에 따라 증가함을 의미한다.

마지막으로 보안 문제가 있다. 클라우드 자체는 안전할 수도 있지만 모든 노드(node)가 잠겼는지 확인하기는 어렵다.

가시성 및 안전성을 향상시키는 EVA

최근 컴퓨팅 기술과 AI 알고리즘의 발달로 데이터가 발원하는 엣지에서 실시간으로 영상 분석을 수행하는 기술인 엣지 비디오 분석(EVA)을 적용할 수 있게 되었다.

이는 매트릭스 연산을 포함하는 것과 같은 많은 AI 알고리즘이 병렬 프로세싱의 이점으로 그래픽 프로세싱 유닛(GPU)과 결합하면 오늘날의 매우 강력한 마이크로프로세서 유닛(MPU)을 극적으로 증가시킬 수 있기 때문에 가능하다. 최신 GPU는 각각 고유의 로컬 메모리를 가진 수천 개의 소형 프로세서로 설계된다. EVA 애플리케이션에서 GPU는 영상 분석 AI 알고리즘을 대규모 병렬 방식으로 실행한다.

가까운 미래에 EVA 사용이 비교적 보편화되더라도 놀라지 않으시길. 에이디링크 엣지 컴퓨팅 플랫폼을 모두 사용하는, EVA의 기능을 보여주는 세 가지 실제 사례가 여기 있다. 첫째는 해상 시추장치와 연계하여 운용되는 시스템인데, 이것은 분명히 극도로 적대적인 환경에서 운용된다. 그것은 충격, 진동, 전력 공급 소음, 광범위한 온도 변화, 높은 습도, 그리고 소금물을 견뎌야 한다. 게다가 인터넷 연결은 안정적일 수 없다.

<br />에이디링크 기반 EVA 덕분에 연안 석유 굴착 장치의 안전과 보안이 크게 향상될 수 있습니다. (출처: imeche.org)

에이디링크의 EVA 덕분에 연안 석유 굴착기의 안전과 보안이 크게 향상될 수 있다. (출처: imeche.org) 이 사례에서 에이디링크 엣지 컴퓨팅 시스템으로 증강된 고해상도 카메라는 주요 드릴 어셈블리를 감시할 수 있다. 이 시스템은 클램프가 드릴링 장치에 부착될 때 클램프의 속도와 위치를 관찰할 수 있으며, 이상이 있을 경우 작업자에게 즉시 경고를 보낸다. 두 번째 혜택은 인간을 인식할 수 있기 때문에 사람이 위험한 곳에 들어갈 경우 경고를 보낼 수 있다는 점이다.

다음은 고속 열차 사례이다. 고속열차는 혼잡 감소와 생산성 향상과 같은 혜택을 제공하지만, 단순히 고속으로 운행한다는 이유만으로 열차는 위험할 수 있다. 운영자가 동물이나 사람과 같은 선로상의 장애물이나 선로상의 변형에 반응할 수 있는 시간이 매우 짧다.

에이디링크 엣지 컴퓨팅 시스템에 의해 강화된 고해상도 카메라는 1킬로미터 떨어진 트랙에서도 문제를 감지할 수 있다. 열차에 장착된 시스템은 사전 규제 요건을 충족하기 전에 충격, 진동 및 소음이 심한 전원 공급 장치를 견딜 수 있어야 한다.

다음 예는 현대 공항이다. 승객들의 왕래가 계속 증가하고 있다는 것은 모두가 아는 사실이다. 실제로 세계에서 매우 붐비는 공항에서는 35 에서 45 초마다 비행기가 이착륙하고, 매일 약 200,000 에서 300,000 매일 승객. 많은 사람, 비행기, 다른 형태의 교통 수단 등이 이동하면서 문제의 가능성이 높습니다.

<br />에이디링크 기반 EVA를 사용하면 공항 사용의 여러 측면을 향상시킬 수 있습니다. 여기에는 비행기와 트램과 같은 움직이는 모든 운송 수단이 포함됩니다. (출처: Airport-technology.com)

에이디링크 기반 EVA를 사용하여 공항 이용의 많은 측면을 개선할 수 있다. 여기에는 비행기나 트램과 같은 이동수단을 포함한다. (출처: airport-technology.com) 아시아의 한 공항은 에이디링크의 엣지 컴퓨팅 시스템 덕분에 해결책을 내놓았다. 엣지 컴퓨팅 시스템은 활주로, 유도로, 터미널을 지속적으로 모니터링하여 잠재적인 문제를 감지하고 식별한다. 라이브 영상은 관제탑 꼭대기에 장착된 카메라 10대를 통해 전송된다. 각 카메라는 4K 해상도를 갖췄으며, 영상은 실시간으로 함께 스티치 되어 360도 파노라마 뷰를 제공한다. EVA의 인공지능 시스템은 비행기, 사람, 그리고 다른 활동들의 움직임을 관찰한다. 만약 무언가가 정상적이지 않으면, 운영자에게 알람이 울린다.

또 엣지 컴퓨팅 시스템은 스케줄링 시스템과 직접 연결되기 때문에 어느 비행기가 착륙, 이륙, 이동에 대한 지시를 받았는지, 어느 시간에 어느 곳에 있어야 하는지 등을 파악한다. 비행기가 해야 할 일을 하고 있지 않으면 경보가 울린다. 아직은 활성화되지 않았지만, 엣지 컴퓨팅 시스템이 상황을 통제하고 기계를 운영하는 인간에게 지시를 내리는 것도 가능하다.

EVA를 현실로 만든 에이디링크

에이디링크 테크놀로지는 엣지 컴퓨팅을 위한 다양한 제품을 설계하고 제조한다. 에이디링크의 엣지 컴퓨팅 솔루션에는 GPU 가속 보드, 시스템 및 서버 레벨 제품이 포함되어 있어 시스템 설계자가 개별 EVA 애플리케이션을 위한 시스템 아키텍처를 구축하고 최적화할 수 있다.

앞서 살펴본 바와 같이, 엣지 컴퓨팅 시스템은 종종 가혹한 환경에 배치되어야 하며, 또한 가장 높은 신뢰성을 보여야 한다. 에이디링크의 엣지 컴퓨팅 솔루션은 그러한 환경에 대해 완전히 입증된 견고한 장치로 작동이 가능하다.

대부분의 엔지니어들은 엔비디아의 기성품 GPU 카드와 통합된 냉각 팬에 익숙하다. 이 카드는 강력하지만 불행히도 일반적으로 더 짧은 상용 수명(1.5년) 등의 이유로 EVA 애플리케이션에 항상 적합한 것은 아니다. 그리고 시스템의 냉각 팬 또한 고장의 잠재성이 존재한다. 팬이 작동을 멈추면 시스템이 작동을 멈추고, 시스템이 작동을 멈추면 모든 것이 작동을 멈춘다. 모두 작동을 멈 춥니 다.

여기서 논의한 엣지 컴퓨팅 GPU 서브시스템, 그리고 그것들과 비슷한 것들을 위해, 에이디링크의 엔지니어링 팀은 엔비디아의 GPU를 가져와서 기존의 그래픽 카드보다 작은 컴팩트 폼 팩터인 MXM 모듈로 설계했다. 그러나 MXM GPU 모듈 은 성능이 저하되지 않는다. 실제로 MXM GPU 모듈은 전력 소모량이 적으며(그리고 열 발생량도 적음) 동등한 처리 능력을 제공한다. 그리고 기존의 그래픽 서브시스템보다 상업적인 수명이 더 길다.

앞으로, 엣지 비디오 분석을 채택한 시스템은 다양한 장소에 배치되어, 교차 애플리케이션 세트를 수행할 것이며, 이 모든 것이 우리의 삶을 더 쉽고 안전하게 만들 것이다. 그리고 에이디링크가 이 급증하는 기술의 선두에 계속 서게 될 것이라고 안심하여도 된다.

글쓴이: 제인 차이 (Zane Tsai)
글쓴이: 제인 차이 (Zane Tsai)

에이디링크 기술, 임베디드 플랫폼 및 모듈, 플랫폼 제품 센터 디렉터