Wie heterogenes Computing Deep-Learning-Workloads optimiert

Wenn Ihr Fertigungsbetrieb beginnt, den Wert zu erforschen, den Deep Learning bieten kann, werden Sie feststellen, dass Sie die Möglichkeit haben, viele verschiedene Arten von Daten zu verwenden. Ihr Unternehmen verwendet nicht mehr nur Daten, die von Barcodelesern erfasst oder über eine Tastatur eingegeben wurden. Deep-Learning-Anwendungen können Werte aus einer Vielzahl von Datentypen extrahieren, darunter Bilder, Videos, Text, Sprache und Sensoren. Da Daten in vielen heterogenen Formen vorliegen, benötigen Deep-Learning-Anwendungen heterogenes Computing, bei dem verschiedene Arten von Rechenkernen zur Datenverarbeitung verwendet werden.

Was ist heterogenes Computing?

Beim heterogenen Rechnen werden zwei oder mehr Arten von Rechenkernen verwendet, z.

  • Central Processing Unit (CPU)
  • Grafikprozessor (GPU)
  • Feldprogrammierbares Gate-Array (FPGA)
  • Anwendungsspezifische integrierte Schaltung (ASIC)

Die Verwendung mehrerer Kerne bietet Systemen Funktionen, mit denen Single-Core-Prozesse nicht übereinstimmen können. Beispielsweise kann ein System, das sowohl FPGAs als auch GPUs verwendet, nicht nur schnell Bilder rendern, sondern auch schnell mehrere Berechnungen gleichzeitig durchführen, während FPGAs die Programmierung vor Ort ermöglichen. Deep Learning kann diese Kerne auch mit verschiedenen Arten von ASICs kombinieren - Vision Processing Units (VPUs), die für Computer Vision verwendet werden, und Tensor Processing Units (TPUs), um spezielle Funktionen bei geringem Stromverbrauch bereitzustellen.

Heterogenes Computing ist kein neues Konzept. Verschiedene Arten von Rechenkernen arbeiten bereits in einer Vielzahl von Anwendungen zusammen. Deep-Learning-Plattformen erfordern jedoch die Integration verschiedener Arten von Rechenkernen in ein System, um eine optimale Leistung pro Watt zu erzielen. Die Verwendung der falschen Kerne oder das Entwerfen eines Systems mit „Overkill“ des Computerkerns würde verhindern, dass Deep-Learning-Anwendungen in Bezug auf Größe, Gewicht und Stromverbrauch optimal sind.

Was heterogenes Computing kann

Es ist möglich, dass Ihr Betrieb bis zu einem gewissen Grad Systeme nutzt, die jetzt mit heterogener Architektur erstellt wurden, und es ist wahrscheinlich, dass heterogenes Computing eine wesentliche Rolle bei der Erreichung Ihrer Industrie 4.0-Ziele spielt. Die Verwendung mehrerer Arten von Rechenkernen auf einer einzigen Plattform ermöglicht eine Vielzahl von Anwendungen, z.

  • Bildverarbeitung für effizientere Inspektionen, Messungen und verbesserte Prozesskontrollen zur Qualitätskontrolle
  • Optische Zeichenerkennung (OCR) für eine Vielzahl von Anwendungsfällen, einschließlich des Extrahierens von Daten aus älteren Geräten
  • Autonome mobile Roboter, die die Geschwindigkeit von Routineoperationen erhöhen und Aufgaben ausführen können, die ein Risiko für die Sicherheit der Mitarbeiter darstellen
  • Internet of Things (IoT) -Umgebungen, die Daten in Echtzeit zwischen Geräten und Systemen streamen und analysieren, was zu mehr Effizienz und besserer Entscheidungsfindung führt
  • Deep-Learning-Systeme, die es Algorithmen ermöglichen, zuerst zu lernen und dann direkt aus Bildern, Sprache oder Video zu schließen, ohne dass Sie angeben müssen, wie die Arbeit zu erledigen ist.
  • Paralleles Rechnen, das die Bildverarbeitung und damit das Inferenzlernen vertiefen kann.

Die Vorteile für Ihren Fertigungsbetrieb

Einer der wichtigsten Vorteile des heterogenen Rechnens besteht darin, dass Sie durch die Integration verschiedener Arten von Rechenkernen in ein System die Leistung pro Watt sowie pro Dollar, Größe, Gewicht und Leistung (SWaP) optimieren können, da diese Parameter berücksichtigt werden müssen bei der Bereitstellung von Edge-AI-Lösungen berücksichtigt werden.

Dank der heterogenen Architektur können Sie Ihre Computerumgebung auch einfacher skalieren. Mit der heterogenen Computerplattform von ADLINK, zu der der Vortex Data Distribution Service und die Microservices-Architektur für die externe Workload-Konsolidierung gehören, können Sie Ihr KI-System beispielsweise um neue Technologien erweitern, sobald diese entstehen, und neue Möglichkeiten für Innovation und Wettbewerbsfähigkeit eröffnen.

Begrenzen Sie Ihr Potenzial nicht mit einer einspurigen Denkweise

Separate Systeme, die jeweils mit einem einzigen Typ eines Computerverarbeitungskerns erstellt wurden, verhindern, dass Ihr Betrieb die von Ihnen geplante AI-fähige Industrie 4.0-Umgebung erstellt. Ihr Potenzial, Einblick in Ihre Abläufe zu erhalten, Ausfallzeiten zu vermeiden, die Produktivität durch Fernsteuerung und Automatisierung zu maximieren und die Arbeitssicherheit zu verbessern, wird mit Systemen, die heterogenes Computing nutzen, nicht konkurrieren können.

Möchten Sie mehr erfahren? 
Machen Sie mit bei NVIDIAs virtuelle #GTC20-Konferenz von unseren Edge AI-Experten mit dem Registrierungs-Promo-Code NVESEYMOUR zu hören!

Und laden Sie unser neuestes heterogenes Computing herunter weißes Papier

Verfasser: Zane Tsai
Verfasser: Zane Tsai

Direktor des Platform Product Center, Embedded Platforms & Modules, ADLINK Technology