Edge Video Analysis (EVA) Zieht die Smarts aus der Cloud

Es gibt Gründe, warum es besser ist, Ihre Berechnungen am Rand als in der Cloud durchzuführen. EVA macht das möglich

Künstliche Intelligenz, auch bekannt als KI, ist überall um uns herum. Es wird zur Analyse von Bildern und Videos verwendet und kann aus dieser Analyse Objekte und Personen erkennen und identifizieren sowie umsetzbare Informationen ableiten. Die Vorteile dieser Technologie sind vielfältig und wir kratzen nur an der Oberfläche dessen, was erreicht werden kann. Es handelt sich jedoch um eine ziemlich komplexe Technologie, die eine enorme Menge an Rechenressourcen erfordert.

<br />Künstliche Intelligenz (KI) ist da. Je mehr KI wir am Edge ausführen können, desto bessere (und schnellere) Analysen können wir erwarten. (Bildquelle: builtin.com)

Künstliche Intelligenz (KI) ist hier. Je mehr KI wir am Rand ausführen können, desto bessere (und schnellere) Analysen können wir erwarten. (Bildquelle: builtin.com) Aus diesem Grund wurden die meisten mit AI verbundenen Berechnungen in der Cloud durchgeführt, in der die rechenintensiven Ressourcen gespeichert wurden. Cloud Computing ist jedoch mit etwas Gepäck verbunden, nicht zuletzt mit der Latenz, die mit dem Verschieben von Daten vom Edge in die Cloud verbunden ist. Solche Verzögerungen würden für einen großen Prozentsatz geschäftskritischer und geschäftskritischer Anwendungen als inakzeptabel angesehen.

Ein zweiter Nachteil von Cloud Computing ist, dass das zur Übertragung der Informationen verwendete Medium sehr schnell sehr teuer werden kann. Videodaten werden sehr schnell groß, was bedeutet, dass die Kosten für die Übertragung dieser Daten entsprechend steigen.

Schließlich gibt es das Sicherheitsproblem. Die Cloud selbst ist zwar sicher, es ist jedoch schwierig sicherzustellen, dass jeder Knoten auf dem Weg ebenfalls gesperrt ist.

EVA verbessert Sichtbarkeit und Sicherheit

Dank der neuesten Fortschritte in der Computertechnologie und den KI-Algorithmen ist es jetzt möglich, eine Edge-Video-Analyse (EVA) durchzuführen, eine Technologie, die eine Videoanalyse in Echtzeit am Edge durchführt, wo die Daten stammen.

Dies ist möglich, weil viele KI-Algorithmen, wie z. B. Matrixoperationen, von der Parallelverarbeitung profitieren und die heutigen extrem leistungsstarken Mikroprozessoreinheiten (MPUs) in Kombination mit ihnen dramatisch verbessert werden können Grafikprozessoren (GPUs). Die neuesten GPUs sind mit Tausenden kleiner Prozessoren ausgestattet, von denen jeder über einen eigenen lokalen Speicher verfügt. In der EVA-Anwendung führen die GPUs die Videoanalyse-AI-Algorithmen massiv parallel aus.

Seien Sie nicht überrascht, wenn der Einsatz von EVA in naher Zukunft relativ allgegenwärtig wird. Hier sind drei Beispiele aus der Praxis, die die Funktionen von EVA demonstrieren, die alle ADLINK Edge-Computing-Plattformen verwenden. Das erste ist ein System, das in Verbindung mit einer Offshore-Bohranlage betrieben wird, die offensichtlich in extrem feindlichen Umgebungen arbeitet. Sie müssen Stößen, Vibrationen, lauten Netzteilen, weitreichenden Temperaturschwankungen, hoher Luftfeuchtigkeit und Salzwasser standhalten. Darüber hinaus können Internetverbindungen sehr unzuverlässig sein.

<br />Die Sicherheit einer Offshore-Ölplattform kann dank ADLINK-betriebenem EVA erheblich verbessert werden. (Quelle: imeche.org)

Die Sicherheit einer Offshore-Ölbohrinsel kann dank ADLINK-EVA erheblich verbessert werden. (Quelle: imeche.org) In diesem Beispiel können hochauflösende Kameras, die mit ADLINK Edge-Computing-Systemen erweitert wurden, die Hauptbohreinheit überwachen. Das System kann die Geschwindigkeit und Position der Klemmen beim Anbringen am Bohrgerät beobachten und den Bediener sofort warnen, wenn etwas nicht stimmt. Ein zweiter Vorteil, weil es Menschen erkennen kann, ist, dass es eine Warnung ausgeben kann, wenn sich eine Person an einen Ort wagt, zu dem sie nicht gehört.

Als nächstes folgt das Beispiel mit Hochgeschwindigkeitszügen. Die Züge bieten zwar Vorteile wie eine geringere Überlastung und eine höhere Produktivität, können jedoch gefährlich sein, nur weil sie mit so hohen Geschwindigkeiten fahren. Ein Bediener hat weniger Zeit, um auf Hindernisse auf der Strecke wie Tiere oder Menschen oder Verformungen auf der Strecke zu reagieren.

Hochauflösende Kameras, die mit ADLINK Edge-Computing-Systemen ausgestattet sind, können ein Problem auf der Strecke erkennen, das einen Kilometer entfernt sein kann. Beachten Sie, dass Systeme in Zügen Stößen, Vibrationen und lauten Stromversorgungen standhalten müssen, die den gesetzlichen Anforderungen entsprechen.

Das nächste Beispiel ist der moderne Flughafen. Es ist kein Geheimnis, dass der Passagierverkehr weiter zunimmt. Auf den verkehrsreichsten Flughäfen der Welt startet oder landet jedes Flugzeug 35 Zu 45 Sekunden und ungefähr 200,000 Zu 300,000 Passagiere jeden Tag. Bei so vielen Menschen, Flugzeugen, anderen Transportmitteln usw., die sich bewegen, ist das Potenzial für Probleme hoch.

<br />Viele Aspekte der Flughafennutzung können mit ADLINK-betriebenem EVA verbessert werden. Dazu gehören alle sich bewegenden Verkehrsmittel wie Flugzeuge und Straßenbahnen. (Quelle: airport-technology.com)

Viele Aspekte der Flughafennutzung können mit ADLINK-EVA verbessert werden. Dazu gehören alle fahrenden Transportmittel wie Flugzeuge und Straßenbahnen. (Quelle: Airport-technology.com) Ein Flughafen in Asien bietet dank des Edge-Computing-Systems von ADLINK eine Lösung. Dort überwacht das Edge-Computing-System ständig die Start- und Landebahnen, Rollwege und Terminals, um potenzielle Probleme zu erkennen und zu identifizieren. Das Live-Video wird von den zehn Kameras gespeist, die oben am Kontrollturm angebracht sind. Jede Kamera hat eine 4K-Auflösung und die Bilder werden in Echtzeit zusammengefügt, um einen nahtlosen 360-Grad-Panoramablick zu ermöglichen. Das künstliche Intelligenzsystem der EVA beobachtet die Bewegungen von Rollflugzeugen, Personen und anderen Aktivitäten. Wenn etwas nicht so ist, wie es sein sollte, wird einem Bediener ein Alarm signalisiert.

Darüber hinaus ist das Edge-Computing-System direkt mit dem Planungssystem verbunden, sodass es weiß, welche Flugzeuge angewiesen wurden, zu landen, zu starten und zu rollen, und wo sie sich zu einem bestimmten Zeitpunkt befinden sollten. Wenn ein Flugzeug nicht das tut, was es soll, ertönt der Alarm. Obwohl das Edge-Computing-System heute nicht aktiviert ist, kann es die Kontrolle über die Situation übernehmen und den Menschen, die die Maschinen bedienen, Anweisungen erteilen.

ADLINK verwirklicht EVA

ADLINK Technology entwickelt und fertigt eine breite Palette von Produkten für dge Computing. Zu den Edge-Computing-Lösungen des Unternehmens gehören GPU-beschleunigte Produkte auf Board-, System- und Serverebene, mit denen Systemarchitekten die Systemarchitektur für einzelne EVA-Anwendungen erstellen und optimieren können.

Wie wir gesehen haben, müssen Edge-Computing-Systeme häufig in rauen Umgebungen eingesetzt werden und außerdem höchste Zuverlässigkeit aufweisen. Die Edge-Computing-Lösungen von ADLINK sind der Aufgabe gewachsen, da ihre robusten Einheiten für solche Zielumgebungen vollständig zertifiziert sind.

Die meisten Ingenieure sind mit den Standard-GPU-Karten von NVIDIA mit ihren integrierten Lüftern vertraut. Leider sind diese Karten zwar leistungsstark, aber nicht immer für EVA-Anwendungen geeignet, auch weil die Standardkarten in der Regel eine kürzere kommerzielle Lebensdauer haben (1,5 Jahre). Fügen Sie dann hinzu, dass die Lüfter eines Systems potenzielle Fehlerquellen bieten. Wenn die Lüfter nicht mehr funktionieren, funktioniert das System nicht mehr. und wenn das System nicht mehr funktioniert, alles hört auf zu arbeiten.

Für die hier besprochenen und ähnliche Edge-Computing-GPU-Subsysteme hat das ADLINK-Entwicklungsteam die GPUs von NVIDIA übernommen und sie auf MXM-Modulen entworfen, einem kompakten Formfaktor, der kleiner als herkömmliche Grafikkarten ist. Aber MXM-GPU-Module opfere nicht die Leistung. Tatsächlich bieten diese MXM-GPU-Module eine gleichwertige Verarbeitungskapazität, verbrauchen weniger Strom (und produzieren weniger Wärme). Und sie haben eine längere kommerzielle Lebensdauer als herkömmliche Grafiksubsysteme.

In Zukunft ist klar, dass Systeme mit Edge-Videoanalyse an verschiedenen Standorten eingesetzt werden und eine Reihe von Anwendungen ausführen, die unser Leben einfacher und sicherer machen sollen. Und seien Sie versichert, dass ADLINK an der Spitze dieser aufkeimenden Technologie bleiben wird.

Verfasser: Zane Tsai
Verfasser: Zane Tsai

Direktor des Platform Product Center, Embedded Platforms & Modules, ADLINK Technology