Justin Boitano ist Vizepräsident und Geschäftsführer des Edge-Computing-Geschäfts von Nvidia. Zuvor war er Vice President of Marketing und Business Development bei Frame, einem Multi-Cloud-App-Bereitstellungsservice, und General Manager des Geschäftsbereichs für Enterprise Cloud und Virtualisierung bei Nvidia.

Bild: Nvidia

Artificial Intelligence Neue Plattform für ausfallsichere KI-Systeme

03.08.2020

Massive Veränderungen in vielen Branchen werden durch die zunehmende Einführung von IoT-Sensoren vorangetrieben, darunter Kameras, Mikrofone und eine Reihe anderer intelligenter Geräte. Diese helfen Unternehmen dabei, das Geschehen in der physischen Welt wahrzunehmen und zu verstehen. Sie mit KI zu verbinden, ist jedoch eine große Herausforderung.

Justin Boitano ist mit diesem Beitrag im E&E-Kompendium 2020 als einer von 100 Machern der Elektronikwelt vertreten. Alle Beiträge des E&E-Kompendiums finden Sie in unserer Rubrik Menschen.

Die Menge der Daten, die am Rand generiert werden, wächst exponentiell. Die einzige Möglichkeit, diese riesigen Datenmengen in Echtzeit zu verarbeiten, besteht darin, Server in der Nähe des Einsatzortes aufzustellen und die immense Rechenleistung von Grafikprozessoren zu nutzen.

Das Rechenzentrum der Zukunft wird nicht mehr 10.000 Server an einem Standort haben, sondern einen oder mehrere Server an 10.000 verschiedenen Standorten. Sie werden sich in Bürogebäuden, Produktionsstätten, Lagerhallen, Mobilfunkmasten, Schulen, Geschäften und Banken befinden. Sie werden Verkehrsstaus und Waldbrände erkennen, den Verkehr sicher leiten und Produkte empfehlen.

Edge-Server mit Selbstschutz

Durch die Platzierung eines Netzwerks von verteilten Servern, dort, wo die Daten von Hunderten von Sensoren auftreten, können Unternehmen Netzwerke von Datenzentren am Rand nutzen, um sofortige Maßnahmen mithilfe von KI zu ergreifen. Darüber hinaus werden durch die Verarbeitung von Daten am Rand Bedenken hinsichtlich Datenschutzes beziehungsweise Datenhoheit ausgeräumt.

Edge-Servern fehlt die physische Sicherheitsinfrastruktur, die für die Unternehmens-IT selbstverständlich ist. Und den Unternehmen fehlt das Budget, um in IT-Roaming-Personal zur Verwaltung dieser Remote-Systeme zu investieren. Daher müssen Edge-Server so konzipiert sein, dass sie sich selbst schützen und sich einfach aus der Ferne aktualisieren, verwalten und implementieren lassen. Außerdem müssen diese KI-Systeme ohne Ausfallzeiten laufen.

Wir haben deshalb die neue Nvidia-EGX-Edge-AI-Plattform entwickelt, um Sicherheit und Ausfallsicherheit auf globaler Ebene zu gewährleisten. Durch die Vereinfachung der Bereitstellung und Verwaltung ermöglicht sie ständig aktive KI-Anwendungen zur Automatisierung der kritischen Infrastruktur der Zukunft.

Bei der Plattform handelt es sich um eine Kubernetes- und Container-native Software-Plattform, die GPU-beschleunigte KI für alle gängigen Hardware-Plattformen, von x86-Servern bis hin zu Arm-basierten Nvidia Jetson SoCs bietet. Unternehmen, die KI einsetzen, müssen nicht nur Kundendaten schützen, sondern auch die KI-Modelle, die die Daten in Abläufe umwandeln.

KI-Nervensysteme für jede Branche

Über die Nvidia GPU Cloud (NGC), unseren Katalog mit GPU-optimierten Containern, stellen wir branchenspezifische Anwendungs-Frameworks und domänenspezifische KI-Toolkits bereit, um den Einstieg zu vereinfachen und KI-Anwendungen auf neue Edge-Umgebungen abzustimmen. Sie können zusammen oder einzeln verwendet werden und eröffnen neue Möglichkeiten für eine Vielzahl von Edge-Anwendungsfällen. Und mit dem privaten NGC-Register können Anwendungen vor der Veröffentlichung signiert werden, um sicherzustellen, dass sie während der Übertragung nicht manipuliert wurden, und dann authentifiziert werden, bevor sie am Rand ausgeführt werden.

Die Zukunft des Edge-Computings erfordert sichere, skalierbare, ausfallsichere und einfach zu verwaltende Flotten von KI-gestützten Systemen, die am Netzwerkrand laufen. Indem wir die kombinierte Beschleunigung von Nvidia-GPUs und Nvidia Mellanox SmartNICs zu der Nvidia-EGX-Plattform verknüpfen, bauen wir sowohl eine Plattform als auch ein Ökosystem, um das KI-Nervensystem jeder globalen Branche zu erschaffen.

Firmen zu diesem Artikel
Verwandte Artikel