Wie unterstützen Sie Unternehmen dabei, KI-Projekte von der Entwicklung bis zur Implementierung auf Hardwareplattformen zu skalieren?

Die Kernkompetenz von Kontron liegt in der Entwicklung skalierbarer Lösungen, welche die Lücke zwischen KI-Entwicklung und praktischer Umsetzung schließen. Die Bereitstellung robuster Embedded-Hardware-Plattformen für Edge-Computing- und IoT-Anwendungen ermöglicht Unternehmen einen nahtlosen Übergang von Prototypen zu umfassenden Implementierungen. Dabei begleiten wir unsere Kunden dabei, ihre trainierten KI-Anwendungen auf für Stückzahlen ausgelegten Lösungen auszurollen. Im Prinzip ein Optimierungsprozess, in dem sowohl die KI-Netze als auch die Hardware aufeinander abgestimmt werden, um ein attraktives Lösungspaket zu schaffen.

Welche Rolle spielen Ihre Partnerschaften mit Unternehmen wie Qualcomm und Nvidia bei der Entwicklung von leistungsstarken KI-Lösungen für Edge-Computing und IoT-Anwendungen?

Nvidia, als einer der Vorreiter in diesem Bereich, hat seinen festen Platz im Training und in der Entwicklung von KI-basierten Lösungen. Sie ermöglichen unseren Kunden und uns, Modelle schnell zu evaluieren, neu zu trainieren und zu optimieren. Der zweite Schritt der Optimierung beginnt mit der Auswahl der Hardware, hier zeichnen sich besonders ARM-basierte Systeme aus, da sie eine hohe Effizienz aufweisen. Sie können KI-Operationen mit geringem Hardwareaufwand ausführen und auch im Betrieb zeichnen sie sich durch einen geringeren Energiebedarf aus; solche Lösungen bieten wir zusammen mit Qualcomm an.

Plattformen auf NXP oder Intel oder AMD-Basis gibt es natürlich auch. Ist die Hardware ausgewählt, wandeln wir die, zumeist auf Python/Tensorflow (Lite) basierende Lösung, mit Tools der Hersteller so um, dass sie optimal auf der Ziel-Plattform läuft. Hier kommt uns natürlich sehr unsere eigene Erfahrung zugute, die wir in der Entwicklung unserer eigenen KI-Produkte gesammelt haben. Ohne unsere Partnerschaften könnten wir diese Beratungsleistung aber nicht erbringen.

Inwiefern verbessern diese Partnerschaften die Sicherheit und Zuverlässigkeit Ihrer KI-Hardwarelösungen?

Dies hat mehrere Aspekte. Zunächst ist natürlich ein tiefes Verständnis der vorherigen Plattform nötig. Neben Fragen wie, ‚wie sprechen wir mit einem KI-Beschleuniger‘ oder ‚können wir etwas effizient auf der Grafikeinheit vorverarbeiten‘, geht es natürlich auch um grundliegende Aspekte, die aus dem NIS 2 Umfeld entstammen, wie etwa sicherzustellen, dass nur die dazu bestimme Software auf dem Gerät läuft. Hier ist die enge Zusammenarbeit mit unseren Technologie Partnern unerlässlich.

Ebenso ist es auch notwendig, Updates bereitzustellen, quasi im Unterbau aber auch in der KI-Anwendung. Für dieses Bindeglied zwischen Hardware und Anwendung verwenden wir unser KontronOS.

Wie adressiert Kontron die Herausforderungen im Zusammenhang mit der Energieeffizienz von KI-Hardware, insbesondere in Edge- und IoT-Anwendungen?

Wir verwenden hier einen lösungsorientierten Ansatz. Wir sehen uns zunächst die KI-Anwendung an: Welche Netze kommen hier in Betracht, um eine spezielle Aufgabe zu lösen. Sehen wir hier ein gutes Ergebnis, optimieren wir es, indem wir Attribute/Features, die nicht für ein gutes Ergebnis erforderlich sind, entfernen. Oft kann man bereits hier auf ein kleineres Netz umsteigen; Parameter, mit welcher Granularität dieses für ein gutes Ergebnis berechnet werden muss, spielen natürlich auch eine wichtige Rolle in der Optimierung. Ebenso wie das Konvertieren des Netzes in ein für die Zielplattform verständliches Format, damit das Netz nur in Teilen von der CPU und mehrheitlich vom KI-Beschleuniger ausgewertet wird. Ein fast ebenso wichtiger Teil ist die (beschleunigte) Vorverarbeitung der Daten so, dass die entwickelte KI-Lösung optimal bedient werden kann. Auch hier helfen wieder plattformspezifische Funktionen, die unsere Partner bereitstellen.

Können Sie Beispiele für Branchen oder Kundenprojekte nennen, bei denen Kontron-Hardware zusammen mit Nvidia- oder Qualcomm-Chipsätzen erfolgreich zur Optimierung von KI-Anwendungen eingesetzt wurde?

Bestes Beispiel sind hier unsere KI-basierten IDS/Firewall-Systeme, die die Netzwerksicherheit erhöhen, indem sie auch neue unbekannte Angriffe in Echtzeit erkennen, melden und abwehren. Neben unseren Standard-Produkten integrieren wir dies natürlich auch auf Qualcomm-Hardware. Für das Training ist Nvidia gesetzt. Zielmarkt für diese Lösung ist der Maschinenbau. Ihre Stärke können KI-Beschleuniger natürlich insbesondere bei der Verarbeitung von Echtzeit-Bilddaten unter Beweis stellen, sodass wir auch im Bereich der Security/Surveillance vertreten sind, hier hilft uns besonders die Stärke von Qualcomm im Bereich 5G. Natürlich sind wir ebenso im Bereich der Qualitätskontrolle vertreten, in dem wir Lösungen zur optischen Inspektion mit KI optimiert und automatisiert haben.

Kontron auf der SPS  2024: Halle 7, Stand 193