Kein Unternehmen kommt um Embedded-KI herum!

Nicht zu verwechseln mit generativer KI wie ChatGPT und großen Cloud-Anwendungen, ist Embedded-KI vor allem bekannt durch seine autarke, energieeffiziente, datensichere und reaktionsschnelle Funktionsweise. Die künstliche Intelligenz (KI) befindet sich im Halbleiter des Sensors und kann im Grunde in jedes Produkt integriert werden. Das macht diese Form der diskriminativen KI einzigartig.

Für alle Neueinsteiger: Was ist Embedded-KI genau?

Gromov: „Als Embedded-KI werden Embedded-Systeme bezeichnet, in denen KI autark und lokal wirkt. Vereinfacht gesagt läuft dezentrale KI auf einem Halbleiter direkt am Ort der Entstehung der zu überwachenden Daten und benötigt keine Verbindung nach außen, wie das bei zentraler KI mit Cloud oder sonstigem Backend wie einem Edge-Rechner der Fall ist. Die Entwicklung solcher, dezentraler KI erfolgt zwar auch auf großen Servern, die ausgelernte KI wird jedoch in einem komplexen und know-how-reichen Verfahren so komprimiert, dass sie auf kleinstmöglichen Recheneinheiten lauffähig wird. Solche Embedded-KI-Systeme sind oft nur wenige Zentimeter groß und können daher nahezu überall implementiert werden. Oft sind diese sogar updatefähig oder lernen (bei größeren Systemen) sogar zu einem Teil nach.

Vorteile davon sind neben Datenschutz die Echtzeitfähigkeit vor Ort, sehr hohe Datentiefe, die komplexe Muster aufdecken kann und die Energieeffizienz. In der Praxis lässt sich Embedded-KI in drei wesentliche Business Areas aufteilen: funktionale Innovationen, User Interaction und Predictive/Preventive Maintenance. Dabei schafft Embedded-KI vor allem in den Bereichen Maschinenbau, Medizin, Verbraucher, Automotive sowie in der Produktion und Herstellung Verbesserungen und erschafft neuartige Funktionen.“

Warum ist es so wichtig, Embedded-KI im Blick zu behalten?

Gromov: „Weil sich viele der aktuellen Trends mit den Vorteilen der Technologie decken. Sei es durch die stets steigenden Energiepreise in Deutschland und Europa, wo der Serverbetrieb immer teurer wird und Embedded-KI eine sparsame Alternative ist. Oder die geopolitische Ausrichtung in Richtung der multipolaren Welt, wo man sich nicht mehr unüberlegt Abhängigkeiten von den Cloud-Ressourcen anderer Pole schaffen darf. Hinzu kommen noch die Infrastrukturprobleme – auch bezüglich der Datenübertragung, die uns noch ein paar Jahrzehnte beschäftigen werden.“

Können Sie ein praktisches Beispiel aus dem Automotive-Umfeld nennen?

Gromov: „Stellen Sie sich vor: Sie steigen ein, und Ihr Auto erkennt aufgrund Ihres Gesichts oder Körpermerkmale datenschutzkonform, wer Sie sind, stellt entsprechend Ihren Sitz, das Lenkrad, das Headup-Display und die Komfortfunktionen ein. Zudem wird aufgrund Ihrer Körperaußentemperatur die Klimaanlage punktuell und energiesparend geregelt.

Während der Fahrt schärft das Auto auf Basis Ihrer Aufmerksamkeit den Abstandstempomat und den Spurhalteassistenten, Müdigkeit und Emotionen (v.a. relativer Aggressionslevel) sorgen für direkte Warnungen oder Sicherheitssysteme. Das gleiche gilt auch fürs Rauchen, Smartphone-Telefonieren und fürs Gurtabschnallen.

Das alles ist keine Vision, sonders eine bereits heute erfüllbare Wunschliste: Eine tiefergehende Insassenüberwachung im Fahrzeug sorgt für Komfort und Sicherheit –sogar im psychischen und im physischen Sinne. Bisher sorgen die Auswertungen von Lenkwinkel, Sitzsensoren (DMS, etc.), kapazitive Lenkradsensoren bis hin zu Kameras und einfachen Timeouts für die Grundfunktionen der Müdigkeits- und Aufmerksamkeitserkennung.

Dies kann nun durch KI vor Ort, also auf den Embedded-Systemen am Sensor, mit Hilfe echtzeitfähiger Auswertung von Datenmassen stark intensiviert werden. Sensor-Beispiele hierfür sind die Körper- und Kopferfassung durch mittlerweile fürs Automotivsegment günstige, niedrig aufgelöste Time-of-Flight-Sensoren (ToF, vgl. Lidar). Mit Embedded-KI und dieser Sensorart können durch die dreidimensionale Datenerfassung viel robuster Motorik-Handlungen, Gesichtsfokus und individuelle Körpermerkmale erkannt werden. Obwohl IR-Rastersensoren im günstigen Segment noch niedriger aufgelöst sind, kann KI anhand der Wärmeabstrahlungsmuster auf Bekleidung und Körpertemperatur schließen und Luftstrom wie Sitzheizung gezielt auf die Körperoberflächen regeln.“

Wie muss man sich ein Smart Home mit Embedded-KI vorstellen?

Gromov: „Das „Smart Home“ ist keine Zukunftsvision mehr, sondern oft schon Realität. Viele Bereiche des Wohnhauses sind digitalisiert und miteinander vernetzt. Viel diskutiert werden dabei, wie sicher die übertragenen Daten wirklich sind und wie die Konnektivität zwischen Device und Servern reibungslos funktioniert. „Eingebettete“ Künstliche Intelligenz (Embedded-KI) ist folgerichtig der nächste Entwicklungsschritt in der Smart Home-Technologie. Embedded-KI ermöglicht es, die Smart Home Prozesse auch energieeffizient in jedem Device vor Ort zu verarbeiten, ohne die Daten weiterzugeben – dadurch fallen die Sorgen vor Überwachung, Hacking oder Abhängigkeit. Anstelle von diffusen Datenmassen werden, wenn überhaupt, dann lediglich Auswertungsergebnisse nach außen übertragen. In der Regel sind das nur wenige Bytes.

Der Einsatz ist damit in nahezu allen Umgebungen möglich, in denen Smart Home-Anwendungen wirken. Man denke nur an die VOC-Auswertung zwecks Präsenzerkennung, Fester- und Heizungssteuerung. Man denke an Türsysteme mit Gesichtsidentifikation oder an die mobilen Staubsaug- und Rasenmähroboter und deren Lidar- bzw. Kamera-Objekterkennung.“

Man kann Embedded-KI sogar in der Landwirtschaft einsetzen?

Gromov: „Ja genau. Jedes Jahr werden in Deutschland 100.000de Rehkitze von Mähmaschinen übersehen. Aufwändiges die Felder mit Menschen oder Drohnen absuchen ist auch keine optimale Lösung und vor allem auch zeitaufwändig. Embedded-KI kann die Rehkitze retten. Und zwar sprechen wir hier von Infrarot-Raster-Sensoren mit Künstlicher Intelligenz am Traktor oder der Mähmaschine. Diese Sensoren nutzen die Wärme-Strahlung, um die an der Form und Größe automatisiert Kitze im Gras zu erkennen. Der Fahrer wird rechtzeitig gewarnt, sodass er die Maschine stoppen und das Rehkitz in Sicherheit bringen kann.

Diese Technologie ist praxistauglich. Sie kann an allen gängigen Traktoren und Mähmaschinen nachgerüstet werden. Egal, wie tief das Gras auch sein mag, ob es regnet oder neblig ist, die künstliche Intelligenz erkennt im NIR oder Wärmebild das Rehkitz – und kann sogar auch bei anderen Tieren warnen.“

Was sehen Sie als einen wichtigen KI-Trend in der Industrie?

Gromov: „Das Thema Gesichtsunterscheidung steht sehr konkret und hoch im Kurs. Fachkräftemangel, zunehmende Regulierung und wachsende Sicherheitsansprüche bei immer höher automatisierten Anlagen, Maschinen und Fahrzeugen erzwingen klare Zugangsberechtigungskonzepte. Aktuelle Zugangsberechtigungskonzepte basieren meist auf Zugangscodes, Zugangskarten oder RFID-Chips – doch diese sind leicht auszutricksen.

Embedded-KI eröffnet hier neue Möglichkeiten. Ein solcher Embedded-KI-Sensor ist nur wenige Zentimeter groß. Ein Time-of-Flight-Sensor bzw. eine integrierte Nahinfrarot-Kamera (NIR) macht das System unabhängig vom Umgebungslicht. So entsteht auch bei Dunkelheit eine 3D-Aufnahme des Gesichts. Die auf dem Sensor befindlichen KI-Modelle extrahieren daraus diverse Merkmale (vereinfacht gesagt: z.B. Nasen- und Ohrenlänge – die realen Merkmale sind jedoch deutlich komplexer). Daraus entsteht ein Muster, das mit bereits erlernten anderen Mustern verglichen wird. Bei Übereinstimmung übergibt der Sensor ein Signal an die Steuerung – es liegt nun an ihr, welche Aktion auf das Signal folgen soll – ob es beispielsweise mit bestimmten Zugangsrechten verknüpft wird.

Dabei ist es auch möglich, festzulegen, wie nah die Person dem Sensor kommen muss, was geschieht, wenn sie das Sichtfeld verlässt oder auch, wenn sie sich nicht mehr bewegt (ggf. als Ersatz für den Totmannschalter). Das System kann zusätzlich um eine Aktivitätserkennung erweitert werden, um aus einem Energiesparmodus zu erwachen.“

Wie wird ein solches System auf ein neues Gesicht eingestellt?

Gromov: „Ähnlich, wie man es vom Smartphone kennt, blickt ein neuer Nutzer mehrfach in den Sensor; der Prozess dauert nicht länger als ein bis zwei Minuten. Von der Maschinensteuerung aus kann (z.B. über das in der Maschine verbaute Display) dem gelernten Muster eine Personen-ID mit (auch uhrzeitabhängigen) Berechtigungsstufen zugewiesen werden. Die gelernten Muster sind abstrakte Strukturen, die Wiederherstellung eines Gesichts aus diesen Mustern ist nahezu unmöglich. Darüber hinaus wird das Auslesen der Muster aus dem Sensor technisch verhindert.“

Sehen Sie noch einen weiteren Trend im Feld der User Interaction?

Gromov: „Ja, und zwar lokale Sprachsteuerung (KWS: Key Word Spotting), die vor allem in der Industrie und Medizintechnik zunimmt. Die Vorteile liegen hier klar auf der Hand. Wenn der Mitarbeitende die Maschine in der Produktion mit seiner Stimme steuert, dann bedeutet das mehr Flexibilität. Er kann die Geräte aus der Ferne bedienen und muss keine Knöpfe mehr drücken oder auf dem Bildschirm der Maschine seine Eingabe eintippen. Es bedeutet auch die Vermeidung von Keimen und Bakterien – ein wichtiger Aspekt in der Medizin. Auch ein gerufener Befehl „Stop“ ist schneller als zur Maschine zu laufen und diese anzuhalten.

Auch hier gilt: mit Embedded-KI sparen sich die Hersteller und Unternehmen einige Datenschutzthemen und Abhängigkeiten. Der Einsatz in abgekoppelten Umgebungen in Industrie und Medizin erfordert Lösungen, die lokal und in Echtzeit arbeiten. Hierbei werden in der kleinsten Version bis zu 30 vom Kunden vordefinierte Begriffe auf mehreren Sprachen erkannt, was komplexe Befehle ermöglicht. Ein Schlüsselwort aktiviert das System. Anschließend können komplexe Kombinationen dieser vordefinierten Wortgruppe gesprochen und von der KI ausgewertet werden, die zusammen mit den Mikrofonen auf dem gleichen kleinen Board sitzen. Das geht auch bis zu einem Maße in rauen Umgebungen mit Störgeräuschen.“

Beispiele für solche Sprachbefehle sind:
„Gerät, starte Programm A auf Maschine 3“
„Anlage, Förderband 6 anhalten“
„Roboter, Motor 4 in Maschine 3, erhöhe die Drehzahl um 40%“
„Rollstuhl, Räder senken“
„Anlage, Not aus“

KI muss energieeffizienter werden. Was ist Ihre Meinung dazu?

Gromov: „Letzten Endes hängt der Energieverbrauch im Wesentlichen von der Größe des Künstlichen Neuronalen Netzwerks und folglich den dahinterstehenden, meist parallelisierten Rechenoperationen ab. Das betrifft einmalig die Trainingsphase aber auch ständig den Betrieb (die Inferenz) des Modells. Da Embedded-KI-Systeme stets stark ressourcenbeschränkt sind, ist auch der Energiebedarf sehr gering, je nach Use Case werden nur wenige Milliampere benötigt. Das bedeutet, dass diese Systeme mit Batterie betrieben werden können, in vielen Fällen wäre sogar Energy Harvesting möglich.“