Vertrauenswürdige Roboter beginnen mit vertrauenswürdiger Software

Dass Roboter in größerem Umfang Teil unseres Alltags sind bleibt bislang eher Science-Fiction als Realität. Noch sind wir weit entfernt von einer Welt, in der humanoide Helfer selbstverständlich die Wäsche erledigen, Lieferroboter durch jede Innenstadt rollen oder Maschinen ganze Arbeitsprozesse ohne menschliche Aufsicht übernehmen.

Was wir stattdessen beobachten, ist ein sehr viel nüchterneres Bild. In einigen Märkten, in denen autonome Systeme bereits stärker im öffentlichen Raum getestet werden, zeigen einzelne Vorfälle, wie schnell aus einer technischen Demonstration ein Sicherheitsproblem werden kann: ein außer Kontrolle geratener Serviceroboter in einem Restaurant, autonome Lieferroboter, die in Chicago mit Bushaltestellen kollidieren oder industrielle Roboterarme, die in Fabrikumgebungen schwere Verletzungen verursacht haben sollen.

Wie Robotik in Europa sichtbar wird

Auch in Deutschland rücken Roboter inzwischen näher an den Alltag heran, wenn auch meist weniger spektakulär als in den US-Beispielen. Rewe testet in Hamburg autonome Lieferroboter für Supermarktbestellungen. In dm-Filialen kommen Scan-Roboter zum Einsatz, die nachts Regale erfassen und Bestandsdaten aktualisieren, also Vorarbeit für Mitarbeitende leisten. Auch an Flughäfen werden Roboter bereits für Service- oder Reinigungsaufgaben erprobt, etwa am Flughafen München.

Diese Beispiele zeigen: Robotik ist nicht mehr nur ein Thema für industrielle Umgebungen, sondern bewegt sich in immer direkterer Nähe zum Menschen. Laut einer aktuellen Studie von QNX und OnePoll nutzen bereits 47 Prozent der befragten Unternehmen in Deutschland Robotik, im Nachbarland Frankreich sind es bereits 51 Prozent. Die Frage ist damit nicht, ob Roboter Teil der europäischen Industrie- und Arbeitswelt werden, sondern wie viel Vertrauen in sie gesteckt wird und wie vorhersehbar ihre Handlungen sind. Jede misslungene Testphase zeigt eindrücklich die Notwendigkeit, dass Robotik-Systeme auch unter wechselnden Bedingungen zuverlässig funktionieren müssen.

Warum die Software zur Vertrauensfrage wird

Software ist längst nicht mehr nur das, was Roboter im Hintergrund steuert. Es ist die Grundlage, die entscheidet, ob moderne Robotik sicher, zuverlässig und berechenbar eingesetzt werden kann. Sie koordiniert Bewegungen, verarbeitet Sensordaten, priorisiert Aufgaben, trennt kritische Funktionen voneinander und entscheidet, wie ein System auf unvorhergesehene Störungen reagiert.

Das ist besonders relevant, weil Roboter heute immer seltener in vollständig von Menschen kontrollierten Umgebungen arbeiten. Je weiter Roboter aus gesicherten, abgegrenzten Bereichen für andere Aufgaben heraustreten, desto mehr arbeiten sie in modernen Anwendungen Hand in (Roboter-) Hand mit Menschen, anderen Maschinen, wechselnden Lichtverhältnissen, unvorhersehbaren Hindernissen und dynamischen Arbeitsabläufen. Das bedeutet, sie müssen nicht nur eine definierte Aufgabe wiederholen, sondern flexibel in Echtzeit auf Situationen reagieren und sich daran selbstständig anpassen.

Bleibt die Software unter Last nicht stabil, verarbeitet also sicherheitskritische Aufgaben zu spät oder begrenzt Fehler nicht sauber, können Bewegungen unpräzise werden, Systeme in den Stillstand gehen oder Schutzmechanismen zu spät greifen. Das plötzliche „Roboter außer Kontrolle“-Szenario ist zwar eindrucksvoll, aber gravierender sind kleinere Fehlreaktionen, die im realen Betrieb Sicherheits-, Qualitäts- oder Ausfallprobleme verursachen.

Echtzeitfähigkeit ist kein unbedeutendes, technisches Detail

Latenz, also Verzögerungen zwischen Eingabe und Reaktion, und Jitter – also Schwankungen im zeitlichen Verhalten – werden in der Robotik zu wichtigen Bewertungsgrößen. Sie zeigen nicht nur, ob ein System richtig reagiert, sondern auch, ob es der richtige Moment ist. Genau hier setzen die so wichtigen deterministischen Echtzeitfähigkeiten der Systeme an – gemeint ist die Fähigkeit eines Systems, innerhalb definierter Zeitgrenzen vorhersehbar zu reagieren. In vielen Robotikanwendungen ist das keine akademische Anforderung, sondern eine Voraussetzung für den sicheren Betrieb. Das bestätigen die befragten deutschen Entwickler, von denen ein Großteil (92 Prozent) deterministisches Echtzeitverhalten als eine Grundvoraussetzung ihrer Systeme einordnen.

Ein Industrieroboter, der Bauteile mit hoher Geschwindigkeit positioniert, darf nicht unvorhersehbar verzögert reagieren, weil sonst weitere Zahnräder nicht richtig ineinandergreifen. Ein mobiler Roboter in einer Lagerhalle muss demnach Hindernisse rechtzeitig erkennen und seine Bewegung entsprechend anpassen. Ein medizinisches Robotiksystem muss Steuerbefehle präzise und nachvollziehbar umsetzen. Schon kleinste Abweichungen im Timing können zu ungenauen Bewegungen, fehlerhaften und damit kostenintensiven Störungen von Abläufen oder im schlimmsten Fall zu Sicherheitsrisiken für Menschen führen. Dafür ist entscheidend, dass das System auch unter hoher Last, bei parallelen Prozessen oder im Fehlerfall zuverlässig reagiert. Je stärker Robotik in sicherheitsrelevante oder produktionskritische Bereiche vordringt, desto genauer müssen Unternehmen prüfen, ob ihre Softwareplattform diese Anforderungen dauerhaft erfüllen kann.

KI erhöht den Druck auf die Architektur

Mit dem Einsatz von KI in physischen Systemen steigen die Anforderungen weiter. Roboter, die ihre Umgebung wahrnehmen, daraus Schlüsse ziehen und eigenständig handeln, benötigen leistungsfähige Rechenkapazitäten und flexible Softwarestrukturen. Gleichzeitig müssen sicherheitskritische Funktionen weiterhin nachvollziehbar und kontrollierbar bleiben. Hier entsteht ein Spannungsfeld: KI-Modelle können Robotersysteme leistungsfähiger machen, aber sie erhöhen auch die Komplexität. Sie arbeiten mit großen Datenmengen, können sich in ihrer Bewertung von Situationen verändern und müssen in bestehende Steuerungslogiken integriert werden. Für Unternehmen stellt sich daher die Frage, wie KI-basierte Funktionen so eingebunden werden, dass sie nicht die Stabilität des Gesamtsystems gefährden.

Ein zentraler Ansatz ist die klare Trennung unterschiedlicher Kritikalitätsstufen, etwa durch die Nutzung von Physical AI. Sicherheitskritische Steuerungsfunktionen sollten nicht ungeschützt neben weniger kritischen Anwendungen laufen. Wenn etwa eine Analysefunktion ausfällt oder eine nicht sicherheitsrelevante Anwendung zu viele Ressourcen beansprucht, darf dies nicht die Kernfunktionen des Roboters beeinträchtigen. Softwarearchitektur wird damit zu einem Instrument der Risikobegrenzung. Dieser Auffassung sind auch 89 Prozent der befragten Robotikentwickler aus Deutschland, die Physical AI als entscheidend für ihre künftigen Strategien einschätzen.

Regulierung macht Nachweise wichtiger

Neben den technischen Anforderungen steigt auch der regulatorische Druck. Unternehmen müssen immer genauer belegen können, wie Sicherheit, Cybersecurity und funktionale Zuverlässigkeit über den gesamten Lebenszyklus eines Systems gewährleistet werden. Dazu tragen unter anderem die neue EU-Maschinenverordnung, der EU AI Act sowie der Cyber Resilience Act bei, der horizontale Cybersicherheitsanforderungen für Produkte mit digitalen Elementen einführt. Das betrifft Hersteller ebenso wie Betreiber und Integratoren, die Robotik in bestehende Produktions-, Logistik- oder Versorgungsumgebungen einbinden.

Gerade im deutschen Markt mit stark regulierten Branchen wie Industrieautomation, Medizintechnik, Mobilität oder kritischer Infrastruktur (KRITIS) reicht es nicht, ein System einmalig zum Laufen zu bringen. Es muss dokumentiert, geprüft, aktualisiert und über viele Jahre sicher betrieben werden können. Zertifizierung und Compliance sollten deshalb früh in Architektur, Entwicklungsprozesse und Lieferketten einfließen, statt erst kurz vor Markteinführung adressiert zu werden. Nicht zuletzt, weil Zeit- und Budgetdruck zu Kompromissen bei sicherheitskritischen Aspekten führen kann, wie 79 Prozent der befragten deutschen Entwickler angaben. Ein entscheidender Hinweis auf das Spannungsfeld zwischen benötigter Innovationsgeschwindigkeit und notwendigen Sicherheitsanforderungen.

Was Unternehmen prüfen sollten

Vor der Einführung oder Skalierung von Robotik sollten Unternehmen zentrale Fragen früh klären: Erfüllt die Softwareplattform die Echtzeitanforderungen der Anwendung? Können sicherheitskritische und nicht sicherheitskritische Funktionen getrennt werden? Wie werden Fehler erkannt und begrenzt? Welche Nachweise sind für Zertifizierung und Regulierung verfügbar? Wie lassen sich Updates durchführen, ohne den Betrieb unnötig zu gefährden? Robotik kann Produktivität, Sicherheit und Entlastung von Beschäftigten verbessern. Nachhaltig gelingt das aber nur, wenn Systeme auf einer verlässlichen technischen Grundlage stehen.

Für Einkaufs- und Technikverantwortliche wird die Softwarebasis damit zu einem strategischen Auswahlkriterium. Neben Anschaffungskosten, Funktionsumfang und Integrationsdauer sollten sie langfristige Wartbarkeit, Cybersecurity, Fehlerisolierung, Updatefähigkeit und Nachweisbarkeit von Sicherheitsfunktionen bewerten. Ein schnell integrierter Ansatz kann später teuer werden, wenn Zertifizierungen scheitern, Updates riskant sind oder Systeme nicht zuverlässig skalieren.