KI-Agenten sicher einsetzen:

Leitlinien für den produktiven Betrieb

Laut einer aktuellen PwC-Studie setzen bereits 79 Prozent der Unternehmen KI-Agenten ein. Von denjenigen, die KI-Agenten einsetzen, sagen zwei Drittel (66 %), dass diese durch gesteigerte Produktivität einen messbaren Mehrwert liefern. Ein Drittel stimmt dem jedoch nicht zu, was darauf hindeutet, dass die KI-Einführung noch nicht die gewünschten Ergebnisse erbringen.

Ein Grund dafür könnte sein, dass Unternehmen KI zwar schnell eingeführt haben, aber hinsichtlich Richtlinien, Regeln und Best Practices für einen verantwortungsvollen, ethischen und rechtssicheren Einsatz von KI noch aufholen müssen.

Je schneller die KI-Adoption voranschreitet, desto wichtiger wird die Balance: Unternehmen müssen ihre individuelle Risikosituation kontinuierlich überwachen und gleichzeitig Schutzmaßnahmen implementieren, die eine sichere Nutzung von KI gewährleisten.

Wo entstehen durch KI-Agenten potenzielle Risiken?

Drei zentrale Hürden erfordern besondere Aufmerksamkeit, um KI sicherer einzuführen.

Die erste Herausforderung ist die Schatten-KI: Dabei verwenden Mitarbeitende ohne ausdrückliche Genehmigung nicht autorisierte KI-Tools und umgehen damit genehmigte Tools und Prozesse. Die IT-Abteilung sollte deshalb die notwendigen Rahmenbedingungen schaffen, die Experimente und Innovationen ermöglichen, um effizientere Arbeitsweisen mit KI zu etablieren. Schatten-KI ist zwar kein neues Phänomen und existiert so lange wie KI-Tools selbst. Die Autonomie ist jedoch die eigentliche Stärke von KI-Agenten – und erleichtert es nicht genehmigten Tools, außerhalb des Zuständigkeitsbereichs der IT zu operieren. Das kann zu neuen Sicherheitsrisiken führen.

Der zweite Punkt betrifft die Lücken bezüglich der Verantwortung und Rechenschaftspflicht beim Einsatz von KI. Unternehmen müssen diese Lücken schließen, um auf Vorfälle oder fehlgeschlagene Prozesse vorbereitet zu sein. Wenn sich die KI-Agenten jedoch unerwartet verhalten, müssen Teams sofort klären können, wer für die Problembehebung verantwortlich ist.

Das dritte Risiko entsteht, wenn nicht nachvollziehbar ist, welche Aktionen KI-Agenten durchgeführt haben. Während KI-Agenten ihre Ziele konsequent verfolgen, bleibt der konkrete Weg dorthin oft unklar. KI-Agenten brauchen eine nachvollziehbare Logik. Nur so lassen sich Aktionen, die Probleme mit bestehenden Systemen verursachen können, nachverfolgen und bei Bedarf rückgängig machen.

Dabei gilt: Keines der genannten Risiken sollte die Einführung von KI-Agenten verzögern. Das Bewusstsein dafür hilft aber Unternehmen dabei, ihre Sicherheit zu verbessern.

Drei Leitlinien für den verantwortungsvollen Einsatz von KI-Agenten

Sobald Unternehmen die Risiken identifiziert haben, die KI-Agenten verursachen können, müssen sie Leitlinien und Sicherheitsvorkehrungen implementieren, um eine sichere Nutzung zu gewährleisten. Mit den folgenden drei Schritten, lassen sich die Risiken minimieren:

1: Human-in-the-Loop-Prinzip konsequent umsetzen
KI-Agenten entwickeln sich in hohem Tempo weiter. Dennoch ist der Mensch als Aufsichtsinstanz unverzichtbar – gerade dann, wenn KI-Agenten die Fähigkeit erhalten, eigenständig zu handeln, Entscheidungen zu treffen und Ziele zu verfolgen, die sich auf wichtige Systeme auswirken können. Standardmäßig sollte deshalb immer ein Mitarbeiter in den Prozess eingebunden sein, insbesondere bei geschäftskritischen Anwendungsfällen und Systemen. Die Teams, die KI nutzen, müssen verstehen, welche Maßnahmen die Agenten ergreifen können und an welchen Stellen sie möglicherweise selbst eingreifen müssen. Es ist empfehlenswert, zunächst eher konservativ zu starten und im Laufe der Zeit den Grad der Handlungsfreiheit zu erhöhen, den man KI-Agenten einräumt.

In diesem Zusammenhang müssen Operations-Teams, IT-Verantwortliche und Sicherheitsexperten ihre Rolle bei der Überwachung der Arbeitsabläufe von KI-Agenten verstehen. Um die Verantwortlichkeiten bei der Aufsicht klar zu definieren und die Rechenschaftspflicht zu gewährleisten, sollte jeder KI-Agent einer Person zugewiesen werden. Unternehmen müssen Mitarbeitenden die Möglichkeit geben, KI-Agenten im Falle eines Fehlverhaltens zu melden oder deren Aktionen zu stoppen, wenn diese negative Folgen haben.

Bei der Auswahl von Aufgaben für KI-Agenten sollten Unternehmen eines verstehen: Während sich klassische Automatisierung gut für repetitive, regelbasierte Prozesse mit strukturierten Daten eignet, können KI-Agenten deutlich komplexere Aufgaben bewältigen und sich autonom an neue Informationen anpassen. Das macht sie zu einer attraktiven Lösung für eine Vielzahl unterschiedlicher Aufgaben. Dennoch sollte bei der Einführung und insbesondere in der Anfangsphase eines Projektes kontrolliert werden, welche Maßnahmen die KI-Agenten ergreifen können. Für Aktionen mit großer Tragweite benötigen Teams Freigabeprozesse. Nur so bleibt sichergestellt, dass die KI-Agenten in ihrem vorgesehenen Rahmen bleiben und keine Risiken für das Gesamtsystem entstehen.

2: Security-by-Design als Grundprinzip
Bei der Einführung neuer Tools sollte ein System keinesfalls neuen Sicherheitsrisiken ausgesetzt werden. Aus diesem Grund sollten Unternehmen mit agentenbasierten Plattformen arbeiten, die über hohe Sicherheitsstandards verfügen. Darüber hinaus sollte KI-Agenten nicht uneingeschränkt Zugriff auf die Systeme eines Unternehmens gewährt werden. In jedem Fall müssen die Freigabe- und Sicherheitsanforderungen eines KI-Agenten mit denen der zuständigen Person übereinstimmen. Auch alle weiteren Tools, die dem KI-Agenten hinzugefügt werden, dürfen keine erweiterten Berechtigungen ermöglichen. Wenn der Systemzugriff von KI-Agenten rollenbasiert begrenzt ist, verläuft auch die Einführung reibungsloser. Vollständige Protokolle über alle von einem KI-Agenten durchgeführten Aktionen helfen IT-Verantwortlichen im Falle eines Vorfalls nachzuvollziehen, was passiert ist, und das Problem zurückzuverfolgen.

3: Transparenz und Nachvollziehbarkeit sicherstellen
Der Einsatz von KI in einem Unternehmen darf niemals eine Black Box sein. Die Gründe für jede Aktion müssen transparent sein, damit jeder IT-Mitarbeitende den Kontext der Entscheidungsfindung nachvollziehen und die Schritte nachverfolgen kann, die zu diesen Aktionen geführt haben. Ebenso sollten Eingaben und Ausgaben für jede Aktion protokolliert und zugänglich sein. Das verschafft Unternehmen einen Überblick über die Logik, die dem Handeln eines KI-Agenten zugrunde liegen. Diese Transparenz ist besonders wichtig, um auftretende Probleme schnell zu beheben und sie in Zukunft gar zu vermeiden.

Fazit: Sicherheit ist die Basis für den Erfolg von KI-Agenten

Der Einsatz von KI-Agenten hat sich in großen Unternehmen bereits etabliert, denn sie bieten ein enormes Potenzial zur Beschleunigung und Verbesserung bestehender Prozesse. Neben dem Produktivitätsgewinn müssen allerdings auch die Risiken berücksichtigt werden, die sich aus ihrem Einsatz ergeben. Für Unternehmen ist es deshalb unabdingbar, sowohl der Sicherheit als auch einer starken Governance höchste Priorität einzuräumen. Konkret bedeutet das: Systeme zu etablieren, die die Performance der KI-Agenten messen und bei Problemen wirkungsvolle Maßnahmen ergreifen können.