Warum Unternehmen jetzt die Risiken genau verstehen müssen, um weitreichende Entscheidungen zu treffen

In den Führungsetagen ist das große Geschäftspotenzial von KI-Anwendungen längst angekommen. Gleichzeitig stehen bei KI weitreichende Änderungen an, die zu Unsicherheiten führen: Im Compliance-Bereich kommen mit dem „EU AI Act“ Regelungen auf die Unternehmen zu, die nicht nur die Hochrisiko-Anwendungen betreffen. Noch recht schwammig ist dabei das Selbst-Regulierungskonzept von vertrauenswürdiger KI (Trustworthy AI). Hier geht es um das Einhalten verschiedener Aspekte, von Fairness über Sicherheit bis hin zur zuverlässigen Robustheit. Zudem werden gerade an verschiedenen Stellen Industriestandards (DIN, VDE, IEEE) entwickelt, die langfristig Leitplanken setzen, allerdings bei der praktischen Ausgestaltung und Umsetzung viel Unsicherheiten bei weitreichenden Entscheidungen hervorrufen.

Hinzu kommen Anforderungen von Stakeholdern aus verschiedenen Bereichen. Das können Kunden, Einkäufer der Kunden, aber auch Rating-Agenturen, Wirtschaftsprüfer und die Presse sein. Sie alle werden sich dafür interessieren, wie KI-Unternehmen die Kriterien „S“ (Social) und „G“ (Governance) in ihren KI-Entscheidungen abwägen. Auch wird der Einkauf und Fachabteilungen von großen Unternehmen in ihren Ausschreibungen künftig verstärkt Kriterien wie Compliance und Vertrauenswürdigkeit (Trustworthyness) der KI-Anwendungen abfragen.

Warum die KI nun eng mit dem Geschäft verbunden werden muss

Wie werden sich die neuen Rahmenbedingungen auf die Entwicklung und den Erfolg von KI-Anwendungen auswirken; welche Risiken entstehen und wie kann die Unternehmensführung richtige Entscheidungen treffen? Erst wenn die KI fest in der Organisation verankert, Teil des Gesamtprozesses ist und tief im Risikomanagement integriert wird, lassen sich entsprechende Stellschrauben für das Entscheiden in risikobehafteten Grauzonen finden.

Dazu ist es notwendig, die KI-Anwendung holistisch über deren gesamten Lebenszyklus zu betrachten. Dazu gehören die Prozesse der KI-Erstellung, die Integration der Software und das Deployment. Externe und neutrale Dienstleister mit einem hohen Qualitätsanspruch helfen dabei, die Aussagen der eigenen Data Scientist einzuschätzen und zu optimieren.

Mit starkem Risikomanagement besser individuelle KI-Risiken managen 

Wer ein hohes Budget verwaltet, hat das Risiko ohnehin immer auf dem Radar: Was kann denn da passieren; wer ist dafür verantwortlich; wie schnell merken wir den Fehler; ist so etwas schon mal passiert und was kostet es uns, wenn es doch nicht funktioniert? Das sind alles Fragen, die bei neuen Techniken oft nur ein Achselzucken erzeugen. Denn die Risikolandschaft von KI ist komplex.

Innerhalb der vier großen Spannungsfelder Robustness, Fairness, Transparenz und Sicherheit verbergen sich Risiken, gerade auch in der Wechselwirkung untereinander. Die Unternehmensführung muss in der Praxis immer abwägen: Wie transparent sollten wir sein, wie fair? Welches Risiko entsteht, wenn wir einen Bereich bewusst etwas reduzieren, um einen anderen zu stärken? Eine solche Abwägung funktioniert nur, wenn die Risiken und deren Auswirkungen genau verstanden werden.

Die Risikolandschaft von KI komplett ausleuchten und tief graben

Werden alle Risiken der KI-Anwendung holistisch auf allen Ebenen systematisch erfasst und bewertet, dann wird das Risikomanagement im Unternehmen nicht mehr nur als Bedenkenträger, Spielverderber und Bremse, sondern als Kupplung für das Hochschalten in den nächsten Gang verstanden.

Denn erst, wenn die Risikolandschaft der KI sorgfältig ausgeleuchtet ist, werden die Risiken der KI verwaltbar. Das beinhaltet beispielsweise auch das Planen von Mitigations- und Kommunikationsmaßnahmen – insgesamt ein enormer Wettbewerbsvorteil gegenüber Unternehmen, die im Halbdunklen nur auf Sicht fahren.

Und: Wer die individuelle Risikolandschaft für sein KI-Produkt versteht, kommt auch schneller mit veränderten Rahmenbedingungen und Herausforderungen bei der Skalierung zurecht. Schließlich können sich bei der Skalierung schnell auch die Risiken multiplizieren. Eine vertrauenswürdige KI, die man hochskalieren will, muss sauber aufgesetzt und in der Organisation integriert sein.

Detaillierte Untersuchung und KI-Risiken-Heatmap erweitern Spielraum für Entscheidungen

Die meisten Unternehmen im KI-Bereich fühlen sich wohl beim Thema Robustheit, stehen aber vor großen Schwierigkeiten, die Risiken in den anderen Ebenen und dann noch mit den neuen Anforderungen und Regelungen individuell auf den Use Case einzuschätzen. Die Risiken von KI sollten kontinuierlich untersucht und, auf den Use Case bezogen, bewertet werden. Hierzu muss die Expertise von Riskiomanagement und Data Science gebündelt werden, so dass Unternehmen größere Transparenz über die KI Risiken und deren Auswirkung auf das Business erlangen. Wichtig ist nicht nur, dass die KI im Detail untersucht wird, sondern auch, dass diese Details mit sehr konkreten Fragen von Experten geprüft werden, die das Fachwissen mitbringen, aber auch den Geschäftsbezug verstehen.

Eine  Heatmap sollte die individuellen Risiken der KI-Applikationen erfassen und dient als solide Grundlage für Szenarien und Entscheidungen. Auf diese Weise rücken die Experten von Risikomanagement und die KI Abteilung in den Unternehmen noch weiter zusammen, was deren Entscheidungsraum vergrößert und die Wettbewerbsfähigkeit der Unternehmen langfristig stärkt.