Digitalisierung ist seit Langem ein gesamtgesellschaftliches Phänomen, das Privat- und Arbeitsleben mittlerweile nahezu vollständig durchdringt. Wird in diesem Zusammenhang auf die sprunghaften Veränderungen referiert, die mit der Digitalisierung einhergehen, so spricht man auch von Megatrends. Im Zusammenhang mit der Digitalisierung ist der Megatrend der Künstlichen Intelligenz (KI) von zentraler Bedeutung. Bei ihm wird davon ausgegangen, dass er die Volkswirtschaften in naher Zukunft massiv in ihrer Wertschöpfung unterstützen wird.

Die Probleme des deutschen Mittelstands, also z.B.

• Lehrstellen- und Fachkräftemangel,
• Zunahme internationaler Konkurrenz,
• schwankende Rohstoffpreise,
• gefährdete Intellectual Properties,
• Industriespionage,
• Schutz der IT vor zunehmenden Hackerangriffen
• u.v.a.m.

können Expertenmeinungen zufolge mit KI und neuen Geschäftsmodellen erfolgreich angegangen werden. Ihnen kommt daher eine Schlüsselfunktion für die Leistungen von Volkswirtschaften im 21. Jahrhunderts zu [1].

In aktuellen Umfragen wird davon ausgegangen, dass mit KI innerhalb von fünf Jahren Mehrwerte in der deutschen Wirtschaft von ca. 40 Milliarden Euro geschaffen werden [2]. Dabei ist der Begriff KI gar nicht einfach zu fassen, was u.a. daran liegt, dass es für den Begriff Intelligenz kein generell akzeptiertes Verständnis gibt. Allgemein versteht man unter KI die Fähigkeit eines künstlichen Systems bzw. einer Maschine Teile menschlichen, intelligenten Verhaltens zu imitieren bzw. nachzustellen. KI als ein Teilgebiet der Informatik, beschäftigt sich mit der Systematisierung und Erforschung von Prozessen zur Intelligenz.

Dabei können KI-Module verschiedene Reifegrade haben:

1. Einfache Module aus sog. schwacher KI arbeiten dabei mit rein unterstützenden maschinellen Funktionen.
2. Automatisierte KI kann automatisiert wiederholende Tätigkeiten durchführen und ggf. kodifizieren.
3. Starke KI-Module können autonom und zielorientiert arbeiten.

Nach allgemeinem Dafürhalten befinden wir uns gerade im Übergang von Phase 1 zu Phase 2. Phase 3 hingegen wird erst in einigen Jahrzehnten erwartet [3]. Dem Menschen kommen dabei zunehmend Kontroll- und Überwachungsfunktionen über Daten, KI, deren Methoden und gesellschaftliche Implikationen zu. Deren Gegenstände und Umfänge harren in vielen Fällen noch der exakten Klärung.

Risiken beim Einsatz von KI

Transparenz, Nachvollziehbarkeit und Sicherheit sind immer zentrale Werte bei jeder Art von Produkt, Dienstleistung oder Maschine. Genau diese Aspekte sind bei KI-basierten Ansätzen nicht immer nachvollziehbar bzw. gegeben:

• Basierend auf ihrem Input können Algorithmen z.B. Diskriminierungen von Bevölkerungsgruppen fortschreiben.
• Beim Einsatz von KI-Systemen in Fahrzeugen können zweifelhafte Entscheidungen getroffen werden: Ist es beispielsweise sinnvoller, Insassen um jeden Preis zu retten oder sollten besser Opferzahlen anhand von Kriterien minimiert werden?
• KI-Systeme könnten menschliche Arbeitskräfte komplett ersetzen.

Da die gesellschaftliche Debatte zu diesen Aspekten Fahrt aufnimmt, ist es auch aus unternehmerischer Sicht wünschenswert, hier gestaltend und ausgleichend teilzunehmen.

Bedingungen für den Einsatz von KI

Aufgrund der sich immer schneller entwickelnden Möglichkeiten tritt die Frage in den Mittelpunkt, welche Bedingungen eintreten bzw. geschaffen werden müssen, damit Kontrollfunktionen über KI im Sinne eines positiven gesamtgesellschaftlichen Zutuns durch den Menschen ausgeübt werden können. Hierbei müssen beispielsweise folgende Aspekte berücksichtigt werden:

Nachvollziehbarkeit: Ein Aspekt betrifft dabei die Förderung von nachvollziehbaren Kriterien bei der Entwicklung und dem Einsatz von KI, auf die mehr fokussiert werden muss. Bostrom und Yudkowsky [4] forderten daher bereits 2014, dass die KI-Arbeitsweisen und -handlungen grundsätzlich nachvollziehbar sein müssen.

Keine Black-Box-Ansätze: Black-Box-Ansätze, anhand deren die Modell-Outputs nicht mehr nachvollzogen werden können, müssen vermieden werden.

Korrekturmöglichkeiten: Wenn Fehler auftreten, müssen diese in zeitlicher Nähe den menschlichen Bedienern/Usern nachvollziehbar und mit den Möglichkeiten einer Korrektur operationalisierbar dargestellt werden; hierzu gehört auch die Forderung nach dem grundlegenden Schutz vor Manipulierbarkeit der KI-Algorithmen.

Data Steward/KI Controller: Neue Berufsfelder müssen etabliert werden, die bspw. dafür Sorge tragen, dass geeignete Daten in den jeweiligen Bereichen von Unternehmen und Gesellschaft für die KI bereitgestellt bzw. gesammelt werden. Dabei müssen die Zuständigkeiten und Verantwortlichkeiten zwischen KI-Controller und KI klar geregelt sein. Zu diesen Berufsbildern gehören sowohl Aspekte aus dem Bereich der Data Science, da ohne notwendiges Fachwissen bestimmte Entscheidungen nicht sinnvoll zu treffen sind als auch Aspekte der Compliance bzw. des Datenschutzes: Sollen bestimmte KI-Prozesse überhaupt eingesetzt werden und wenn ja, unter welchen Bedingungen? (Stichwort: biometrische ID-Verfahren wie automatisierte Gesichtserkennung).

UX4AI: Entwicklung wünschenswerter User Interfaces, die eine effizientere und umfassendere Kollaboration zwischen KI und menschlichem User ermöglichen [5]. Hierbei geht es im Wesentlichen darum, dass das klassische grafische User Interface (GUI), mit dem wir seit Jahrzehnten gewohnt sind, mit Software-Komponenten zu interagieren, gegen modernere Interfaces ausgetauscht wird, die schnellere Interaktionen mit KI-Software ermöglichen. Hier wird wesentlich im Bereich der Conversational User Interfaces (CUI) entwickelt. Motiviert durch die mittlerweile sehr schnelle und korrekte Spracherkennung durch Natural Language Processing (NLP), erfolgt hier eine Entwicklung, wie sie z.B. bereits aus dem Bereich der Sprachassistenten des mobilen Telefonierens bekannt ist.

3-Rules: Im Zusammenspiel mit den gerade angeführten Möglichkeiten eines CUI-Einsatzes bei KI müssen Regeln für das grundlegende Verhalten dieser KI-Module in der neuen Mensch-Maschine-Interaktion definiert werden. Hier wird analog der Asimov’schen Gesetze zur Robotik ein 3-Rules-Vorschlag gemacht, der zukünftig in eine Zertifizierung von ethischer KI eingehen könnte. Dabei sollte die jeweilige KI über ein CUI-basiertes Sprachmodul verfügen, das den User und den KI-Controller interaktiv in ihre Entscheidungen einbaut. Hier könnte nach folgenden Regeln vorgegangen werden:

1. KI-Modell zeigen: Die KI muss auf Nachfrage über ein CUI erläutern können, wozu genau sie geschaffen wurde, was  sie leisten kann und was nicht.
2. KI-Qualitätssicherung: Die KI muss auf Nachfrage über ein CUI erläutern können, warum an dieser Stelle der KI-Support sinnvoll ist. Wenn Ergebnisse ausgeben werden, muss für diese ein Konfidenzintervall angegeben werden; hierzu müssen auf Wunsch externe Quellen referenziert werden, mit denen der KI-Controller dies nachvollziehen kann.
3. KI-Eindeutigkeit: Sollten bei den durch die KI erzielten Ergebnissen Unklarheiten bestehen, so muss die KI auf Nachfrage über ein CUI erläutern können, welcher Art diese Unklarheiten sind und hier beim KI-Controller aktiv nachfragen, was getan werden soll. Wenn der Zielbereich der KI bei ihrem Einsatz nicht getroffen wurde, so muss die KI den Controller aktiv informieren, dass ihr Kompetenzbereich überschritten wurde.

Ausblick auf Trust, Sicherheit und Transparenz in der aktuellen KI-Entwicklung

Der Bereich der KI-Entwicklung wird aktuell in einer Geschwindigkeit fortgeschrieben, bei denen Vertrauensansätze zu einer sicheren, nachvollziehbaren und transparenten Einbettung der Methodiken in Unternehmen und Gesellschaft mehr und mehr in den Fokus geraten. Damit dies umgesetzt und die Potenziale der KI erfolgreich entfaltet werden können, sollten dabei stets die Randbedingungen der KI-Systeme klar sein: Was geht unter welchen Bedingungen und was nicht? Damit dies für den Anwender/KI-Controller möglichst einfach und schnell nachvollziehbar ist, sollten CUI nach bestimmten Regeln eingesetzt werden. Dieser Ansatz soll ermöglichen, dass nichts außerhalb des Zielbereichs, also der originären Zweckbestimmung der KI-Module, ohne die Zustimmung des Anwenders/KI-Controllers erfolgt. Hiermit würde ein einfacher Prozess etabliert, der die mangelnde Transparenz von KI-Prozessen, wie sie häufig kritisiert wird, in eine offene Interaktion zwischen Mensch und Maschine verlegt. Nach dem neuerlich etablierten Bereich der Data Science, würde darüber hinaus ein weiterer Berufsstand für die Zukunft gepusht: der des KI-Controllers.

Quellen

[1] Jopp, Fred 2020: Cancel Culture for Artificial Intelligence or just handcuffs? dotcom magazine: https://www.dotmagazine.online/issues/digital-acceptance/cancel-culture-for-ai

[2] Arthur D. Little und eco Verband e.  V. 2019: Künstliche Intelligenz: Potenziale und nachhaltige Veränderungen der Wirtschaft in Deutschland

[3] Oppermann, Henrik und Jopp, Fred 2021: Sprunginnovation im Service; Digital Business Cloud 01/2020, S. 30-31: https://www.digitalbusiness-cloud.de/wp-content/uploads/Digital-Business-Cloud-Magazin-Ausgabe-1-2020.pdf

[4] Bostrom, Nick, and Yudkowsky, Eliezer (2014). The ethics of artificial intelligence. In The Cambridge Handbook of Artificial Intelligence (pp. 316-334). Cambridge University Press.

[5] Klute, Nils 2021: UX4AI: New Rules of the game for humankind and machines; dotcom magazine: https://www.dotmagazine.online/issues/digital-acceleration/AI-building-blocks/ux4ai