Die Mensch-Maschine-Interaktion bei Künstlicher Intelligenz im Sinne der Beschäftigten gestalten – Das HAI-MMI-Konzept und die Idee der Komplementarität

bei

 / 31. July. 2020

Der Einsatz von Künstlicher Intelligenz (KI) in der Arbeitswelt verändert die Aufgabenteilung zwischen Mensch und Maschine grundlegend. Lernende KI-Systeme können immer komplexere Tätigkeiten selbstständig ausführen und arbeiten künftig Hand in Hand mit den Beschäftigten zusammen. Damit stellt sich die Frage: Wie lässt sich die Mensch-Maschine-Interaktion (MMI) „menschengerecht“ bzw. im Sinne der Beschäftigten gestalten? Dies anzustreben gilt nicht nur als gesellschaftlicher Konsens, sondern spiegelt sich auch in den politischen Zielen der KI-Strategie der Bundesregierung wider: Die Beschäftigten sollen in den Mittelpunkt des digitalen Wandels gestellt und mitgenommen werden. Insbesondere für die Gestaltung und den Einsatz von stark interaktiven KI-Systemen braucht es jedoch Konzepte, wie Beschäftigte dabei nicht de-qualifiziert oder gar verdrängt werden, sondern von KI profitieren können. Das in diesem Beitrag vorgestellte Reflexions- und Bewertungsinstrument HAI-MMI – Humanizing AI Men-Machine-Interaction bietet hierfür Ansatzpunkte.

Zusammenspiel von technischen Funktionalitäten und menschlichen Kompetenzen

KI-Systeme funktionieren oft unerkannt im Hintergrund – z.B. zur Steuerung anderer technischer Systeme oder auch an der Nutzer*innen-Schnittstelle wie im Fall der Spracherkennung im Mobiltelefon. Zunehmend wagen sich jedoch vor allem lernende Systeme auch in die direkte Interaktion mit den Menschen. Hoch anpassungsfähig sollen sie dabei nicht nur flexibel mit der jeweiligen Situation umgehen, sondern in der Interaktion mit den Menschen dazulernen und das gemeinsame Ergebnis optimieren. Angestrebt werden zum Beispiel Leichtbauroboterarme, die in der direkten engen Zusammenarbeit mit dem Menschen nächste Arbeitsschritte vorhersehen und als „dritter Arm“ situativ assistieren, oder auch Softwareassistenten, die aus der Beobachtung der Arbeit am PC lernen, einzelne sich wiederholende Arbeitsschritte selbsttätig vorzubereiten und zu übernehmen.

Hier rückt die Qualität der Interaktion in den Mittelpunkt. Besonders im Arbeitszusammenhang reicht es nicht aus, allein auf Usability oder eine ergonomische, intuitive, einfache Nutzung zu achten. Hinzu kommen Fragen der Verantwortung und Entscheidungsfindung oder des Einbeziehens von Wissen, Erfahrung und Kompetenzen der Beschäftigten. Denn diese sind nicht Konsument*innen, sondern Träger*innen eines reichhaltigen Arbeitsvermögens, das es zu fördern und passend einzusetzen gilt.

Ziel der Gestaltung hoch interaktiver KI-Systeme sollte es also sein, ein möglichst gutes Zusammenspiel der Funktionalitäten des Systems mit den Kompetenzen des Menschen zu gewährleisten. Dabei geht es sowohl um das Erledigen einer Arbeitsaufgabe als auch um die Art, wie dies erfolgen soll. In der Arbeit müssen die Anforderungen des Arbeitsgegenstands mit verschiedenen betrieblichen Zielen, den Interessen der Beschäftigten und den gesellschaftlichen (z.B. rechtlichen) Rahmenbedingungen abgeglichen werden. Ein solches kompetenzbasiertes funktionales und gerahmtes Zusammenspiel von Mensch und KI wird hier als Optimum für die MMI angenommen.

Die Idee der Komplementarität zwischen Mensch und KI

Dem liegt eine Überlegung zugrunde, die als Leitlinie im Wandel von Arbeit mit KI vorgeschlagen werden soll: die Idee der Komplementarität zwischen Mensch und Technik. Mensch und Technik können sich auch in Zukunft an vielen Stellen – insbesondere in der direkten Interaktion – komplementär ergänzen. Dafür ist es jedoch zentral, die Verschiedenheit der Kompetenzen bzw. Funktionen beider Seiten zu erkennen, diese fruchtbar zusammenzubringen und sie in ihrer Entwicklung zu fördern.

Auch wenn es wichtig ist, dass technische Schnittstellen in dem Sinne „humanisiert“ werden, dass sie sich den natürlichen Interaktionsformen des Menschen anpassen (z.B. Sprache, Gestik, Berührung), muss es mit Blick auf eine nachhaltige Arbeitsteilung zum beiderseitigen Vorteil darum gehen, Möglichkeiten der wechselseitigen Ergänzung auszubauen. Dies erfordert eine systematische Auseinandersetzung mit den Unterschieden zwischen Mensch und Technik und insbesondere auch mit den Defiziten und Ergänzungsbedarfen technischer Lösungen. Wo reicht KI nicht aus? Warum braucht es den Menschen?

KI, die dem Menschen und der Gesellschaft dient, soll nicht in ihrer Funktionalität eingeschränkt werden, muss aber zugleich so entwickelt werden, dass nicht engstirnig auf die Nachahmung und den Ersatz menschlicher Tätigkeit fokussiert wird, sondern systemisch und dynamisch danach gesucht wird, wie Technik und Mensch zugleich in ihrer Entwicklung gefördert und vorangebracht werden können. Nicht Nachahmung und Übertrumpfen des Menschen sollten die Triebfedern für die Technikentwicklung sein, sondern die Suche nach einem höherwertigen Komplementaritätsverhältnis zwischen Mensch und Technik. Von diesem sind auch die besten Resultate zu erwarten.

Dies gilt umso mehr, wenn es im Zuge der Einführung von KI in der Arbeit zu einem Neuzuschnitt von Tätigkeiten und Job-Profilen oder auch zur Automatisierung zentraler Prozesse kommt. Denn auch um automatisierte Bereiche herum entstehen (vorgelagert, parallel und nachgelagert) immer auch neue Tätigkeiten und neue Chancen für Ergänzungsverhältnisse – und dies auf allen Qualifikations- und Arbeitsebenen.

Brennpunkt der Komplementarität ist die Mensch-Maschine-Interaktion. Deren nachhaltig menschengerechte Gestaltung bei KI kann daher als Lernfeld für dieses Denken verstanden werden.

Das HAI-MMI-Konzept als Reflexions- und Bewertungsinstrument

Im Folgenden sollen erste Bausteine des HAI-MMI-Reflexionsinstruments für die Bewertung der Mensch-Maschine-Interaktion bei Künstlicher Intelligenz vorgestellt werden:

Entlang von drei Dimensionen bewertet es die Qualität der Interaktion (1) in Verbindung mit zwölf Gestaltungskriterien (2) und öffnet schrittweise den Blick von der MMI auf weitere Betrachtungsebenen (3):[1]

Abb. 1: HAI-MMI-Instrument (eigene Darstellung)

Dimension 1: Qualität der Mensch-KI-Interaktion

Die Idee der Komplementarität ist für die erste Dimension zentral: die Bewertung der Qualität der Interaktion zwischen Mensch und lernendem KI-System. Im Unterschied zu den fünf Stufen des autonomen Fahrens bzw. den fünf Autonomiestufen der Industrie [2] [3] wird hier keine lineare Entwicklung zur Vollautomatisierung (Stufe 5) angelegt, sondern es steht eine ausgewogene, qualitativ hochwertige Interaktion im Mittelpunkt. Der Fluchtpunkt ist hier also weder eine alleinige Dominanz menschlichen Arbeitshandelns (linke Seite von Tab. 1) noch die vollautomatisierte KI-Steuerung (rechte Seite). Differenziert wird danach: (1) Wo liegt die Koordination? (2) Wie ist die Arbeits- bzw. Aufgabenverteilung gestaltet? (3) Ist ein wechselseitiger Lernprozess möglich? (4) Wer passt sich an wen an? (5) Welche Interessen werden bestärkt?

Wichtig ist dabei zu beachten, dass es um Situationen der interaktiven Zusammenarbeit mit lernenden KI-Systemen geht und (zunächst) nicht um den Einsatz von KI insgesamt.

 

Stufe 0
Mensch
0,5
v.a. Mensch
1
Mensch & KI
0,5
v.a. KI
0
KI
Qualität der MMI MMI schlechter Qualität MMI mittlerer Qualität MMI hoher
Qualität
MMI mittlerer Qualität MMI schlechter Qualität
1.      Koordination Einseitige Koordination: Das System arbeitet nur Hintergrundprozesse und Aufträge ab, es tritt nicht als Interaktions­partner in Erscheinung Einfache Koordination: Der Mensch steuert verschiedene Funktionen des Sys­tems an, die interaktiv abgestimmt werden, das System bietet jedoch nicht von selbst situationsspezifische Mittel/ Lösungen an Interaktive Koordination: Die Verteilung der Autonomiezonen (wer steuert/‌entscheidet was?) werden transparent und interaktiv im Prozess abgestimmt, das System bietet pro-aktiv Aufgaben an, die es übernehmen kann Determiniert verteilte Koordination: An welchen Stellen der Mensch einbezogen werden soll, wird beim Design/bei der Implementierung der Tech­no­logie festgelegt Kompensierende/ präventive Koordination: Der Mensch wird nur zur Fehlerbehebung/-vermeidung oder Verant­wor­tungsübernahme eingebunden
2.      Arbeitsteilung MT Humanzentrierte Arbeitsteilung: Der Mensch nutzt die Technologie als (passives) Werkzeug, Möglichkeiten der Technik zur Entlas­tung und Qualitätssteigerung des Arbeitsprozesses werden nicht genutzt Einfache Arbeitsteilung: Das lernende System übernimmt nur einfache (lineare) Tätigkeiten, Abstimmungsbedarfe und kooperativer Mehrwert sind gering Komplementäre Arbeitsteilung: Tätigkeiten und Arbeitsinhalte werden entlang der Potenziale und Erfordernisse von Mensch und lernendem Sys­tem verteilt Übertechnisierte Arbeitsteilung: Das System übernimmt Tätigkeitsanteile, bei denen das (Erfahrungs-)Wissen der Nutzer*innen wichtig wäre, und/oder auch lernförderliche, motivierende oder entlas­tende Inhalte Technikzentristische Arbeitsteilung: System ignoriert menschliche Kompetenzen und Bedürfnisse bzw. steht diesen entgegen, negative Resultate und Folgen werden in Kauf genommen
3.      Lernen Getrenntes Lernen:Der Mensch lernt getrennt vom technischen System, die Qualität des Machine Learning wird durch die MMI nicht verbessert Asymmetrisches Lernen I: Das Wis­sen und die Er­fah­rungen des Men­schen werden nicht genutzt, um den Lern­­prozess des Sys­­tems zu ver­bes­sern, es kommt nur zu punktuellen Korrekturen Wechselseitiges Lernen: Die MMI ist so lernförderlich gestaltet, dass System und Mensch sich im Lernen wechselseitig unterstützen, hohe Lernqualität Asymmetrisches Lernen II: Das Sys­tem lernt getrennt, der Mensch kann den technischen Lernprozess nur manipulativ beeinflussen und lernt bestenfalls zufällig oder selbstgesteuert im Nutzungsprozess Verhindertes Lernen:Das System lernt „unsichtbar“, der Mensch wird zugleich de-qualifiziert
4.      Adaptivität Keine Adaptivität: Das System bleibt in den ex ante designten Prozessen, der Mensch wendet das System auf spezielle Situationen an Geführte Adaptivität: Der Mensch lernt das technische Sys­tem nach und nach an Komplementäre Adaptivität: System und Mensch passen sich wechselseitig positiv ergänzend aneinander an Einseitige Adaptivität: Das technische System kommt mit Änderungen in der Umwelt zurecht, bleibt aber in der Eigenlogik stecken Transformierende/ assimilierende Adaptivität: Die Umwelt passt sich nach und nach an die Eigenlogik des technischen Systems an
5.      Empowerment Ignorieren des Sys­tems: Der Mensch tritt nicht in Interaktion und ignoriert das System, es bietet keinen Mehrwert und/oder zu starke Akzeptanzprobleme Versandende technische Reorganisation: Das System entwickelt sich nicht weiter, verliert an Relevanz in der MMI, der Mensch wird zunehmend zum alleinigen Gestalter der MMI Win-Win: System und Mensch werden darin bestärkt, die Arbeitssituation in der MMI nach ihren Interessen/Zielen zu gestalten. Die ökonomischen und technischen Automatisierungsziele und die Beschäftigteninteressen bestärken sich wechselseitig Verdrängung: Das System dominiert mehr und mehr den Arbeitsprozess in der MMI, die Beschäftigteninteressen sind im Systemdesign den ökonomischen und technischen Automatisierungszielen nachgeordnet verankert Einseitige Automatisierung: Das Sys­tem dominiert die MMI, die technischen Automatisierungsziele stehen den Beschäftigteninteressen im Systemdesign entgegen, Komplementarität und Kollaboration sind nicht vorgesehen

Tab. 1: Bewertung der Qualität der MMI (eigene Darstellung)

Dimension 2: Kriterien für die Gestaltung der MMI bei KI

Für eine menschengerechte MMI sind jedoch viele weitere Kriterien relevant, die konkreter auf die Gestaltung der KI-Systeme im Arbeitskontext abzielen. Hier kann das Instrument auf einen Kriterienkatalog zurückgreifen, der in der vom Bundesministerium für Bildung und Forschung (BMBF) initiierten Plattform Lernende Systeme interdisziplinär von Vertreterinnen und Vertretern aus Unternehmen, Wissenschaft und Gewerkschaften/Verbänden erarbeitet wurde [4]. Der Katalog umfasst insgesamt zwölf Kriterien, die sich zu vier Clustern bündeln lassen:

Cluster 1: Schutz des Einzelnen

1.     Sicherheit und Gesundheitsschutz

2.     Datenschutz und verantwortungsbewusste Leistungserfassung

3.     Vielfaltssensibilität und Diskriminierungsfreiheit

Cluster 2: Vertrauenswürdigkeit

4.     Qualität der verfügbaren Daten

5.     Transparenz, Erklärbarkeit und Widerspruchsfreiheit

6.     Verantwortung, Haftung und Systemvertrauen

Cluster 3: Sinnvolle Arbeitsteilung

7.     Angemessenheit, Entlastung und Unterstützung

8.     Handlungsträgerschaft und Situationskontrolle

9.     Adaptivität, Fehlertoleranz und Individualisierbarkeit

Cluster 4: Förderliche Arbeitsbedingungen

10.   Handlungsräume und reichhaltige Arbeit

11.   Lern- und Erfahrungsförderlichkeit

12.   Kommunikation, Kooperation und soziale Einbindung

Abb. 2: Kriteriencluster für eine menschengerechte MMI (aus Huchler et al. 2020)

Der Katalog gleicht gängige Kriterien der Arbeits- und Technikgestaltung mit den speziellen Herausforderungen von KI-Systemen ab, wie zum Beispiel Erklärbarkeit und Verantwortungszuschreibung. Mit dem Fokus auf die MMI kommen darüber hinaus noch neue Nuancen und Faktoren hinzu, die speziell die Qualität der Interaktion ausmachen. Zwei dieser Kriterien sollen hier exemplarisch herausgegriffen und kurz umrissen werden:

Handlungsträgerschaft und Situationskontrolle (Kriterium 8): Bei der Interaktion mit lernender KI werden die Beschäftigten mit einer in der Regel neuen Situation konfrontiert: Die Systeme sind derart gestaltet, dass sie auch selbsttätig auf die Beschäftigten zugehen oder auf diese reagieren, während sie parallel im Hintergrund arbeiten. Sie können ihre Nutzer*innen zu einem vorherbestimmten und teilweise auch zu einem neu hervorgebrachten Handeln „auffordern“ bzw. „nötigen“, sodass das KI-System dem Menschen in bestimmten Situationen als eine Art „Akteur“ gegenübertritt. Damit wird ein Teil der Handlungsträgerschaft bzw. Situationskontrolle auf die Seite des technischen Systems verlagert. Zugleich ist ein ausreichendes Maß an Situationskontrolle wesentlich für die Handlungsfähigkeit, Motivation und auch Gesundheit der Beschäftigten. Dieses Konfliktverhältnis ist dann gelöst, wenn durch die Übergabe der Handlungsträgerschaft an das technische System die Handlungsfähigkeit des Menschen nicht eingeschränkt, sondern erweitert wird – im Sinne eines Komplementaritätsverhältnisses. Um interaktiv und komplementär „arbeitsteilig“ zu kollaborieren, müssen die Handlungsträgerschaft und entsprechende Übergaben zudem eindeutig geklärt sein. In der Interaktion muss nachvollziehbar sein, wer gerade was zu einem gemeinsamen Prozess beiträgt, bei wem die Situationskontrolle für den jeweiligen Teilprozess liegt und wo oder wie die Teilprozesse aneinander anschließen. Dabei ist es erforderlich, entsprechende Regeln zu definieren und Möglichkeiten zu schaffen. Dies ist notwendig für eine mögliche Verantwortungszuschreibung und eine Entlastung der Situation von unklaren Risiken. Eine transparente und beeinflussbare Handlungsträgerschaft ist Dreh- und Angelpunkt für eine komplementäre „Arbeitsteilung“ zwischen Mensch und KI-System.

Lern- und Erfahrungsförderlichkeit (Kriterium 11): Mensch und KI-Systeme unterscheiden sich bei Erwerb, Verarbeitung und Speicherung, Reproduktion und Abrufen sowie Anwenden von Wissen. Entsprechend lernen sie unterschiedlich, können sich dabei aber wechselseitig bestärken. Hierfür muss erstens die Interaktion mit KI-Systemen für die Beschäftigten lern- und erfahrungsförderlich gestaltet werden, indem die Aneignung von Wissen und Erfahrung im Nutzungsprozess ermöglicht wird. Zweitens muss es den Beschäftigten ermöglicht werden, die Lerninhalte (Datenqualität) und das Lernverhalten (Verknüpfungen) des intelligenten Sys­tems interaktiv zu validieren und ggf. zu korrigieren. Auf diese Weise können auch die Pass­genauigkeit und Leistungsfähigkeit des KI-Systems verbessert werden. Eine wechselseitig lernförderliche Gestaltung erhöht zudem die Wahrscheinlichkeit, dass Menschen bereit sind, ihr Wissen und ihre Erfahrungen in KI-Systeme einzubringen. Ein solcher komplementärer Ansatz bietet insbesondere für die Bearbeitung komplexer Situationen große Chancen, indem maschinell gelernte Inhalte und menschliches Erfahrungswissen sinnvoll integriert werden. Gerade wenn KI-Systeme weitreichende und relevante Tätigkeiten übernehmen und menschliche Arbeit im Wandel begriffen ist, ist eine lern- und erfahrungsförderliche Gestaltung der Mensch-Maschine-Interaktion von großer Bedeutung – um Wissen, Erfahrungen und Kompetenzen sowie Handlungsfähigkeit zu erhalten, aber auch um Innovation aus den Arbeitsprozessen heraus zu fördern.

Dimension 3: Ebenen einer Folgenabschätzung

Wenn für eine konkrete Situation die Qualität der MMI bewertet und die Gestaltungskriterien überprüft wurden, steht noch ein dritter Schritt an: die Betrachtung der Folgewirkungen auf unterschiedlichen Betrachtungsebenen. Von der Interaktion ausgehend können zum einen die Folgen für Mensch und Technologie zum einen getrennt betrachtet werden. Zum anderen ist es im Arbeitszusammenhang notwendig, auch das komplette Arbeitsumfeld einzubeziehen – also die Auswirkungen auf angrenzende Prozesse und Personen bzw. auf Zusammenarbeit, Führung, Arbeitsorganisation etc. Schrittweise kann der Betrachtungshorizont schließlich auf die gesamte Organisation bzw. den gesamten Betrieb (wie Qualifizierung, Technikentwicklung und -einsatz, Produktqualität, Wertschöpfungskonzepte) erweitert werden – ggf. bis hin zu den langfristigen Folgen für die Gesellschaft (z.B. Arbeitsmarkt, Bildung, Zusammenhalt).

Wie geht es weiter?

Die hier vorgestellten Bausteine werden nun schrittweise ausgebaut und zu einem Reflexions- und Bewertungsinstrument für die Entwicklung und den Einsatz stark interaktiver KI-Systeme in der Arbeitswelt weiterentwickelt. Angesprochen sind Entwickler*innen von KI-Systemen, aber auch alle weiteren Stakeholder des KI-Wandels in Unternehmen (Beschäftigte, Management, Betriebsrat, Gewerkschaften), politische Entscheidungsträger und Akteure der Arbeits- und Technikgestaltung.

Ziel ist es, einen wichtigen Impuls für die nachhaltige, menschenzentrierte und zukunftsorientierte Gestaltung der Mensch-Maschine-Interaktion bei Künstlicher Intelligenz zu geben. Dabei ist die dem HAI-MMI-Instrument zugrunde liegende Grundhaltung der Suche nach Ergänzungsmöglichkeiten von Mensch und KI in der MMI (und darüber hinaus) wesentlich. Selbst bei harten „disruptiven“ Veränderungen und Branchenumbrüchen können die betroffenen Beschäftigten dann „mitgenommen“ werden, wenn nach neuen Komplementaritätsverhältnissen gesucht wird und Entwicklungsoptionen angeboten sowie Arbeit und Technik entsprechend gestaltet werden.

Eine solche Perspektive macht die digitale Transformation insgesamt greifbarer, da sie Zukunftsoptionen für die Menschen und die Technologieentwicklung gleichermaßen anbietet und nicht zwangsläufig eine digitale Spaltung voraussetzt: in wenige Hochqualifizierte für manche kreativen und sozialen Tätigkeiten und viele Geringqualifizierte für die Tätigkeiten, deren Automatisierung sich (noch) nicht lohnt. Sie stellt dem Leitbild der möglichst vollautomatisierten „Smart Factory“ die Vision einer „Smart Empowered Factory“ aus dezentralen Mensch-Technik-Kollaborationseinheiten auf allen Arbeitsebenen gegenüber. Eine solche Organisation wäre agiler bzw. flexibler, könnte auf ein breiteres Setting an technischen Funktionalitäten und menschlichen Kompetenzen, Wissen und Erfahrungen zurückgreifen und wäre realistisch umzusetzen – nicht zuletzt auch, um neuen „CIM-Ruinen“ aus gescheiterten KI-Automatisierungsprojekten vorzubeugen.

Quellen und Referenzen:

[1] Die Darstellung ist angelehnt an das MEESTAR-Modell (Modell zur ethischen Evaluation sozio-technischer Arrangements) (Manzeschke et al. 2013).

[2] https://www.acatech.de/publikation/neue-automobilitaet-automatisierter-strassenverkehr-der-zukunft/(letzter Zugriff: 20.03.2020).

[3] https://www.plattform-i40.de/PI40/Redaktion/DE/Downloads/Publikation/KI-industrie-40.html (letzter Zugriff: 20.03.2020).

[4] Norbert Huchler et al. (Hrsg.): Kriterien für die menschengerechte Gestaltung der Mensch-Maschine-Interaktion bei Lernenden Systemen – Whitepaper aus der Plattform Lernende Sys­teme, München 2020. https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/AG2_Whitepaper2_220620.pdf

 

Über den Autor:


Dr. Norbert Huchler ist Mitglied des Vorstands des Instituts für Sozialwissenschaftliche Forschung e.V. – ISF München und Mitglied der Arbeitsgruppe „Arbeit/Qualifikation, Mensch-Maschine-Interaktion“ der Plattform Lernende Systeme.