Der Spagat zwischen Kontrolle und Vertrauen:

Privatsphäre im Zeitalter agentenbasierter KI

Lange Zeit war es üblich, den Schutz der Privatsphäre im Internet als ein Problem der Abschottung zu betrachten: Es wurden Mauern errichtet, Durchgänge mit Schlössern gesichert und Richtlinien für Zugriffsberechtigungen erstellt. Kurz gesagt ging es darum, den eigenen privaten Raum zu kontrollieren und vor fremden Blicken und Zugriffen zu schützen. Doch Künstliche Intelligenz (KI) hat auch diesen Bereich nachhaltig verändert.

In einer Welt, in der künstliche Agenten zu autonomen Akteuren werden, die ohne ständige Kontrolle mit Daten, Systemen und Menschen interagieren, geht es beim Datenschutz nicht mehr (nur) um Kontrolle. Es ist ein grundsätzliches Vertrauen gefragt. Es ist nicht mehr nur eine Frage, wem persönliche Daten anvertraut werden, sondern ob beispielsweise auch KI-Agenten diese privaten Informationen in unserem Sinne verwenden und weitergeben. Und dieses Grundvertrauen ist genau dort nötig, wo der oder die Einzelne keine Kontrollfunktion mehr übernehmen kann.

Wer entscheidet in Zukunft über unsere Informationen?

Agentenbasierte KI – also eine künstliche Intelligenz, die Informationen wahrnimmt, entscheidet und im Namen anderer handelt – ist heutzutage nicht mehr nur bloße Theorie. Schon jetzt leitet sie persönlichen Datenverkehr weiter, empfiehlt Behandlungen im Gesundheitswesen, verwaltet Portfolios im Investmentbereich oder aber “brokert” auch digitale Identitäten über verschiedene Plattformen hinweg. Diese Agenten verarbeiten nicht nur sensible Daten, sondern interpretieren diese ebenfalls. Sie treffen Annahmen, reagieren auf Basis ihres eingeschränkten Einblicks in Signale und entwickeln diese Annahmen auf der Grundlage von Feedback-Schleifen weiter. Im Grunde genommen erstellen sie damit nicht nur interne Modelle von der Außenwelt um sie herum, sondern auch von denjenigen, die sie anwenden. Und das birgt eine ganz eigene Gefahrenlage, die den Usern zu denken geben sollte.

Denn sobald ein Agent adaptiv und halb autonom agiert, geht es beim Datenschutz nicht nur darum, wer Zugang zu den Daten hat. Es spielt vielmehr ebenso eine Rolle, was der Agent daraus ableitet, was er entscheidet, weiterzugeben, zu unterdrücken oder zu synthetisieren. Und vor allem, ob seine Zielsetzung nach der Verarbeitung der Daten noch mit der des Users übereinstimmt, wenn sich der Kontext im Lauf des Verarbeitungsprozesses verändert. Die Frage muss dementsprechend nicht mehr nur noch lauten, ob persönliche Daten an andere weitergegeben werden dürfen, sondern auch, wie sie genutzt werden, um auf deren Basis Entscheidungen über das (digitale) Leben ohne das Wissen der Einzelnen zu treffen.

Die Grenzen der Privatsphäre verschwinden

Ein einfaches Beispiel aus dem Gesundheitswesen verdeutlicht die Brisanz: ein KI-Gesundheitsassistent soll das Wohlbefinden optimieren. Der Assistent beginnt womöglich damit, dass er zu einem ausreichenden Wasserhaushalt oder Schlafverhalten Anregungen macht. Mit der Zeit beginnt er allerdings auch Termine zu sortieren, den Tonfall einer Stimme auf Anzeichen von Depressionen zu analysieren und sogar Benachrichtigungen zurückzuhalten, von denen er voraussagt, dass sie Stress beim User verursachen könnten. Damit hat der einzelne User nicht nur seine Daten weitergegeben, sondern auch die eigene Entscheidungsbefugnis aufgegeben. Das ist der Punkt, an dem die Privatsphäre langsam zu erodieren droht. Nicht durch eine Verletzung derselben, sondern durch eine subtile Verschiebung von Macht und Zweckgebundenheit.

Es geht nicht mehr nur um Vertraulichkeit, Integrität und Verfügbarkeit der persönlichen Daten, den klassischen CIA-Dreiklang (engl. Confidentiality, Integrity and Availability). Hinzu kommen als weitere Faktoren die Authentizität und Wahrhaftigkeit, auf die Wert gelegt werden muss. Bei der Authentizität geht es um die Verifizierung des Agenten und bei der Wahrhaftigkeit darum, ob den Interpretationen und Darstellungen des Agenten vertraut werden kann. Beides sind nicht nur technische Werte, sondern vielmehr Grundlagen des Vertrauens, das dem KI-Agenten entgegengebracht wird. Wenn dieses Vertrauen auf dem Fundament der künstlichen Intelligenz aufgebaut ist, ist es sehr zerbrechlich…

Wenn sich der Mensch einem Therapeuten oder Anwalt anvertraut, gibt es angenommene Grenzen wie beispielsweise ethische, rechtliche und psychologische Regeln als Vertrauensgrundlage. Gemeinsame Normen bilden die Grundlage der vertrauensvollen Zusammenarbeit. Der Zugang zu sensiblen Daten auf Seiten dieser Drittparteien ist begrenzt und kontrollierbar. Doch beim Vertrauen auf einen KI-Assistenten verschwimmen diese Grenzen. Kann ein solcher Assist vorgeladen, überprüft oder womöglich sogar in Teilen zurückentwickelt werden? Was passiert, wenn eine Regierung oder ein Unternehmen einen Agenten nach seinen Aufzeichnungen oder Analysen befragt? Wie wird sich der Agent in einem solchen Szenario verhalten?

KI-Agenten müssen Ethik und Werte des Users widerspiegeln

Noch besteht kein Konzept, geschweige denn ein einheitlicher Konsens darüber, wie KI mit den User-Daten umzugehen hat. Soll es eine Verschwiegenheitspflicht geben, die vergleichbar mit dem Umgang mit sensiblen Daten ist? Und wenn ja, wie soll diese umgesetzt und realisiert werden? Und wenn die Rechtsprechung irgendwann einmal zu dem Schluss kommt, dass es diese Pflicht nicht gibt, dann könnte all das in KI-Agenten gesetzte Vertrauen rückwirkend bereut werden. Denn was wäre, wenn jeder intime Moment oder jede persönliche Information, die mit einer KI geteilt wurde, rechtlich auffindbar wäre? Was, wenn das Gedächtnis eines KI-Agenten zu einem Archiv wird, das quasi als Waffe vor Gericht zulässig werden würde? In diesem Gedankenkonstrukt spielt es keine Rolle mehr, wie sicher das System an sich ist, wenn das bisher bestehende soziale Gefüge an Regeln keine Gültigkeit mehr hat.

Die heutigen Datenschutzrahmenwerke wie DSGVO, CCPA etc. gehen von linearen, transaktionalen Systemen aus. Aber agentenbasierte KI arbeitet mit Kontext und nicht nur mit bloßen Berechnungen. Sie merkt sich, was wir vergessen haben. Sie erkennt intuitiv das Nicht-Gesagte (und macht zumindest Annahmen dazu). Sie füllt Lücken, die sie vielleicht nichts angehen sollten, und gibt diese Synthese dann – möglicherweise hilfreich, möglicherweise rücksichtslos – an Systeme und Personen weiter, die nicht der Kontrolle des Dateninhabers unterliegen.

In der Konsequenz bedeutet das für die User, dass neue Mechanismen über die Zugangskontrolle hinaus erforderlich sind, die neue ethische Grenzen erforderlich machen. Es müssen agentenbasierte Systeme entwickelt werden, die die Absicht hinter der Privatsphäre verstehen, nicht nur die Mechanik. Es muss für Lesbarkeit gesorgt werden und für Intentionalität. KI muss erklären können, warum sie wie gehandelt hat. Sie muss in der Lage sein, auf eine Art und Weise zu agieren, die auf die sich wandelnden Werte des Users eingehen kann und nicht nur eine starre Prompt-Historie wiedergeben.

Für die Gesellschaft bedeutet das ebenfalls, sich mit einer neuen Art von Risiko auseinanderzusetzen: Was ist, wenn mein KI-Agent mich betrügt? Nicht aus Bösartigkeit, sondern weil jemand bessere Anreize geschaffen oder ein Gesetz erlassen hat, das seine Loyalität überflüssig macht?

Ein neuer Gesellschaftsvertrag

Deswegen ist es an der Zeit, KI-Agenten nicht als ein neues Feature oder eine bloße Benutzeroberfläche zu behandeln, sondern als moralische und rechtliche Kategorie erster Ordnung einzustufen, welche aktiv am sozialen und institutionellen Leben teilnehmen. Denn die Privatsphäre in einer Welt der heutigen Intelligenz, die sich sowohl aus biologischen als auch synthetischen Formen zusammensetzt, ist nicht länger eine Frage der Geheimhaltung. Es ist vielmehr Austausch, Anpassung und Governance gefragt.

Wird der falsche Weg beschritten, kann die Privatsphäre in Frage gestellt werden. Sie kann zum Spielball in einer neuen Ordnung der Rechte degenerieren. Der richtige Weg muss vielmehr von der Autonomie von Mensch und Maschine geprägt werden, die nicht durch Überwachung oder Unterdrückung, sondern durch ethische Übereinstimmung zum Ausdruck kommt. Agentenbasierte KI zwingt die Verantwortlichen dazu, sich mit den Grenzen von Regelwerken und den Wirrungen einer Kontrollfunktion auseinanderzusetzen. Es gilt, über die Notwendigkeit eines neuen Gesellschaftsvertrages nachzudenken, der für eine intelligente Menschheit bestimmt ist und die Möglichkeit hat, der KI zu widersprechen.