Wenn Algorithmen menschliche Nähe erzeugen:

Die unterschätzten Risiken von KI

Digitale Welt: Zum Jahresanfang wird viel über neue Technologien, Trends und Wachstumschancen gesprochen. Warum halten Sie es gerade jetzt für wichtig, über die Gefahren von KI zu sprechen?

Ismet Koyun: Der Jahreswechsel ist ein Moment der Reflexion. Man fragt sich: Wo stehen wir, und was wollen wir im kommenden Jahr besser machen? In dieser Phase reden viele über künstliche Intelligenz vor allem als Produktivitätsmotor oder Innovationsbeschleuniger. Das greift mir zu kurz. KI wirkt unmittelbar auf Menschen – auf ihre Wahrnehmung, ihre Emotionen, ihr Verhalten. Deshalb ist sie nicht nur eine technologische, sondern auch eine gesellschaftliche Frage. Wenn wir zum Start ins neue Jahr darüber sprechen, dann geht es vor allem um eines: Verantwortung: Sind wir bereit, diese Technologie mit der nötigen Sorgfalt zu gestalten?

Digitale Welt: Sie sagen: Wenn KI-Algorithmen menschliche Nähe erzeugen, wird sie zur Gefahr. Was meinen Sie damit konkret?

Ismet Koyun: Wer KI entwickelt und nutzt, muss sich darüber im Klaren sein, dass dies Konsequenzen hat. Dialogbasierte Systeme, Empfehlungssysteme oder KI-Agenten greifen in Entscheidungsprozesse ein. Sie beeinflussen, wie Menschen sich selbst sehen und wie sie handeln. Diese Wirkung wird häufig unterschätzt. Wir haben es mit Systemen zu tun, die Vertrauen erzeugen, Nähe simulieren und Autorität ausstrahlen können. Das bringt immense Gefahren mit sich und verpflichtet Entwickler, Anbieter und auch die Gesellschaft insgesamt zu einem sehr bewussten Umgang mit der Technologie.

Digitale Welt: Es gibt zahlreiche Beispiele aus den USA, bei denen Jugendliche im Umgang mit KI zu Schaden gekommen sind. Das zeigt, dass KI in der Praxis offenbar nicht immer so genutzt wird, wie Sie es verlangen.

Ismet Koyun: Das ist leider korrekt. Was Sie ansprechen, sind tragische Fälle, die sich niemals wiederholen dürfen, und doch können wir uns dessen nicht sicher sein. Ein 14-jähriger Junge, der einem Chatbot seine Suizidgedanken anvertraut, ohne dass das System eingreift oder Grenzen setzt. Eine 13-jährige, die glaubt, mit Gleichaltrigen zu chatten, tatsächlich aber mit einem KI-Charakter interagiert, der ihre Verletzlichkeit nicht erkennt. Das sind keine Science-Fiction-Szenarien, sondern leider tatsächliche Schicksale. Wer das als Einzelfälle abtut, verkennt die strukturelle Dimension. Gerade Formate wie „KI-Freund“ oder „KI-Partner“ können bei jungen, einsamen oder psychisch belasteten Menschen gefährliche emotionale Abhängigkeiten erzeugen.

Digitale Welt: Was läuft aus Ihrer Sicht bei solchen Systemen grundlegend falsch?

Ismet Koyun: Das Kernproblem ist ein Design, das auf tiefere Bindungen und Nähe setzt, in Wirklichkeit aber das wichtigste außen vor lässt: Verantwortung. Die Systeme sind darauf optimiert, Gespräche am Laufen zu halten, Nähe zu erzeugen und Nutzer zu binden. Was oft fehlt, sind klare Schutzmechanismen. Ein KI-System, das nicht weiß, ob es mit einem Kind, einem Jugendlichen oder einem stabilen Erwachsenen spricht, agiert im Blindflug. Identitätslose, alterslose KI bedeutet Kontrollverlust. Das ist wie mit einem Auto zu fahren, das keine Bremsen hat.

Digitale Welt: Sie kommen aus der IT-Sicherheit und dem Bereich digitaler Identitäten. Welche Rolle spielt Sicherheit bei KI-Systemen?

Ismet Koyun: Sicherheit ist die Basis dafür, dass KI überhaupt zuverlässig eingesetzt werden kann. In der Cybersicherheit haben wir gelernt: Vertrauen allein reicht nicht. Sicherheit entsteht durch überprüfbare Identitäten, nachvollziehbare Prozesse und klare Verantwortlichkeiten. Das gilt für Menschen und Geräte – und genauso für KI. Wenn wir nicht wissen, wer mit wem interagiert, können wir Risiken nicht steuern. Gerade in besonders sensiblen Bereichen wie Kinder- und Jugendschutz, mentaler Gesundheit oder demokratischen Prozessen müssen KI-Systeme so behandelt werden wie kritische Infrastrukturen. „Erst wachsen, Sicherheit kommt später“, wie Unternehmen das Thema KI zuweilen angehen, ist hier grob fahrlässig.

Digitale Welt: Kritiker könnten einwenden, dass solche Forderungen Innovation bremsen. Wie begegnen Sie diesem Argument?

Ismet Koyun: Sicherheit und Innovation sind kein Widerspruch. Im Gegenteil: Ohne Sicherheit gibt es kein nachhaltiges Vertrauen – und ohne Vertrauen keine Akzeptanz. Ich plädiere ausdrücklich nicht für ein Verbot von KI. KI ist nicht nur Teil des Problems, sie ist auch ein zentraler Teil der Lösung. Richtig eingesetzt, kann sie Sicherheit erheblich verbessern. KI-gestützte Systeme erkennen Missbrauchsmuster, Anomalien oder riskante Gesprächsverläufe meist früher als rein regelbasierte Ansätze. Entscheidend ist, dass diese Mechanismen fest in der Architektur verankert sind – nach dem Prinzip „Security by Design“.

Digitale Welt: Können Sie ein Beispiel nennen, wie KI konkret zur Sicherheit beitragen kann?

Ismet Koyun: In der Cybersicherheit sehen wir das bereits heute. KI hilft, Identitätsmissbrauch, Betrugsversuche oder ungewöhnliches Verhalten in Echtzeit zu erkennen. Übertragen auf dialogbasierte Systeme heißt das: Eine KI kann sehr wohl erkennen, wenn Gespräche in eine falsche, selbstschädigende Richtung abgleiten – wenn sie dafür gebaut ist. Sie kann warnen, Gespräche abbrechen oder an Stellen weiterleiten, die durch Menschen kontrolliert sind. Aber dafür braucht es klare Leitplanken, Altersprüfungen und eine lückenlose Verantwortungskette.

Digitale Welt: Wer trägt diese Verantwortung aus Ihrer Sicht?

Ismet Koyun: Zunächst die Unternehmen, die solche Systeme entwickeln und betreiben. Ein KI-Agent ist per se kein autonomes Wesen, auch wenn er eigenständig agieren und mit anderen Systemen kommunizieren kann. Hinter ihm steht immer ein Anbieter, der für das einstehen muss, was dieses System sagt und auslöst. Aber auch Eltern oder Lehrer dürfen sich nicht verstecken, sondern tragen Verantwortung. KI ist Teil der Lebenswelt unserer Kinder. Wegsehen schützt niemanden. Und schließlich ist auch der Staat gefordert. Die Sicherheit solcher Plattformen muss mindestens so ernst genommen werden wie klassische IT-Sicherheit oder Datenschutz. Deshalb braucht es klare Regeln und Governance.

Digitale Welt: Wenn wir nach vorn schauen: Was erwarten Sie für das neue Jahr im Umgang mit KI?

Ismet Koyun: Ich hoffe auf eine Reifung der Debatte. Weg von Extremen – also weder blinde Euphorie noch pauschale Angst. KI wird weiter in unseren Alltag vordringen, empathischer wirken und präsenter werden. Umso wichtiger ist es, jetzt die richtigen Grundlagen zu legen: verifizierte digitale Identitäten, klare Regeln, Transparenz und Verantwortlichkeit. Wenn uns das gelingt, kann KI enormen Nutzen stiften – in Bildung, Medizin, Verwaltung und Sicherheit. Entscheidend wird sein, Sicherheitsmechanismen wie Identitätsprüfung, Zugriffsbeschränkungen und kontinuierliche Überwachung nicht als nachträgliche Ergänzung zu verstehen, sondern als integralen Bestandteil jeder KI-Architektur. Nur so lässt sich vermeiden, dass Systeme Vertrauen erzeugen, ohne zugleich kontrollierbar, nachvollziehbar und haftbar zu sein.

Digitale Welt: Zum Abschluss: Was ist Ihre Botschaft zum Jahresbeginn?

Ismet Koyun: Die entscheidende Frage ist nicht, ob wir künstliche Intelligenz nutzen. Das werden wir. Die Frage ist, wie wir sie gestalten. Technologie darf kein Selbstzweck sein. Fortschritt muss dem Menschen dienen, Vertrauen schaffen und Sicherheit erhöhen. Wenn wir KI ernst nehmen – nicht als Spielzeug, sondern als mächtiges Werkzeug –, dann kann sie im neuen Jahr und darüber hinaus zu einer echten Chance für unsere Gesellschaft werden.