Revolution oder Risiko? Wie KI die Medizin verändert

Frau Hage, welche regulatorischen Herausforderungen sehen Sie aktuell bei der Integration von Künstlicher Intelligenz im Gesundheitswesen? 

Heike Hage: Die regulatorischen Anforderungen an KI im Gesundheitswesen sind derzeit stark im Wandel. Mit dem EU AI Act werden künftig strenge Regeln und Prüfungen eingeführt. Vor der Zulassung, durchlaufen KI-Systeme zwingend eine umfangreiche Risikobewertung. Insbesondere KI-Anwendungen, die in der Diagnostik oder Therapie eingesetzt werden, müssen als „hochriskant“ gekennzeichnet werden. Außerdem müssen Anbieter detaillierte Informationen zur Funktionsweise der Algorithmen sowie deren Trainingsdaten bereitstellen. Hier sind Hersteller, Softwareentwickler und Gesundheitseinrichtungen, die KI-Anwendungen einsetzen gleichermaßen gefordert.

Gibt es neben der EU-Verordnung noch weitere Regelungen – auch speziell für Deutschland? 

Heike Hage: Ja, gerade die Medizinprodukteverordnung (MDR) stellt hohe Anforderungen an Softwarelösungen, die als „Software as a Medical Device“ (SaMD) gelten. Hersteller müssen genau dokumentieren, wie ihre Algorithmen funktionieren und welche Trainingsdaten verwendet wurden. Wird zum Beispiel ein KI-System, für die Analyse von Radiologiebildern eingesetzt, muss dies strenge Anforderungen an klinische Sicherheit und Leistung erfüllen. Außerdem hat das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) spezielle Leitlinien veröffentlicht, die auf digitale Gesundheitsanwendungen (DiGA) abzielen. Neue Zertifizierungsprozesse ermöglichen es, dass innovative digitale Anwendungen schneller auf den Markt gebracht werden – vorausgesetzt, sie erfüllen strenge Qualitäts- und Sicherheitsstandards. Diese Prozesse sind für Hersteller und Kliniken sinnvoll, da sie eine klare Roadmap bieten, wie digitale Produkte sicher und effektiv implementiert werden können.

Wie können solche Standards in der Praxis aussehen? 

Heike Hage: Nehmen wir zum Beispiel den Digital Imaging and Communications in Medicine (DICOM)-Standard. Der sorgt dafür, dass medizinische Bilddaten, wie CT- oder MRT-Aufnahmen, in einem offenen Format bereitgestellt werden. Die DICOM-Spezifikationen haben sich über die Jahre erweitert, sodass nicht nur die Rohbilddaten, sondern auch sämtliche abgeleiteten Informationen (z. B. KI-Befunde) standardisiert abgelegt und betrachtet werden können. So erhält zum Beispiel ein KI-System, das Tumorerkennungen auf CT-Scans durchführt, standardisierte Bilddaten. Das ermöglicht wiederum, dass diese Daten direkt in bestehende Bildarchivierungs- und Kommunikationssysteme (PACS) integriert werden können.

Und was bedeuten diese Anforderungen konkret für Unternehmen, die KI-Lösungen entwickeln oder nutzen wollen? 

Heike Hage: Unternehmen müssen frühzeitig regulatorische Expertise einbinden. Das beginnt mit einer klaren Risikoklassifizierung ihrer Produkte nach den Vorgaben des EU AI Acts. Zudem ist es wichtig, sich mit den Zertifizierungsprozessen auseinanderzusetzen. Dafür sollten interne Prozesse etabliert werden, die regelmäßige Audits und unabhängige Prüfungen sicherstellen. Beispielsweise kann ein Unternehmen Zertifikate erwerben, etwa den KI-Qualitätsrahmen oder ISO/IEC 42001, die belegen, dass ihre KI-Anwendung alle notwendigen Sicherheits- und Qualitätsstandards erfüllt.
Ein weiterer wichtiger Punkt ist die Haftung. Es müssen klare Verantwortlichkeiten definiert werden, um im Falle einer Fehldiagnose rechtlich abgesichert zu sein. Das erfordert nicht nur eine enge Zusammenarbeit mit Juristen, sondern auch die Implementierung von Mechanismen zur Nachvollziehbarkeit und Dokumentation von KI-Entscheidungen. Beispielsweise können detaillierte Audit-Trails helfen, alle relevanten Entscheidungsprozesse transparent zu halten und Fehlerquellen frühzeitig zu erkennen.
Und nicht zuletzt gilt es die Frage der ethischen Verantwortung zu klären. Denn Regulierungsbehörden legen immer mehr Wert darauf, dass KI-Systeme nicht nur sicher und effektiv, sondern auch fair und diskriminierungsfrei sind. Das bedeutet, dass Unternehmen Mechanismen entwickeln müssen, um mögliche Bias zu identifizieren und zu reduzieren.

Neben der regulatorischen und ethischen Perspektive gibt es auch technische Herausforderungen. Welche sehen Sie hier? 

Heike Hage: Eine der größten technischen Hürden ist die Interoperabilität von KI-Systemen mit bestehenden IT-Infrastrukturen. Viele Krankenhäuser nutzen noch veraltete Systeme, die nicht mit modernen Standards, wie Fast Healthcare Interoperability Resources (FHIR), kompatibel sind. Hier braucht es Middleware-Lösungen, um eine reibungslose Integration zu gewährleisten. Verwendet beispielsweise ein Krankenhausinformationssystem (KIS) ein veraltetes Protokoll für die Datenspeicherung, kann mittels einer Middleware-Lösung dieses Protokoll in FHIR-Nachrichten übersetzt werden. Anschließend kann ein KI-Diagnosesystem die Patientendaten korrekt interpretieren und verarbeiten.
Wichtig an der Stelle ist auch das Thema Datenqualität und -konsistenz. Denn selbst wenn Standards wie HL7 implementiert sind, können unterschiedliche Interpretationen und Implementierungsvarianten zu Inkonsistenzen führen. Deshalb müssen Daten sorgfältig aufbereitet, validiert und in einheitliche Formate überführt werden. Auch die kontinuierliche Überwachung und Nachjustierung von KI-Modellen ist entscheidend, um deren Genauigkeit und Sicherheit langfristig zu gewährleisten. Dafür müssen robuste MLOps-Prozesse aufgebaut werden, die das Management und die Optimierung von KI-Modellen erleichtern.

Welche Maßnahmen können Unternehmen ergreifen, um diese technischen Herausforderungen zu bewältigen? 

Heike Hage: Ein wichtiger Schritt ist die Nutzung von ETL-Prozessen (Extract, Transform, Load). Damit können heterogene Datenquellen in ein einheitliches Format überführt werden. In der Praxis heißt das zum Beispiel, wenn ein Krankenhaus verschiedene Datenformate, beispielsweise aus Labor- und Bildgebungsdaten, zusammenführt, muss es diese in ein standardisiertes Format bringen, um KI-Anwendungen damit zu speisen.
Zudem sollten Unternehmen auf skalierbare IT-Infrastrukturen setzen – sei es On-Premise oder in der Cloud. Gerade Cloud-Lösungen bieten den Vorteil, dass sie Ressourcen dynamisch bereitstellen können. Allerdings müssen Datenschutz- und Sicherheitsaspekte berücksichtigt werden. Darüber hinaus würde ich dazu raten, auf modulare Softwarearchitekturen zu setzen. Damit lassen sich zukünftige Anpassungen und Weiterentwicklungen effizient realisieren. Auch der Einsatz von KI-gestützten Qualitätssicherungssystemen kann helfen, Fehler in der Datenverarbeitung frühzeitig zu erkennen und zu korrigieren. Ein gutes Beispiel dafür wären KI-basierte Fraud-Detection-Systeme. Sie helfen dabei, betrügerische Abrechnungsversuche frühzeitig zu erkennen. So kann die KI beispielsweise erkennen, wenn diagnostische Bilder aus früheren Untersuchungen erneut eingereicht werden, indem sie diese mit archivierten Aufnahmen vergleicht und auf Mehrfachabrechnung prüft. Auch manipulierte Metadaten, etwa geänderte Patienten-IDs zur unrechtmäßigen Abrechnung teurer Verfahren, werden entlarvt. Durch den Abgleich anatomischer Merkmale mit den Patientendaten identifiziert das System Abweichungen und meldet den Betrugsverdacht.

Datenschutz ist ein zentrales Thema im Gesundheitswesen. Wie kann KI datenschutzkonform eingesetzt werden? 

Heike Hage: Unternehmen müssen klare Datenschutzrichtlinien implementieren, insbesondere hinsichtlich Einwilligungsmanagement, Datenminimierung, Pseudonymisierung und Anonymisierung. Etwa bei einer KI-Anwendung, die Patientendaten analysiert, sollten nur die notwendigsten Informationen verarbeitet werden – idealerweise in pseudonymisierter Form, um den Datenschutz zu gewährleisten.
Sicherheitsmaßnahmen wie Ende-zu-Ende-Verschlüsselung, Multi-Faktor-Authentifizierung und regelmäßige Penetrationstests sind essenziell, um Patientendaten vor Cyberangriffen zu schützen. Für den Ernstfall ist ein gut vorbereitetes Notfallmanagement mit detaillierten Notfallplänen das A und O. Zudem sollten Unternehmen auf transparente Datenschutzrichtlinien setzen, um das Vertrauen von Patienten und medizinischem Personal zu gewinnen. Regelmäßige Datenschutz-Schulungen für Mitarbeitende können dazu beitragen, das Bewusstsein für Risiken und bewährte Praktiken zu schärfen.
Ein weiteres wichtiges Thema ist die Erklärbarkeit von KI. Wie lässt sich Transparenz sicherstellen?
Heike Hage: Eins vorneweg – Transparenz ist entscheidend, um Vertrauen in KI zu schaffen. Hier würde ich empfehlen Dashboards zu nutzen. So lassen sich Betriebsdaten und KPIs (Key Performance Indicators) in Echtzeit visualisieren, etwa der Status von Diagnosen, die Genauigkeit von Vorhersagen oder auch Systemauslastungen. Und ein gut gestaltetes Dashboard zeigt nicht nur die Endergebnisse einer KI-Analyse, sondern auch die zugrundeliegenden Entscheidungsfaktoren. Beispielsweise können Heatmaps oder gewichtete Einflussfaktoren dargestellt werden, die erklären, warum ein bestimmtes Ergebnis erzielt wurde. Bei der Auswertung eines CT-Bildes könnte das Dashboard farblich markieren, welche Bereiche der Bildanalyse besonders in die Entscheidung zur Tumorerkennung eingeflossen sind. Das ist besonders wichtig, wenn rechtliche oder ethische Fragestellungen nachgewiesen werden müssen.

Handlungsempfehlungen für Unternehmen

1. Experten aus den Bereichen Recht, Datenschutz und IT frühzeitig einbinden
2. Transparenzmechanismen wie Dashboards und Erklärbarkeitsmodelle integrieren
3. In robuste Sicherheitsinfrastrukturen investieren
4. Weiterentwicklung der KI-Modelle sicherstellen
5. In moderne IT-Sicherheitslösungen investieren

Abschließend: Welche Handlungsempfehlungen geben Sie Unternehmen mit auf den Weg? 

Heike Hage: Erstens: Frühzeitig Experten aus den Bereichen Recht, Datenschutz und IT einbinden. Zweitens: Transparenzmechanismen wie Dashboards und Erklärbarkeitsmodelle integrieren, um Vertrauen in die KI zu schaffen. Drittens: In robuste Sicherheitsinfrastrukturen investieren, um Daten und Systeme zu schützen. Viertens: Die kontinuierliche Weiterentwicklung der KI-Modelle sicherstellen, um stets den höchsten Qualitätsstandards zu entsprechen. Und nicht zuletzt: in moderne IT-Sicherheitslösungen investieren.
Darüber hinaus sollten Unternehmen strategische Partnerschaften mit Forschungseinrichtungen und Regulierungsbehörden eingehen, um von aktuellen Entwicklungen und Best Practices zu profitieren. Wichtig ist zudem, dass medizinisches Personal regelmäßige Schulungen erhält, um KI-Ergebnisse korrekt interpretieren zu können. Gerade in kritischen Bereichen wie der Onkologie oder der Radiologie ist es essenziell, dass Ärzte die Entscheidungsfindung der KI hinterfragen und bewerten können. Die finale Entscheidung trifft der Mensch – die KI liefert dabei nachvollziehbare und hilfreiche Unterstützung. Wenn Unternehmen diese Punkte berücksichtigen, können sie KI erfolgreich und sicher im Gesundheitswesen einsetzen.