In die Künstliche Intelligenz (KI) werden von der Gesundheitswirtschaft enorme Erwartungen gesetzt. Noch werden diese Möglichkeiten hierzulande zu wenig genutzt, doch zukünftig soll Deutschland in Europa zu einem Vorreiter bei der Einführung digitaler Innovationen in das Gesundheitssystem werden.

Der KI-Aktionsplan des Bundesforschungsministeriums sieht Investitionen in die KI in Deutschland bis zum Jahr 2025 von mehr als 1,6 Mrd. € vor. Bundesgesundheitsminister Karl Lauterbach bescheinigt der Technologie großes Potenzial, deshalb hat sein Ministerium auch mit dem Gesundheitsdatennutzungsgesetz die Voraussetzung zur Verarbeitung von Gesundheitsdaten durch KI-Lösungen geschaffen.

Vor allem seit Erscheinen von ChatGPT ist KI in aller Munde, aber was versteht man genau darunter? KI ist eine Teildisziplin der Informatik. Sie beschäftigt sich mit der Automatisierung intelligenten Verhaltens sowie dem maschinellen Lernen. Die KI-Verordnung der EU definiert ein KI-System sehr weitreichend als ein „maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt und das nach seiner Betriebsaufnahme anpassungsfähig sein kann sowie aus den erhaltenen Eingaben für explizite oder implizite Ziele Ausgaben ableitet, wie etwa Vorhersagen, Empfehlungen oder Entscheidungen, die die physische oder virtuelle Umgebungen beeinflussen können.“ Dies zeigt, dass bereits relativ einfache Systeme als KI-Systeme zu bewerten und unter den Anwendungsbereich der KI-Verordnung fallen werden. Die grundsätzlichen Einsatzmöglichkeiten von KI sind dabei vielfältig.

Einsatzmöglichkeiten von KI in Medizin und Pflege

Getrieben durch die digitale Transformation der Gesundheitswirtschaft befindet sich die KI auch in der Medizin auf dem Vormarsch. Ob es um die Optimierung der digitalen Patientenpfade (von der Prävention, über Diagnostik und Therapie, hin zur Nachsorge), um klinische Entscheidungsunterstützung, roboterassistierte Chirurgie, Bildgebung und -verarbeitung, telemedizinische Dienste oder das Ressourcen-Management im Krankenhaus geht, die Einsatzmöglichkeiten sind mannigfaltig. Auch prädiktive Analysen werden durch KI stärker getrieben.

Eine vergleichsweise einfache Hilfestellung durch KI kann im Rahmen der Plausibilitätsprüfung von Medikamenten erfolgen. Widerspricht ein Medikament im System hinterlegten Allergien, passt ein potenziell besonders gefährliches Medikament nicht zu den Diagnosen oder liegen gravierende Wechselwirkungen mit anderen Medikamenten vor? In solchen Fällen kann ein Warnhinweis eine lebensrettende Hilfe sein.

Im Bereich der prädiktiven Medizin können KI-Systeme durch die Analyse mehrerer tausend Krankengeschichten beispielsweise lernen, Krankheits- und Therapieverläufe individuell vorherzusagen. Aus genetischen Analysen und Bilddaten können sie die Aggressivität eines Tumors berechnen und vorhersagen, ob eine Strahlen- oder Chemotherapie erfolgversprechender ist.

Auch im Bereich der medizinischen und klinischen Dokumentation kommt KI zum Einsatz. So entlastet Spracherkennung bei der Dokumentation von Leistungen direkt im IT-System die jeweilige Fachkraft. Zudem ist es bereits möglich, dass gegenüber den Anwenderinnen und Anwendern während der Spracheingabe in Echtzeit automatisch eine Rückmeldung zu den bisherigen Einträgen erfolgt, um zum Beispiel Dokumentationslücken zu schließen.

KI-gestützte Technologien haben ebenfalls einen starken Einfluss auf die Befundung sowie Diagnoseunterstützung in der Radiologie. Ein Anwendungsbeispiel findet sich in der Thoraxradiografie: Gerade in diesem Fall können Effizienz und Validität der Diagnosestellung erhöht werden, wenn durch den gleichzeitigen Einsatz multipler KI-Algorithmen eine umfängliche Befundung der radiologischen Aufnahmen unterstützt wird.

Ebenso im Umfeld telemedizinischer Dienste kommt KI bereits zum Einsatz. Insbesondere für Ärzte können KI-Anwendungen in der Diagnostik bei bildgebenden Verfahren oder Symptom-Checks bedeuten, dass Diagnosen schneller und präziser gestellt und Patienten individueller behandelt werden können.

Darüber hinaus unterstützt KI bei der Optimierung der Abläufe im Operationssaal. So können Operierende, die anspruchsvolle Eingriffe unter dem Mikroskop durchführen, per Sprach- oder Gestensteuerung Informationen anfordern, die dann im Okular des Operationsmikroskops erscheinen. Auch die Roboter-assistierte Chirurgie ist längst gelebte Praxis. Chirurgen steht dabei ein digitaler Assistent zur Seite, der während der Operation beim Sehen, Greifen und Präparieren unterstützt.

Das große Potenzial für KI in der Pflege liegt sicher in der Entlastung von Dokumentations-, Administrations- und Routineaufgaben. Gerade Entscheidungsunterstützung und tastaturlose Pflegedokumentation können die Pflege nicht nur signifikant unterstützen, sondern auch fachlich völlig verändern. Die Pflege wird durch prädiktive Technologien viel stärker proaktiv und präventiv Patienten unterstützen können und sich mit dem technologischen Fortschritt von der heutigen, reaktiven Versorgung entfernen.

Auf Patientenseite unterstützen intelligente Assistenzsysteme Menschen mit eingeschränkter Mobilität – zum Beispiel nach einem Schlaganfall – bedarfsgerecht bei der Bewegungstherapie, d. h. so wenig wie möglich, aber so viel wie nötig („Assist-as-needed“).

Entlastung auch bei administrativen Prozessen

Neben den klinischen Anwendungsgebieten kommt KI auch im administrativen Krankenhausmanagement zum Einsatz. Entsprechende Systeme optimieren den Kodierprozess, das Medizincontrolling, die Patienten- und Fallsteuerung, das Ressourcen- und Entlassmanagement. Insbesondere die Unterstützung beim Entlass- und Überleitungsmanagement reduziert den zeitlichen Aufwand bei der bisher aufwendigen telefonischen Suche nach freien Plätzen für eine Anschlussheilbehandlung.

Damit hat ein Krankenhaus den Prozess von der Aufnahme über die Entlassung bis zur Abrechnung im Überblick, nicht nur aus einer ökonomischen, sondern auch aus einer qualitativen Sicht. Aber auch die Automatisierung von Warenbestellungen durch KI-Systeme spart Zeit und Kosten und ermöglicht es den Gesundheitsfachkräften, sich auf ihre Kernkompetenzen, die Patient:innen, zu konzentrieren.

Eine große, wiederkehrende Herausforderung stellt sowohl im ärztlichen als auch im pflegerischen Dienst die Personaleinsatzplanung dar. Hier gilt es neben den individuellen Möglichkeiten und Wünschen der Mitarbeiter auch regulatorische Anforderungen wie die Arbeitszeitgesetze oder die Pflegepersonaluntergrenzenverordnung (PpUGV) zu beachten. Mit Hilfe von speziellen KI-Lösungen lassen sich Dienstpläne quasi auf Knopfdruck automatisch erstellen – eine Aufgabe, für die vorher viele Arbeitsstunden erforderlich waren.

Gesundheitsdatennutzungsgesetz schafft neue Möglichkeiten

Mit dem Gesundheitsdatennutzungsgesetz (GDNG) hat das Bundesministerium für Gesundheit zudem die rechtliche Möglichkeit geschaffen, dass die in der Klinik vorliegenden Patientendaten in einem gesetzlichen Rahmen für andere Zwecke weiterverarbeitet werden dürfen; hierbei werden vor allem die Möglichkeiten zur Eigenforschung gestärkt. So, laut Gesetzesbegründung, soll auch das Training von KI-Modellen auf Grundlage der deutschen Bevölkerung repräsentativer und qualitativ hochwertiger Datensätze gefördert werden.

Nach § 6 GDNG dürfen datenverarbeitende Gesundheitseinrichtungen wie Kliniken die rechtmäßig verarbeiteten Daten zu Zwecken der Qualitätssicherung, Förderung der Patientensicherheit sowie zur medizinisch-pflegerischen Forschung weiternutzen. Hierzu zählt die Anwendung von KI-gestützten Apps genauso dazu wie die zuvor erwähnten Lösungen zur Verbesserung der Versorgungsprozesse.

Besonderen Nutzen werden jedoch Lösungen erwarten lassen, die direkt auf die Daten aus den Krankenhausinformationssystemen zugreifen und anhand der vorhandenen Daten Wahrscheinlichkeiten für das Auftreten bestimmter unerwünschter Ereignisse berechnen können. So sollen Ärzte beispielsweise frühzeitig gewarnt werden, wenn ein Patient ein erhöhtes Risiko für eine Sepsis oder Niereninsuffizienz entwickelt, um dann entsprechende therapeutische Gegenmaßnahmen einleiten zu können. So wird die Patientensicherheit gestärkt, ohne dass die ärztliche Autonomie eingeschränkt wird.

Auch lassen sich die KIS-Daten strukturieren und in anonymisierter Form beispielsweise Forschungseinrichtungen zur Verfügung stellen. Diese können dann zur Durchführung von Machbarkeitsstudien auf diese Daten zugreifen und die Kliniken anschließend gezielt anfragen, ob die jeweiligen Patienten unter Umständen an einer Studie teilnehmen möchten.

Voraussetzungen für den Einsatz von KI

Für einen flächendeckenden Einsatz von KI-Anwendungen in der Gesundheitswirtschaft sind gute Modelle (Algorithmen bzw. künstliche neuronale Netzwerke), eine ausreichende Rechenkapazität, große und gut strukturierte Datenmengen sowie eine mit der IT-Strategie im Einklang befindliche KI-Strategie im Vorfeld unabdingbar. Die Herausforderung besteht insbesondere in der optimalen Integration in die bestehenden IT-Systeme sowie in den Arbeitsalltag der Anwenderinnen und Anwender.

Zudem ist wichtig, dass die Entscheiderebene das Thema KI offen und transparent in einer positiven Art und Weise kommuniziert und die Gremien der Mitarbeiterinteressenvertretung frühzeitig und umfassend einbindet, um Vorbehalte abzubauen und Befürchtungen hinsichtlich möglicher Risiken zu minimieren. Hierfür ist auch die Entwicklung eindeutiger Vorgaben wie Richtlinien und Betriebsvereinbarungen essenziell.

Weiterhin gilt es die gesetzlichen Rahmenbedingen zu beachten. Die zuvor dargestellten Möglichkeiten aus dem GDNG sind beispielsweise an die Bedingung geknüpft, dass die Daten pseudonymisiert werden müssen und sobald es der Zweck der Weiterverarbeitung zulässt, auch zu anonymisieren sind. Daneben sind für die Zugriffe auf die Daten Rechte- und Rollenkonzepte nach dem Need-to-know-Prinzip und eine Löschung der Daten spätestens nach zehn Jahren umzusetzen. Auch müssen die von der Datenverarbeitung betroffenen Personen nach § 6 Absatz 4 GNDG öffentlich und allgemein in präziser, transparenter, leicht verständlicher und zugänglicher Form über die Zwecke der Verarbeitung informiert werden. Kliniken müssen daher genau Buch führen über alle laufenden Forschungsvorhaben, in denen KI-Systeme Gesundheitsdaten verarbeiten.

Dies zusammen führt insgesamt zur Steigerung der Akzeptanz und des Nutzens von KI auf Entscheider- sowie Nutzerebene.

KI-Verordnung bereits mitdenken

Am 12. Juli 2024 wurde die KI-Verordnung im Amtsblatt der EU veröffentlicht. Die Verordnung wählt einen risikobasierten Ansatz. Das heißt, dass KI-Systeme, die ein besonderes Risiko für die Gesundheit, die Sicherheit oder die Ausübung von Grundrechten bedingen können – sogenannte Hochrisiko-Systeme – zum Teil kosten- und aufwandsintensive Compliance-Anforderungen erfüllen müssen.

Dabei kann ein KI-System auf zwei Wegen als Hochrisikosystem eingestuft werden:

KI-Systeme gelten als Hochrisikosysteme, wenn sie als Sicherheitskomponente eines Produktes eingesetzt werden, welches nach EU-Vorschriften durch Dritte kontrolliert werden muss, bevor es in den Verkehr gebracht werden darf, oder wenn das System selbst ein solches Produkt ist. Dies betrifft beispielsweise Systeme, die als Medizinprodukt gemäß der Medizinprodukterichtlinie 93/42/EWG (MDD) zu klassifizieren sind.

Darüber hinaus sind aber auch KI-Systeme erfasst, die in Anhang III der Verordnung benannt sind. Hier werden eigenständige KI-Systeme aufgeführt, bei denen sich ein Risiko bereits gezeigt hat oder zumindest absehbar ist. Dabei ist der Kommission vorbehalten, weitere KI-Systeme zu der Liste hinzuzufügen.

Nicht als Hochrisikosysteme erfasst werden von der KI-Verordnung Lösungen, deren Einsatz medizinischen Zwecken, etwa der Diagnostik, dient. Allerdings gilt es noch, die Frage zu klären, ob ein einzelnes KI-Hochrisikosystem als Teil eines Softwaresystems, also beispielsweise ein KI-Modul eines Krankenhausinformationssystems, das gesamte System zu einem Hochrisikosystem werden lässt. Eine Orientierung hierzu bietet eine EuGH-Entscheidung vom 07.12.2017 (C-329/16), wonach es bei einer Software, die sowohl aus Modulen besteht, die der Definition des Begriffs „Medizinprodukt“ entsprechen, als auch solchen, die dieser Definition nicht entsprechen, nur die erstgenannten die Anforderungen der MDD unterliegen.

Per se sollten Kliniken, die KI-Systeme einsetzen oder planen dies zu tun, die Anforderungen der KI-Verordnung bereits mitdenken und in Ihre Kalkulationen einbeziehen. In jedem Fall sollte auch eine Stellungnahme des Herstellers bezüglich der Risikoeinstufung eingefordert werden.

Fazit

Die KI wird künftig stärker denn je dazu beitragen, die Gesundheit der Menschen zu stärken, die Versorgung in Pflege und Medizin zu verbessern und das pflegerische und medizinische Personal zu entlasten. Noch werden die Möglichkeiten der KI zu wenig genutzt, die Vorbehalte von Entscheidern sind häufig zu groß. Die Entwicklung muss umsichtig gestaltet und vorangetrieben werden, auch um den regulatorischen Anforderungen des Datenschutzes, der IT-Sicherheit und zukünftig auch der KI-Compliance zu genügen. Umso wichtiger ist es, bereits frühzeitig individuelle Strategien für den Einsatz von KI zu entwickeln und deren vielfältige Potenziale zu nutzen, um letztlich auch maßgeblich zur Entlastung der Mitarbeiter beizutragen und somit dem Fachkräftemangel ein stückweit entgegenzutreten.

Anschrift der Verfasser

David Große Dütting, Manager, Curacon GmbH Wirtschaftsprüfungsgesellschaft/Dr. Florian Loga, Manager, Curacon GmbH Wirtschaftsprüfungsgesellschaft und Sanovis GmbH