Warum KI im Gesundheitswesen einen Beipackzettel braucht

Doch noch gibt es hohe Hürden. Wackeliges WLAN ist dabei noch das geringste Problem.

Künstliche Intelligenz (KI) kann Fachkräfte in Medizin und Pflege entlasten und die Versorgung der Patient:innen verbessern, und tatsächlich stehen Ärzt:innen und Pflegende dieser Unterstützung aufgeschlossen gegenüber – sofern die technischen und organisatorischen Voraussetzungen dafür geschaffen werden. Das ist die Botschaft des Whitepapers „KI für Gesundheitsfachkräfte“, das die AG 6 der Plattform Lernende Systeme auf der DMEA vorstellte.

Für das Whitepaper hatte die „AG 6 Gesundheit, Medizintechnik, Pflege“ 50 Fachkräfte aus Medizin und Pflege qualitativ zu Chancen, Herausforderungen und Voraussetzungen der KI in ihrem Bereich befragt. Dabei kam heraus, dass die Teilnehmenden große Hoffnung in den Einsatz von KI setzen, sich aber wünschen, bei der Entwicklung und Umsetzung Mitsprache zu haben, „und dass man es nicht von oben herab durchsetzt“, wie Moderatorin Prof. Dr. Karin Wolf-Ostermann von der Universität Bremen zusammenfasste.

Hilfe bei der Dekubitus-Diagnose

„Die Pflegenden wollen mitgestalten“, betonte auch Andrea Schmidt-Rumposch, Pflegedirektorin am Universitätsklinikum Essen. Deshalb beteilige sich ihr Bereich an mehreren Forschungsprojekten. Unter anderem in der Dekubitusversorgung, bei der digitale Bildanalysen die schwierige Unterscheidung zwischen Dekubitus und inkontinenzassoziierter Dermatitis unterstützen könnte. Oder auch bei der Symptomkontrolle und Symptommanagement bei onkologischen Patient:innen.

Bislang sei KI in der Medizin eher spärlich im Einsatz, sagte Prof. Dr. Klemens Budde, Leitender Oberarzt der Charité Berlin und Leiter der AG 6. Bei der Versorgung von Nierentransplantierten zeige sich allerdings bereits, dass ein Chatbot helfe, frühzeitig zu erkennen, ob Patient:innen eine Infektion haben und wann das transplantierte Organ abgestoßen werde. Darin seien Oberärzt:innen besser als Assistenzärzt:innen, aber noch bessere Ergebnisse liefere die KI. „Wir müssen lernen, damit umzugehen.“

„Wir sind insgesamt bei der KI nicht schlecht aufgestellt“, befand Dr. Matthieu-P. Schapranow, Dozent und Scientific Manager „Digital Health“ am Hasso-Plattner-Institut. Nach wie vor reiche aber häufig in Kliniken das WLAN nicht, um Bilddaten in großen Mengen herunterzuladen. Ein noch größeres Problem sei, dass in der KI-Forschung häufig nur mit generierten Daten gearbeitet werden könne, die „nur einen kleinen Teil der Wirklichkeit widerspiegeln.“ Die Forschung benötige aber „Zugang zu Realdaten“, erklärte Schapranow. „Die Informationen hinter den Namen müssen möglichst realistisch die Population abbilden.“

Wissen um Stärken und Grenzen von Algorithmen

Deshalb sei es auch besonders wichtig, die KI-Kompetenz von Ärzt:innen und Pflegekräften zu schulen, „damit sie wissen, wo die Grenzen und Stärken eines Algorithmus sind“, sagte Budde. „Wenn ein Algorithmus für Männer trainiert ist, sollte man ihn nicht bei Frauen einsetzen.“ KI müsse deshalb in Zukunft „wie mit einem Beipackzettel“ geliefert werden. Daneben seien Haftungsfragen und Zertifizierungen zu klären. Denn, so ergänzte Schapranow, wenn Systeme wöchentlich dazulernen sollten, reichten die bisherigen Verfahren nicht aus. Dennoch gelte: „Für alles, was wir als Menschen als sehr zeitaufwendig empfinden, sind KI-Systeme gut.“ Und möglicherweise werde die Zeit kommen, da Patient:innen von ihrem Arzt verlangen, dass er KI zur Unterstützung verwendet.