Lesedauer: 8.30 Minuten

"Künstliche Intelligenz kann Ärzte unterstützen, aber nicht ersetzen"

ams-Interview mit Dr. Gerhard Schillinger, Leiter des Stabs Medizin im AOK-Bundesverband

Foto: Dr. Gerhard Schillinger

Dr. Gerhard Schillinger

24.01.20 (ams). Die Digitalisierung erfasst alle Lebensbereiche – auch das Gesundheitswesen. Zu den Chancen und Risiken von Künstlicher Intelligenz (KI) in der Medizin, den Herausforderungen im Umgang mit sensiblen Gesundheitsdaten und das Thema „Apps auf Rezept“ äußert sich Dr. Gerhard Schillinger, Leiter des Stabs Medizin im AOK-Bundesverband, im Interview mit dem AOK-Medienservice (ams). Den aktuellen Entwurf einer "Digitale-Gesundheitsanwendungen-Verordnung" (DiGAV) hält er für unzureichend. "Ich finde es falsch, dass hier mit zweierlei Maß gemessen werden soll. Während es für ärztliche Behandlungsmethoden einen medizinischen Nutzenbeleg geben muss, wird dieser für dieselben Behandlungsmethoden nicht gefordert, wenn sie digital sind."

Herr Schillinger, die Nutzung von KI krempelt unseren Alltag in vielen Bereichen gerade völlig um. Das reicht vom autonomen Fahren über digitale Assistenten wie Siri oder Alexa bis zur Waschmaschine, die automatisch die Wäsche in der Trommel analysiert. Was können Systeme der KI in der Medizin aktuell schon leisten?

Schillinger: Besonders weit entwickelt sind Systeme auf Basis von KI heute schon im Bereich der medizinischen Bildinterpretation. Sie können Ärzte dabei unterstützen, Auffälligkeiten in Röntgenbildern oder Kernspin-Aufnahmen zu erkennen. Auch bei Endoskopien kann KI unterstützen, indem sie zum Beispiel bei einer Darmspiegelung hilft, dass keine Polypen übersehen werden. Dass die KI in diesem Bereich bereits so weit entwickelt ist, ist kein Zufall. Denn die Systeme lernen durch die unmittelbare Rückmeldung der Ärzte stetig weiter.

Und wo stoßen diese Systeme aus Ihrer Sicht an ihre Grenzen?

Schillinger: Bei der eigenständigen Diagnosestellung und Therapieentscheidung konnten Computer-Algorithmen, die auf "Big Data" beruhen, ihre großen Versprechen bislang nicht erfüllen. So ist zum Beispiel die Kooperation von IBM mit dem texanischen MD-Anderson-Krebszentrum gescheitert. Watson, der Supercomputer von IBM, sollte durch KI bei Krebspatienten viel bessere Therapieentscheidungen treffen können als Ärzte. Die KI sollte gleichzeitig alle relevanten Studien und alle klinischen Befunde der Betroffenen überblicken. Dieses Versprechen konnte aber nicht eingelöst werden. Watson hat keinen einzigen verwertbaren Therapievorschlag gemacht, und das teure Projekt musste beendet werden Der mögliche Schaden durch falsche Entscheidungen der KI wog hier schwerer als der Nutzen.

Woran genau liegt es denn, dass solche Projekte zur Unterstützung von Ärztinnen und Ärzten bei Therapieentscheidungen bisher gescheitert sind? 

Schillinger: Die Schwäche der KI bei Therapieentscheidungen liegt unter anderem darin begründet, dass Systeme der KI als Basis große Datenmengen von guter Qualität brauchen, um gute Ergebnisse zu liefern. In der Medizin liegen aber in vielen Bereichen zu wenige Daten vor, insbesondere über das Ergebnis der Behandlung und den Gesundheitszustand des Patienten im weiteren Verlauf. Gerade in der Onkologie gibt es außerdem stetig neue Erkenntnisse, die zu einer Änderung der Therapiekonzepte führen. Somit sind die Trainingsdatensätze, mit denen die KI gefüttert wird, schon nach kurzer Zeit veraltet.

Außerdem können Computer bislang auch nicht zwischen guten und schlechten publizierten Studien differenzieren. Wenn es darum geht, Schwächen in der Planung von Studien oder bei der Berücksichtigung bestimmter Einflussfaktoren auf die Ergebnisse zu bewerten, ist immer noch der Mensch gefordert und dem Computer deutlich überlegen.

Wo sehen Sie denn die größten Chancen von KI für die Medizin?

Schillinger: KI bietet aus meiner Sicht die größten Chancen, wenn man sie in das bestehende System integriert und es den Ärztinnen und Ärzten ermöglicht, die neuen Möglichkeiten sinnvoll für ihre Arbeit zu nutzen. Wie schon gesagt, können Computer in der Interpretation von medizinischen Bildern großen Nutzen stiften. Das Team aus Arzt und Computer kann dann bessere Ergebnisse erzielen. Falsch wären aus meiner Sicht aber disruptive Änderungen, bei denen man Ärzte einfach durch Computer ersetzen möchte. So wurden zum Beispiel in China Automaten entwickelt, die den Patienten per Chatbot befragen und dann selbstständig eine Diagnose stellen. Anschließend werfen sie gleich die passenden Medikamente aus oder bestellen sie automatisch bei der nächsten Apotheke. Solche radikalen Ansätze halte ich zumindest im Moment noch für falsch: KI kann Ärzte unterstützen, aber nicht ersetzen.

Wie wirken sich die neuen Entwicklungen denn auf die Rolle der Mediziner aus – lassen sich da schon Trends absehen?

Schillinger: Der Einsatz von KI und generell von computerunterstützen Verfahren kann sich sehr positiv auf die Arbeit von Ärztinnen und Ärzten auswirken. Sie können zum Beispiel von immer wiederkehrenden Routineaufgaben entlastet werden. So können sie mehr Zeit gewinnen, um sich den wirklichen Problemen der Patienten zu widmen oder die Patienten können zwischen den Behandlungsterminen aktiv unterstützt werden. Die AOK arbeitet beispielsweise in einem Projekt der Psychotherapeutenkammer und der Freien Universität Berlin mit, das ein Online-Tool entwickelt, das Psychotherapeuten unterstützen soll. In diesem Projekt wird im ersten Schritt gemeinsam mit einer Gruppe von Psychotherapeuten erhoben, welche Unterstützung sie brauchen. Auf dieser Basis wird das Tool entwickelt und anschließend evaluiert. Nur so kann man erreichen, dass das Online-Tool den Ärzten und Psychotherapeuten und dadurch den Patienten wirklich einen zusätzlichen Nutzen bringt und dann auch tatsächlich in der Praxis eingesetzt wird.   

Welche Gefahren liegen aus Ihrer Sicht in den neuen Entwicklungen - zum Beispiel für den Datenschutz?

Schillinger: Google verarbeitet heute 92 Prozent aller Suchanfragen. Dadurch hat die Firma ein Datenmonopol erreicht. Das führt dazu, dass bei der Qualität der Suchergebnisse kein anderer Anbieter mit Google konkurrieren kann. Jetzt will Google auch in den Gesundheitsmarkt einsteigen. Gerade erst hat sich die Firma durch eine Kooperation mit dem Gesundheitsdienstleister Ascension in den USA Zugriff auf Millionen Patientendaten verschafft – wohlgemerkt ohne Zustimmung der Patienten.

Die großen Digitalkonzerne haben also schon riesige Datenmengen, auch zur Gesundheit der Menschen. Sie wissen, wer wann beim Arzt oder im Krankenhaus war. Auf Basis dieser Daten, die keinem anderen Akteur zur Verfügung stehen, können diese Konzerne Algorithmen entwickeln. Wenn ein solcher Internetkonzern auch noch Zugang zu den Daten aus den nationalen Gesundheitssystemen bekäme, könnte er sich durch die Verknüpfung mit den eigenen Daten ein riesiges Datenmonopol sichern. Schon jetzt betreibt Amazon in den USA beispielsweise virtuelle Arztpraxen, die elektronische Rezepte ausstellen – und Amazon liefert dann auch gleich die Medikamente. Wenn wir solche Wertschöpfungsketten zulassen, geht es nicht mehr um die Gesundheit, sondern hauptsächlich ums Geschäft – und das muss nicht immer zum Vorteil der Patienten sein. 

Firmen, die Zugang zu Gesundheitsdaten bekommen wollen, sollten daher auch ihre Daten der Allgemeinheit zur Verfügung stellen müssen. Dann können auch andere aufgrund dieser Daten ihre KI entwickeln. Nur so entstehen fairer Wettbewerb und echter Fortschritt.

Wünschen Sie sich hier ein stärkeres Problembewusstsein in der Politik?

Schillinger: Ja. Die Diskussion um das Digitale-Versorgung-Gesetz hat gezeigt, dass wir hier noch viel zu unkritisch unterwegs sind. In der ursprünglichen Fassung des Gesetzes war ja vorgesehen, dass die Daten der Versicherten mit Personenbezug an ein Forschungsdatenzentrum übertragen werden. Jetzt sollen die Daten immerhin pseudonymisiert werden. Wenn die Daten aber Konzernen in die Hände fallen, die selbst über umfangreiche Datensammlungen verfügen, ist die Identifizierung der Person problemlos möglich.

Die AOK arbeitet doch auch mit den Daten ihrer Versicherten. Wo liegt da der Unterschied?

Schillinger: Die Verarbeitung der unverschlüsselten Sozialdaten bei den Krankenkassen ist gesetzlich klar geregelt und auf die Zwecke beschränkt, die im Sozialgesetzbuch benannt sind. Wenn Sozialdaten für Forschung und Planung genutzt werden sollen, muss dies von den Aufsichten genehmigt werden. Aber auch anonymisierte Datenauszüge aus den Sozialdaten sind besonders schutzwürdig. Anonymisierte Abrechnungsdaten, die für wissenschaftliche Projekte genutzt werden, schützt die AOK durch eine Vielzahl technischer und organisatorischer Sicherheitsmaßnahmen. So ist immer sichergestellt, dass die Patientendaten nicht gefährdet sind. Ganz anders sieht es bei einer unreglementierten Öffnung der Daten für Dritte aus. Verknüpfen diese die Daten mit eigenen Datenquellen, dann können schnell Datenpools entstehen, in denen eine De-Anonymisierung von Patienten faktisch nicht mehr zu vermeiden ist. Mit der Sicherheit der Gesundheitsdaten ist es dann vorbei.

Liegen in der Auswertung und Verknüpfung großer Datenmengen durch Internetkonzerne oder Pharmafirmen nicht auch Chancen für die Weiterentwicklung der Medizin?

Schillinger: Das ist sicher so – aber es ist auch problematisch, wenn keine wissenschaftlichen Interessen, sondern Geschäftsinteressen dahinterstehen. Roche Pharma hat beispielsweise die Firma „FoundationONE“ gekauft, die Molekulardiagnostik bei Tumoren durchführt. Sie sucht nach Abweichungen im genetischen Code, sogenannten Mutationen. Einige dieser Mutationen sind für das Wachstum von Tumoren verantwortlich, andere ohne jede Relevanz. Für eine Firma wie Roche ist die Kenntnis, welche Mutationen das Tumorwachstum antreiben und welche nicht, von großem wirtschaftlichem Wert. Aber den Patienten würde es am Ende mehr nutzen, wenn die Daten allen interessierten Wissenschaftlern für die Forschung zur Verfügung stehen würden. Das ist nur ein Beispiel dafür, dass wirtschaftliche Interessen in Konflikt stehen können mit den Interessen der Wissenschaft und dem Patientenwohl.

Ich finde die Idee sehr gut, dass jeder, der medizinische Daten nutzen will, verpflichtet wird, seine Forschungsergebnisse und Daten auch wieder an die Forschungs-Community zurückzugeben. Dann können alle Akteure ihre KI-Systeme auf Basis des gleichen, ständig wachsenden Datensatzes trainieren – und es entstehen keine Datenmonopole.      

Wie bewerten Sie die medizinischen Anwendungen auf Rezept, die im Digitale Versorgung-Gesetz vorgesehen sind?

Schillinger: Auch hier sehe ich durchaus einige Gefahren. So bekommen die Hersteller sehr viele personenbezogene Gesundheitsdaten, zum Beispiel der Hersteller einer App zur Begleitung von Menschen mit Depressionen ja ganz viele Daten zur Frage, wann wer wie depressiv ist. Solche Daten sind ein Wirtschaftsgut.  Man kann ganz viel damit anfangen – zum Beispiel Lebensversicherern oder privaten Krankenversicherern bezahlten Zugang zu solchen Daten ermöglichen. Die Hersteller solcher Anwendungen unterliegen ja im Unterschied zum Beispiel zu den gesetzlichen Krankenkassen nicht den strengen Datenschutz-Vorgaben des Sozialgesetzbuches. Aus Sicht der AOK muss sichergestellt werden, dass keine Daten an Dritte gelangen. Ungeklärt ist zum Beispiel auch noch die Frage, wie mit bereits erhobenen Daten umgegangen wird, wenn Hersteller von digitalen Anwendungen verkauft werden.

Aber es sollen doch nur Anwendungen in die Versorgung kommen, die einen Nutzen für den Patienten haben. Ist das nicht ein Fortschritt?

Schillinger: Erst nach einem Jahr muss der Hersteller den positiven Versorgungseffekt seiner digitalen Anwendung nachweisen. Er kann sogar noch eine Verlängerung auf zwei Jahre bekommen. Das Bundesinstitut für Arzneimittel und Medizinprodukte muss den positiven Effekt auf die Versorgung feststellen. Seit der Referentenentwurf der entsprechenden Verordnung veröffentlicht worden ist, wissen wir jetzt auch, wie diese positiven Versorgungseffekte definiert werden sollen. Was dort steht, bestätigt meine Befürchtungen: Entweder eine App muss einen nachgewiesenen medizinischen Nutzen haben – mit klaren medizinischen Kriterien wie der Verbesserung des Gesundheitszustandes oder der Verlängerung des Überlebens. Oder aber sie führt zu sogenannten „Verfahrens- und Strukturverbesserungen“. Zu diesen „Verfahrens- und Strukturverbesserungen“ gehören zum Beispiel die leichtere Erreichbarkeit des Zugangs zur Versorgung oder die Reduzierung der therapiebedingten Aufwände. Das sind Kriterien, die im Grunde jede digitale Anwendung per se erfüllt. Diese weichen Kriterien sollen für eine Zulassung ausreichen – selbst wenn eine Anwendung vergleichbaren nicht-digitalen Therapien beim medizinischen Nutzen unterlegen ist, diese aber ersetzen soll. Ich finde es falsch, dass hier mit zweierlei Maß gemessen werden soll. Während es für ärztliche Behandlungsmethoden einen medizinischen Nutzenbeleg geben muss, wird dieser für dieselben Behandlungsmethoden nicht gefordert, wenn sie digital sind. Das gilt auch für Schulungen von Patienten und viele andere Bereiche: In der nicht-digitalen Welt müssen sie ihren Nutzen nachweisen, aber als digitale Versorgungsangebote müssten sie nur leichter erreichbar sein, um eine Zulassung zu bekommen.

Können die digitalen Anwendungen aus Ihrer Sicht auch zu Einsparungen im Gesundheitswesen führen?

Schillinger: Wenn ein positiver Effekt auf die Versorgung festgestellt wird, verhandelt der GKV-Spitzenverband mit dem Hersteller über den Preis. Das heißt im Umkehrschluss: Die gesetzlichen Krankenkassen müssen im ersten Jahr alle digitalen Gesundheits-Anwendungen bezahlen, die von den Ärzten verordnet werden – und das zum vom Hersteller festgelegten Preis. Ein Onlinecoach zur Unterstützung von Patienten mit Depression kostet für 90 Tage 297,50 Euro, ein Psychiater bekommt im Durchschnitt für die Behandlung einer Depression für ein ganzes Jahr nur 207 Euro. Wir rechnen alleine für die schon vorhandenen digitalen Gesundheits-Anwendungen von drei Herstellern mit zusätzlichen Kosten in Höhe von 2,8 Milliarden Euro.


Zum ams-Politik 01/20