Mein Doktor, die KI und ich: Tipps für Umgang mit neuer Technik
Hannover – Künstliche Intelligenz stellt Arzt-Patienten-Beziehung vor neue Herausforderungen – ein Team der Medizinischen Hochschule Hannover hat Handlungsempfehlungen entwickelt.
Künstliche Intelligenz (KI) verändert das Gesundheitswesen immer stärker. Mithilfe von KI werden beispielsweise Diagnosen gestellt, Therapieentscheidungen getroffen, roboterassistierte Operationen durchgeführt, Daten ausgewertet und vieles mehr. Die neuen Techniken haben in vielen Bereichen der Medizin ein grosses Potenzial, werfen aber auch ethische, rechtliche und praktische Fragen auf. Eine besondere Herausforderung ist KI für die Arzt-Patienten-Beziehung. Mit diesem Thema hat sich das Institut für Ethik, Geschichte und Philosophie der Medizinischen Hochschule Hannover (MHH) in dem Projekt «Mein Doktor, die KI und ich» beschäftigt. Das Ergebnis sind jeweils vier Handlungsempfehlungen für Patientinnen und Patienten sowie für Ärztinnen und Ärzte. Sie sollen beiden Gruppen eine praktische Orientierungshilfe für den Umgang mit KI-basierten Systemen bieten.
«Mein Doktor, die KI und ich» ist ein Diskursprojekt. Insgesamt nahmen mehr als 170 Bürgerinnen und Bürger, Ärztinnen und Ärzte so wie Expertinnen und Experten daran teil. In mehreren unterschiedlichen Veranstaltungen äusserten sie hinsichtlich der KI Hoffnungen, beispielsweise Effizienzsteigerung, Entlastung medizinischer Fachkräfte, bessere Informationsverfügbarkeit, aber auch Befürchtungen wie zum Beispiel Datenmissbrauch, fehlende Zuverlässigkeit und mangelnde Transparenz. Die Teilnehmenden diskutierten über ethische, rechtliche und praktische Fragen und entwickelten gemeinsam erste Lösungsansätze. «Die Handlungsempfehlungen basieren auf einem intensiven Dialogprozess», erläutert Projektleiter Dr. Frank Ursin, wissenschaftlicher Mitarbeiter am Institut für Ethik, Geschichte und Philosophie der Medizin. «Mit den Empfehlungen wollen wir einen Beitrag zu Patientenwohl, Autonomie und Vertrauen in die medizinische Versorgung leisten – auch in einer zunehmend digitalen Welt.»
Handlungsempfehlungen für Patienten und Patientinnen
KI verstehen: Patientinnen und Patienten sollten von Ärztinnen und Ärzten Informationen über die Funktionsweise von KI einfordern können. Sie sollten dabei unterstützt werden, sich aktiv mit den potenziellen Vorteilen und Grenzen von KI auseinanderzusetzen. Dank eines besseren Verständnisses können sie ihre Autonomie im Behandlungsprozess stärken.
Konkreten KI-Einsatz hinterfragen: Sie sollten bei Ärztinnen und Ärzten Erklärungen für den konkreten Einsatz von KI bei ihrer Behandlung fordern können. Das heisst, gezielt Fragen zu stellen wie «Wie unterstützt die KI meine Behandlung?“ oder «Wie zuverlässig ist das Ergebnis der KI?». Verständliche Erklärungen sind die Voraussetzung, um Entscheidungen und Prozesse nachvollziehen zu können.
Datenschutz und Datensicherheit: Patientinnen und Patienten sollten von ihren Ärztinnen und Ärzten Informationen über den Umgang mit ihren persönlichen Gesundheitsdaten beim Einsatz von KI erhalten.
Bedürfnisorientierung: Betroffene sollten gemäss ihrem individuellen Bedarf gegenüber dem Arzt oder der Ärztin ihr Recht auf Wissen und Nicht-Wissen ausüben können. Denn einige möchten umfassend informiert werden, anderen bereiten zu viele Informationen Stress.
Handlungsempfehlungen für Ärztinnen und Ärzte
Verantwortung und Haftung: Ärztinnen und Ärzte sollten im Rahmen ihrer Sorgfaltspflicht die Verantwortung für KI-basierte Entscheidungen übernehmen. Die KI entbindet sie nicht von ihrer Sorgfaltspflicht, sondern ergänzt ihre Entscheidungen um datenbasierte Empfehlungen. Die Ergebnisse der KI sollten in den klinischen Kontext eingeordnet und kritisch bewertet werden.
Transparenz und Erklärbarkeit: Behandelnde sollten die Funktionsweise von KI-Systemen verstehen und ihren Patientinnen und Patienten verständlich erklären können. Transparenz und Erklärbarkeit schaffen Vertrauen im Arzt-Patienten-Verhältnis und sichern die Autonomie der Ärztinnen und Ärzte in einer zunehmend digitalisierten Gesundheitsversorgung.
Patientenkommunikation und informierte Einwilligung: Behandelnde sollten ihre Patientinnen und Patienten nicht nur über die Funktionsweise, sondern auch über Chancen, Risiken und Grenzen des Einsatzes von KI aufklären können. Sie sollten aktiv nachfragen, ob die Patientinnen und Patienten die Informationen nachvollziehen können.
Weiterbildung: Ärztinnen und Ärzte sollten die Möglichkeit haben, sich über die neuesten Entwicklungen im Bereich KI fortbilden zu lassen. Mit Weiterbildungen können sie ihre eigene Kompetenz stärken und KI-Systeme verantwortungsvoll und patientenzentriert in die medizinische Versorgung integrieren.
Darüber hinaus entwickelten sich aus dem Diskursprojekts grundsätzliche, beide Zielgruppen betreffende, Handlungsempfehlungen. Eine davon bezieht sich auf die Verantwortung. Die Teilnehmenden sehen die Hauptverantwortung beim Einsatz von KI bei den Ärztinnen und Ärzten. Gleichzeitig tragen aber auch die Patientinnen und Patienten einen Teil Verantwortung, insbesondere, wenn sie KI-gestützte Tools wie beispielsweise Selbstdiagnose-Apps nutzen. Die Teilnehmenden waren sich außerdem darüber einig, dass KI insgesamt als Unterstützungssystem zu betrachten ist, das menschliches Handeln ergänzt, aber nicht ersetzt. (mc/pg)
