SALTO: Frau Wyatt, Sie beschäftigen sich damit, wie digitale Technologien unser Alltagsleben prägen. Wie verändert KI aktuell unser Verständnis von Gesundheit?

Sally Wyatt: Die Dinge, die wir heute messen können – im Gegensatz zu vor 30 oder 100 Jahren – verändern natürlich, wie wir Gesundheit betrachten. Ich denke, es besteht die Gefahr, dass sich unser Verständnis von Gesundheit und Krankheit eher verengt, obwohl wir eigentlich mehr Daten haben.

„Gesundheit umfasst daher mehr als nur messbare Werte.“

Wir erhalten zusätzliche Einblicke in bestimmte Aspekte, doch das sagt nicht unbedingt etwas darüber aus, wie wir uns als Individuen fühlen. In gewisser Weise ist das ähnlich wie bei der Genetik: Das, was wir sehen und erfassen können, wird als Gesundheit beziehungsweise Krankheit interpretiert. Der menschliche Körper ist jedoch unglaublich komplex, und auch Menschen als Individuen sind vielschichtig. Gesundheit umfasst daher mehr als nur messbare Werte.

Was ist Ihrer Meinung nach der größte Vorteil von KI in der Medizin?

Im Moment liegt der größte Vorteil tatsächlich im administrativen Bereich. Zurzeit sind noch sehr wenige KI-Anwendungen in der Medizin im Einsatz, abgesehen von beispielsweise Terminplanung. Einige Hausärztinnen und Hausärzte nutzen KI auch bereits zur Zusammenfassung von Gesprächen mit ihren Patientinnen und Patienten: Das System zeichnet das Gespräch auf und fasst es automatisch zusammen. Das spart sicher viel Zeit ein, was gerade bei oft überarbeiteten Hausärztinnen und Hausärzten ein positiver Aspekt ist. Aber die KI erfasst nicht alles: Etwa erkennen, wenn jemand sehr zögert, anfängt zu weinen oder vor Schmerz zusammenzuckt. Echte Ärztinnen und Ärzte hingegen schon.

Welche verbreitete Annahme über KI in der Medizin halten Sie für problematisch oder irreführend?

Dass sie genauer ist als Menschen und dass sie personalisierte Ergebnisse liefert.

Gibt es Bereiche der Medizin, in denen KI Ihrer Meinung nach nicht eingesetzt werden sollte – auch in Zukunft nicht?

Ich denke vor allem an den Bereich der psychischen Gesundheit. Auch wenn KI dort bereits genutzt wird – zumindest inoffiziell. Manche greifen etwa auf ChatGPT für persönliche Fragen zurück. Gerade bei psychologischen Themen kann das potenziell gefährlich sein. KI zeigt in der direkten Interaktion mit Menschen immer wieder problematische Tendenzen, etwa rassistisch oder sexistisch zu agieren. Bei psychischer Gesundheit sollte man deshalb sehr vorsichtig sein, da es hier vor allem um zwischenmenschliche Prozesse geht.

„Manche Ärztinnen und Ärzte werden KI möglicherweise gar nicht nutzen, weil sie sie nicht gut genug verstehen, um ihr zu vertrauen.“

Wie verändert KI die Arbeit von medizinischem Personal – oder wie wird sie das in Zukunft tun?

Viele Beschäftigte im Gesundheitswesen sind besorgt, weil sie nicht in KI geschult wurden. Gleichzeitig gehört es zu ihrer Verantwortung, Fragen von Patientinnen und Patienten zu beantworten, was sie unsicher macht. Das wird die Beziehung zwischen Arzt und Patient wahrscheinlich verändern – nicht unbedingt zum Besseren. Manche Ärztinnen und Ärzte werden KI möglicherweise gar nicht nutzen, weil sie sie nicht gut genug verstehen, um ihr zu vertrauen.

Zudem ist völlig unklar, wer verantwortlich ist. Die Technologien werden von privaten Unternehmen entwickelt und an Krankenhäuser oder Gesundheitssysteme verkauft. Wenn etwas schiefgeht, wer trägt dann die Verantwortung? Dieser neue Akteur wirft komplexe Fragen zu Haftung und Verantwortung auf, was besonders in Versicherungssystemen relevant ist.

Wem gehören die Gesundheitsdaten in einem KI-getriebenen Gesundheitssystem?

Das ist eine sehr wichtige Frage, und sie ist im Moment sehr unklar. Historisch gesehen wurden Gesundheitsdaten auf Papier in Arztpraxen oder Krankenhäusern aufbewahrt. Heute liegen viele dieser Daten bei privaten Unternehmen. Krankenhäuser und Gesundheitssysteme haben Zugriff, aber man müsste wirklich das Kleingedruckte lesen, um genau zu verstehen, wer die Kontrolle hat.

Ein aktueller Fall ist ein Vertrag zwischen dem britischen National Health Service (NHS) und dem Unternehmen Palantir. Palantir ist ein US-amerikanisches Softwareunternehmen, das auf Datenanalyse spezialisiert ist und von Peter Thiel mitbegründet wurde. Die Software kann große Mengen personenbezogener Daten aus verschiedenen Quellen zusammenführen, was von Kritikern oft als Erstellung detaillierter Personenprofile bezeichnet wird. Die British Medical Association hat erklärt, dass sie an diesem Vertrag nicht beteiligt sein möchte, da sie Patientensicherheit und Privatsphäre gefährdet sieht.

Kürzlich wurde berichtet, dass ein Ausstieg aus dem Vertrag erwogen wird – was jedoch sehr teuer wäre. Warum solche sensiblen Daten einem Unternehmen wie Palantir überlassen werden, kann ich nicht nachvollziehen.

Tragen all diese Daten tatsächlich zur Gesundheit bei – oder eher nicht?

Das lässt sich schwer verallgemeinern. Ich habe mit Menschen mit Typ-1-Diabetes gesprochen – für sie kann Selbstüberwachung sehr hilfreich sein, etwa um zu wissen, wann sie Zucker zu sich nehmen oder Insulin spritzen müssen. Andere berichten, dass sie dadurch zwanghaft oder übermäßig ängstlich werden.

Wie sicher sind medizinische Daten in digitalen Systemen?

Die Sicherheit hängt stark davon ab, wo die Daten gespeichert sind. Liegen sie in einer Cloud eines privaten Unternehmens? Gehören sie einem Konzern wie Microsoft? Und was passiert, wenn politische Entscheidungen Einfluss nehmen – zum Beispiel, wenn politische Entscheidungsträger wie Donald Trump beispielsweise anordnen würden: „Schaltet die italienischen Gesundheitsdaten ab“? Selbst wenn Krankenhäuser oder Ärztinnen und Ärzte Zugriff auf die Daten haben, ist oft unklar, wer die Verantwortung trägt. Hinzu kommt, dass Hackerangriffe ein reales Risiko darstellen, da sie auf diese sensiblen Informationen zugreifen könnten. Gleichzeitig gibt es gute Gründe, dass medizinisches Personal wichtige Daten teilt, etwa zur Überprüfung von Wechselwirkungen von Medikamenten.

Ist der Einsatz von KI im Gesundheitswesen in Europa stärker reguliert als in den USA?

Im Allgemeinen ja, auch wenn es Schwankungen gibt. Die Europäische Kommission versucht, KI stärker zu regulieren. Allerdings kommt Druck aus den USA, weil viele große Technologieunternehmen dort sitzen. Diese sehen Regulierung als Eingriff in den freien Markt oder als Einschränkung von Wettbewerb. Das ist zumindest ihr Argument. Es gibt also Bemühungen, verantwortungsvolle KI zu entwickeln, aber wie sich ihre praktische Umsetzung gestaltet, bleibt abzuwarten.

„Bei Fragen rund um Daten ist die Beteiligung von Patientinnen und Patienten besonders wichtig.“

Wie wird KI die Beziehung zwischen Arzt und Patient verändern?

Das wird sich zeigen. Oft wird der Einsatz von KI als „Empowerment“ der Patientinnen und Patienten dargestellt, doch in extrem komplexen oder lebensbedrohlichen Situationen ist dies kaum realistisch. In weniger kritischen Fällen, in denen Menschen Zeit haben, Entscheidungen zu treffen, kann KI hilfreich sein – nicht jedoch in allen Situationen, besonders nicht am Lebensende.

Wer profitiert am meisten von KI im Gesundheitswesen?

Im Moment würde ich sagen: die Technologieunternehmen. Vielleicht profitiert langfristig auch das Gesundheitssystem, das in vielen europäischen Ländern unter Druck steht – etwa durch eine alternde Bevölkerung und steigende Nachfrage. Aber das bleibt abzuwarten.

Sollten Patientinnen und Patienten in die Entwicklung von KI im Gesundheitswesen einbezogen werden?

Ja, aber das ist nicht einfach. Es gibt ein Beispiel aus Finnland, wo eine Patientenorganisation eine nicht-kommerzielle App für Frauen mit Endometriose entwickelt hat. Manchmal ist Beteiligung auch eher symbolisch – so eine Art Patient-Washing, wenn man so will. Man spricht mit ein paar Patientinnen und Patienten, aber die Art der Befragung und die Zahl der teilnehmenden Patientinnen und Patienten beeinflussen das Ergebnis stark. Ich denke, Ärztinnen und Ärzte sollten ebenfalls stärker einbezogen werden. Bei Fragen rund um Daten ist die Beteiligung von Patientinnen und Patienten aber besonders wichtig.

„Es wird wahrscheinlich noch mindestens fünf Jahre dauern, bis KI in der Medizin verstärkt eingesetzt wird.“

Wie sollte sich der Einsatz von KI im Gesundheitswesen in Zukunft entwickeln?

Wie bei jeder Technologie sollte man sich Zeit nehmen, ausprobieren, sehen, was funktioniert und was nicht – und in welchen Kontexten. Eine Notaufnahme funktioniert ganz anders als eine chirurgische Abteilung oder eine Hausarztpraxis. Deshalb muss man sehr genau schauen: Welche Art von KI für welches Problem und für welche Nutzerinnen und Nutzer geeignet ist.

Wann wird KI im Gesundheitswesen stärker verbreitet sein?

Ich möchte keine Prognose wie der KI-Forscher Geoffrey Hinton abgeben, der 2016 gesagt hat, man könne damit aufhören, Radiologinnen und Radiologen auszubilden, weil KI das in fünf Jahren übernehmen würde. Natürlich bilden wir auch heute noch menschliche Radiologinnen und Radiologen aus (lacht). Ich würde sagen: Es wird wahrscheinlich noch mindestens fünf Jahre dauern.