Das Arzt-Patient-Verhältnis wird komplexer, in Zukunft dürfte es sich zu einem Arzt-Patient-KI-Verhältnis entwickeln. Das vermutet Brent Mittelstadt, Forschungsdirektor am Oxford Internet Institute. Für die Europäische Union hat er die möglichen Folgen der wachsenden Bedeutung KI-basierter Anwendungen in der Gesundheitsversorgung.
Die hängen indes noch von vielen Unbekannten ab, weswegen es in den kommenden Jahren vor allem auf eine weitsichtige Regulierung ankomme. So könnten KI-basierte Anwendungen beispielsweise dabei helfen, Ungleichheiten in der Versorgung abzubauen – oder sie noch vergrößern.
Denn speziell in ländlichen Gebieten mit schlechter haus- und fachärztlicher Versorgung kann Patienten der Zugang durch eine Kombination aus Telemedizin und KI-basierten Diagnosetools erleichtert werden. „Das verspricht, Lücken in der Gesundheitsversorgung zu stopfen, allerdings nicht zwangsläufig mit einer Versorgung, die auf demselben Niveau stattfindet wie die von Angesicht zu Angesicht“, schreibt Mittelstadt.
Außerdem sei bei KI-gesteuerten Anwendungen stets zu bedenken, dass sie meist nur so gut sind wie die Daten, mit denen sie trainiert werden – und die hätten oft einen oder mehrere Bias. So sei bekannt, dass medizinische Datensätze weißer Männer in vielen Bereich überrepräsentiert seien.
Die Tatsache, dass gerade hoch entwickelte KI-Anwendungen, namentlich solche, die auf Machine Learning basieren, oftmals Mechanismen entwickeln, die auch ihre Erschaffer nicht mehr nachvollziehen können, befeuere das noch. Schließlich lasse sich ein Bias in einer Blackbox kaum ausfindig machen.
Die Gesundheitsdaten einfach zu anonymisieren, werde dieses Problem nicht so einfach beheben, schließlich sei schon die Auswahl von Daten und Parametern mit einem historischen Bias belastet.
„Die unvermeidliche Varianz bei der Anwendung von KI erhöht Wahrscheinlichkeit, dass geografische Bias in Performance von und Zugang zu qualitativ hochwertiger Versorgung durch die Anwendungen von KI-Systemen geschaffen werden“, heißt es dazu im Bericht.
Führen KI-Systeme – zum Beispiel in der Diagnose – zu einer höherwertigen Versorgung, so könnten Early-Adopter-Regionen oder -Institutionen vor anderen profitieren. „Der uneinheitliche Roll-out von KI-Systemen mit noch unbekannten Auswirkungen auf den Zugang und die Qualität der Versorgung bringt das Risiko mit sich, neue Gesundheitsungleichheiten in den Mitgliedstaaten zu erschaffen“, schreibt Mittelstadt.
Das gelte nicht nur innerhalb, sondern vor allem zwischen den Mitgliedstaaten, die ihre Gesundheitssysteme bekanntermaßen in unterschiedlicher Geschwindigkeit digitalisieren.
Noch stehen all diese Entwicklungen aber ganz am Anfang, versichert Mittelstadt. Verglichen mit dem erheblichen Forschungsaufwand, der allgemein im Bereich KI betrieben wird, sei die Verbreitung im Gesundheitswesen noch sehr gering. Dazu trage auch bei, dass Forschung, Entwicklung und Erprobung von KI-Anwendungen oftmals nicht in einen belegbaren Nutzen in der Versorgung führen würden.
