Die KI-VO wird in den nächsten Wochen im Amtsblatt der EU veröffentlicht. Sie setzt Standards für die gesamte Union. Europa muss optimistisch sein, wenn es um Innovation und Fortschritt geht. Besondere Bedeutung kann KI in der Medizin haben. Dass sie Forschung, Behandlung und Versorgung verbessern wird, ist eine berechtigte Hoffnung. Die KI-VO ist darauf eingestellt, denn sie lässt den Einsatz von KI "für Systeme für die Triage von Patienten bei der Notfallversorgung" als hochriskant und unter engen Voraussetzungen zu.
Eine Studie der Universität Cambridge hat festgestellt, dass das Sprachmodell GPT-4 bei der Beurteilung von Augenproblemen und der Beratung von Patienten mehr zuzutrauen ist als nicht auf Augenheilkunde spezialisierten Ärzten. Die Leistungen des Modells von OpenAI wurden in der Studie mit den Leistungen mehrerer Sprachmodelle und mit den Leistungen von Ärzten mit unterschiedlichem Ausbildungs- und Wissensstand verglichen.
Studie: GPT-4 setzt sich gegenüber unerfahrenen Assistenzärzten durch
Nicht erfahrene Assistenzärzte wurden ebenso einbezogen wie in Ausbildung befindliche Fachärzte und erfahrene Augenärzte. Ärzten und Maschinen wurden 87 Fallkonstellationen spezifischer Augenprobleme vorgelegt. Es musste aus vier Optionen eine Diagnose gestellt oder Behandlungsempfehlungen gegeben werden.
GPT-4 setze sich dabei deutlich gegenüber unerfahrenen Assistenzärzten durch. Die Forschenden ordneten die Fachkenntnisse dieser Ärzte als mit dem von Allgemeinmedizinern vergleichbar ein. Augenärzte in der Fortbildung und erfahrene Augenärzte schnitten vergleichbar mit GPT-4 ab. Lediglich besonders erfahrene Fachärzte seien besser gewesen als das Sprachmodell.
Es ist nicht die Aufgabe von KI, medizinische Zweifelsfälle einzuordnen. Eine Hilfe kann in einer ersten Bewertung liegen, die ein menschlicher Spezialist abklären muss. So kann sich etwa ein "intelligentes" MRT-Gerät im Notfalleinsatz für bestimmte Untersuchungen selbst justieren und in eindeutigen Fällen Entwarnung geben. Der Arzt kann das kurz abnicken oder bei unklareren Befunden nachfassen. Es geht im medizinischen Alltag schließlich meist nicht um Leben oder Tod. KI-Anwendungen können wichtige Helfer sein.
Lesen Sie auch
- Ärztepräsident sieht wachsende Bedeutung Künstlicher Intelligenz
- Schule und Studium mit KI – Bildungseinrichtungen in der Verantwortung
Auch für die Forscher zur Augenheilkunde geht es nicht um den Ersatz von Ärzten, sondern um eine Verbesserung des Systems und die Einbindung von KI in Klinikabläufe. Der Nutzen für das Wohl der Menschheit liegt auf der Hand. Gerade in medizinisch unterversorgten Gebieten ist die Technik wertvoll und die KI-VO muss diese Entwicklung ebenso ermöglichen, wie das davon zu trennende und zusätzlich geltende Datenschutzrecht. Der Mensch muss das Maß sein. So sagen es auch die Forscher aus Cambridge.
Ärzte sollen demnach weiterhin für die Patientenversorgung zuständig sein. "Das Wichtigste ist, die Patienten in die Lage zu versetzen, selbst zu entscheiden, ob sie die Einbindung von Computersystemen wünschen oder nicht. Das ist eine individuelle Entscheidung, die jeder Patient treffen muss", lautet ein Zitat in der Presseerklärung. "Wir könnten KI realistischerweise beim Triagieren von Patienten mit Augenproblemen einsetzen, um zu entscheiden, welche Fälle Notfälle sind," heißt es in der Verlautbarung weiter.
Triage per KI?
Spätestens an dieser Stelle wird es komplex. Systeme auf Basis von Sprachmodellen unter Verwendung generativer KI sind autonome und menschlich letztlich nicht beherrschbare Systeme. Bei der Triage geht es darum, Überlebenswahrscheinlichkeiten in Notfällen zu berücksichtigen.
Das war in der Pandemie ein wichtiges Thema zum Schutz vulnerabler Menschen bei knappen medizinischen Ressourcen. In post-pandemischen Zeiten bleibt die Triage ein relevantes Thema. Das Infektionsschutzgesetz enthält dazu seit 2022 eine Regelung, gegen die Ärzte Ende 2023 Verfassungsbeschwerde eingelegt haben. Der Fall liegt in Karlsruhe rechtlich und ethisch komplex genug. Der Ansatz, KI in die Triage einzubinden, spielt dort noch keine Rolle.
Die Studie aus Cambridge zeigt aber, dass das Thema keine Zukunftsmusik ist. Die KI-VO verlangt von Kliniken und Arztpraxen, die KI als Hochrisiko-System in der medizinischen Notfallversorgung und gar bei der Triage einsetzen, unter anderem, dass Betreiber, sprich Anwender, der KI Vorkehrungen treffen müssen, um ihre "Neigung zu einem automatischen oder übermäßigen Vertrauen in das von einem Hochrisiko-KI-System hervorgebrachte Ergebnis ('Automatisierungsbias')" wirksam zu bannen.
Das ist richtig, denn nur so kann der Arzt die Triageempfehlung der KI überstimmen. Wie das bei Entscheidungen auf überlasteten Intensivstationen über Leben oder Tod praktisch gehen soll, beantwortet die KI-VO leider nicht.
Verwendete Quellen
- cam.ac.uk: Artificial intelligence beats doctors in accurately assessing eye problems
- deutschlandfunk.de: Ärzte klagen gegen umstrittenes Triage-Gesetz
"So arbeitet die Redaktion" informiert Sie, wann und worüber wir berichten, wie wir mit Fehlern umgehen und woher unsere Inhalte stammen. Bei der Berichterstattung halten wir uns an die Richtlinien der Journalism Trust Initiative.