Wie künstliche Intelligenz das Gesundheitssystem reformieren könnte

Künstliche Intelligenz (KI) könnte das Gesundheitswesen reformieren, indem sie verschiedene Aspekte der Patientenversorgung, der Diagnostik und der Verwaltungsaufgaben verbessert. Um sicherzustellen, dass sie der Gesellschaft zugutekommt, ist die Auseinandersetzung mit ethischen Fragen entscheidend.

Während einer Veranstaltung in Brüssel im Januar hat die Europäische Kommission die Europäische Initiative zur Krebsbildgebung ins Leben gerufen. Sie ist eines der Schlüsselprojekte des Europäischen Plans zur Krebsbekämpfung (EBCP). Die Initiative zielt darauf ab, das Potenzial der künstlichen Intelligenz oder des Hochleistungsrechnens (HPC) zur Krebsbekämpfung zu nutzen.

„Digitale Technologien und künstliche Intelligenz sind der Schlüssel in unserem Kampf gegen den Krebs“, sagte der Binnenmarktkommissar Thierry Breton in einer Pressemitteilung nach dem Start der Initiative.

Die Initiative zielt darauf ab, eine digitale Infrastruktur zu schaffen, die Ressourcen und Datenbanken mit Krebsbildgebungsdaten in der gesamten EU, einschließlich Krankenhausnetzen und Forschungsdatenbanken, miteinander verbindet. Dadurch sollen die Innovation und der Einsatz digitaler Technologien in der Krebsbehandlung und -versorgung gefördert werden.

Die sorgfältige Entwicklung, der Einsatz und die Nutzung künstlicher Intelligenz sind jedoch von zentraler Bedeutung, um potenziellen Schaden zu vermeiden. Die Initiative der Kommission, die nur eines der Beispiele für den Einzug der KI in den Gesundheitsbereich ist, soll die Einhaltung hoher ethischer Standards gewährleisten.

Nach Ansicht der Weltgesundheitsorganisation (WHO) sind die europäischen Staaten jedoch noch nicht bereit, sich mit den Risiken der KI auseinanderzusetzen.

„Wir müssen viel härter arbeiten, um sicherzustellen, dass KI ihren Zweck erfüllt. Deshalb müssen Patienten und Gesundheitspersonal viel stärker in das Konzept und die Entwicklung von KI einbezogen werden“, sagte Natasha Azzopardi-Muscat, Direktorin für länderspezifische Gesundheitspolitik und -systeme bei der WHO Europa, gegenüber Euractiv auf dem Europäischen Gesundheitsforum in Gastein (EHFG) im September.

Die WHO arbeitet derzeit an einem Strategiepapier über die Regulierung der KI im Gesundheitswesen. „Wir wollen die Entwicklung der KI nicht aufhalten, aber wir müssen sicherstellen, dass sie sicher ist“, sagte Azzopardi-Muscat.

Ethische Aspekte im Bereich der KI

Eines der Hauptprobleme der KI ist die Diskriminierung. KI kann voreingenommen sein, wenn die zur Entwicklung von KI-Algorithmen verwendeten Trainingsdaten unausgeglichen sind, Ungleichheiten in der Gesundheitsversorgung widerspiegeln oder bestehende Vorurteile bei Diagnosen und Behandlungsentscheidungen widerspiegeln.

Wenn die Daten beispielsweise überwiegend eine bestimmte demografische Gruppe repräsentieren oder bestimmte Krankheitsbilder bei anderen nicht ausreichend erfasst werden, kann die KI ungenaue Empfehlungen oder Diagnosen liefern, was zu unterschiedlichen Behandlungsergebnissen führt.

„In bestimmten Fällen hat die KI nicht auf Gleichheit und Diversität geachtet. Es gab zum Beispiel Algorithmen, die für Frauen oder Menschen verschiedener Ethnien nicht so gut funktioniert haben“, so Azzopardi-Muscat.

In einer im Juni 2022 veröffentlichten Studie teilte das Europäische Parlament die gleiche Sorge.

„Mangelnde Transparenz wird weithin als ein wichtiges Problem bei der Entwicklung und dem Einsatz aktueller KI-Tools im Gesundheitswesen angesehen“, heißt es in der Studie.

Amnesty International wies am Donnerstag (28. September) darauf hin, dass KI-Systeme „riesige Mengen an oft sensiblen Daten verwenden, die in automatisierte Systeme eingegeben werden, um festzustellen, ob eine bestimmte Person Anspruch auf Wohnraum, Sozialleistungen, Gesundheitsversorgung und Bildung hat“.

„Doch anstatt gesellschaftliche Probleme zu lösen, verstärken viele KI-basierte Systeme auf eklatante Weise Rassismus und Ungleichheit und setzen Menschenrechtsverletzungen und Diskriminierung fort“, fügte Amnesty hinzu und sagte, dass das KI-Gesetz weiter gehen sollte, um EU-Bürger zu schützen.

Bedenken über Moral und KI sind nicht neu. Im Jahr 2021 erstellte die UNESCO, die Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur, eine Liste mit Empfehlungen für den ethischen Einsatz von künstlicher Intelligenz.

Eine der Empfehlungen lautete: „Nutzer von KI sollten soziale Gerechtigkeit, Fairness und Gleichberechtigung fördern und dabei einen inklusiven Ansatz verfolgen, um sicherzustellen, dass die Vorteile von KI für alle zugänglich sind.“

Eine weitere häufige Sorge ist, dass einige Ärzte befürchten, durch KI-gesteuerte Geräte ersetzt zu werden. Das Ziel von KI ist jedoch nicht, Ärzte durch Maschinen zu ersetzen, sondern Ärzte für die Arbeit mit Maschinen zu qualifizieren, betonte Terje Peetso, Leiter der Abteilung für medizinische Innovation am North Estonia Medical Centre, auf dem EHFG.

Azzopardi-Muscat unterstrich, dass „KI das Potenzial hat, die Optimierung des Gesundheitswesens wirklich zu verändern. Die Möglichkeiten sind unendlich.“

EU-KI-Gesetz

Im April 2021 legte die Europäische Kommission den ersten EU-Rechtsrahmen für KI vor. Zwei Jahre später nahm das Europäische Parlament seine Verhandlungsposition zum KI-Gesetz an.

„Die Vorschriften zielen darauf ab, die Einführung von menschenzentrierter und vertrauenswürdiger KI zu fördern und die Gesundheit, die Sicherheit, die Grundrechte und die Demokratie vor ihren schädlichen Folgen zu schützen“, heißt es in der Erklärung des Parlaments.

Das KI-Gesetz stuft KI-Systeme, die in Produkten verwendet werden und unter die EU-Rechtsvorschriften zur Produktsicherheit fallen, wie beispielsweise Spielzeug, Luftfahrt, Autos, medizinische Geräte und Aufzüge, als hochriskant ein.

Das Parlament erweiterte die Liste auch um Verbote für übergriffige und diskriminierende Anwendungen von KI, wie etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie Geschlecht oder Herkunft verwenden.

Im Gesundheitssektor könnte diese neue Vorschrift dazu beitragen, die von Amnesty International und der WHO festgestellte Diskriminierung zu bekämpfen.

„Wir sind zuversichtlich und optimistisch, dass sich die KI weiter verbessern wird. Sie muss Teil der Lösung sein, aber wir müssen den richtigen Weg finden, um sie zu regulieren, damit Patienten und Beschäftigte im Gesundheitswesen ihr vertrauen können“, so Azzopardi-Muscat abschließend.

Mitberichterstatter Dragos Tudorache (Renew, Rumänien) sagte am Tag der Abstimmung, dass „das KI-Gesetz weltweit den Ton bei der Entwicklung und Steuerung von künstlicher Intelligenz angeben wird. Es wird sicherstellen, dass sich diese Technologie […] weiterentwickelt und im Einklang mit den europäischen Werten der Demokratie, der Grundrechte und der Rechtsstaatlichkeit eingesetzt wird“.

Da die Gespräche zwischen dem Parlament und dem Ministerrat nun beginnen werden, wird eine Einigung über das KI-Gesetz bis Ende 2023 erwartet.

[Bearbeitet von Giedrė Peseckytė/Zoran Radosavljevic]