Ärzte sollten Grenzen für die KI ziehen

Kiel. Künstliche Intelligenz (KI) ist der menschlichen in vielen Bereichen überlegen. „Sie ist besser, präziser, schneller als Ärzte“, steht etwa für Professor Alena Buyx, Mitglied des Deutschen Ethikrates, fest.

Doch die Professorin für Ethik der Medizin und Gesundheitstechnologien an der Medizinischen Fakultät der TU München sieht die mit den Folgen dieser Entwicklung verknüpften ethischen Fragen in Deutschland bislang kaum beleuchtet.

Beim Parlamentarischen Abend der KV Schleswig-Holstein in Kiel ging sie nicht nur auf Chancen und Probleme der KI ein, sondern riet den Ärzten, sich insbesondere mit der Abgrenzung ihrer Aufgaben zur KI zu beschäftigen.

Menschliche Personalquoten?

„Was sind ärztliche Bereiche, wo ist die Grenze zur KI, welche Bereiche wollen Sie schützen“, fragte Buyx und forderte: „Die Antworten müssen aus der Ärzteschaft, aus den Fachgesellschaften kommen.“

Nach ihrer Wahrnehmung beschäftigt sich die Medizin in Deutschland zu wenig mit solchen Fragen, auch weil sie in der Ausbildung bislang nur eine untergeordnete Rolle spielt.

Dabei drängt die Zeit insbesondere zur Frage, in welchem Umfang menschliches Personal im Verhältnis zur Technik eingesetzt werden muss. „Soll man vielleicht jetzt schon menschliche Personalquoten einführen?“, stellte Buyx zur Diskussion.

Denn zu wenige Menschen in der Umgebung von Patienten können nicht nur am Krankenbett Probleme verursachen, wie Buyx am Beispiel Patientenaufnahme verdeutlichte.

Checkin-Terminals in Kliniken?

Wenn Checkin-Terminals die Aufnahme in ein Krankenhaus übernehmen, keine Menschen mehr hilfreich zur Seite stehen und erstmals am Bett ein Mensch mit dem aufgenommenen Patienten spricht, verunsichere dies nicht nur ältere Menschen. Solche Terminals sind bereits Realität, etwa im kürzlich eröffneten Universitätsklinikum Schleswig-Holstein (UKSH).

Am Krankenbett, gab Buyx zu bedenken, könnte ein Zurückdrängen der menschlichen Quoten noch weitreichendere Folgen haben. Fehlende Zuwendung und Empathie, die Auswirkungen auf die Kommunikation müssten hierbei unter anderem berücksichtigt werden. Das Nachverfolgen und Überwachen der mit der KI verbundenen sozialen und gesellschaftlichen Effekte müsse gewährleistet sein.

„Riesiges Potenzial“

Buyx verdeutlichte in Kiel auch, wie sehr die Zeit drängt. Schon vor zwei Jahren hatte der Roboter Xiaoyi erstmals das medizinische Staatsexamen in China bestanden. Selbstlernende, autonome Algorithmen können selbstständig Entscheidungen treffen und höherrangige ärztliche Aufgaben übernehmen.

Laut Buyx ein „riesiges Potenzial“ mit verlockenden Vorteilen für Entscheidungsträger: KI sei rund um die Uhr verfügbar, helfe bei der Fehlervermeidung, führe zu mehr Zeit auch bei Ärzten, senke Kosten, könne Versorgungslücken schließen helfen und insgesamt zu einer effizienteren Versorgung beitragen.

Ein weiterer Vorteil: KI verurteile das Verhalten von Patienten nicht. Buyx gab zu bedenken, dass sich Menschen im persönlichen Gespräch mit dem Arzt manchmal auch schämen, nicht die ganze Wahrheit erzählen und damit zu einem verzerrten Bild beim Arzt beitragen.

Auf der anderen Seite sind auch künstliche Systeme fehleranfällig und abhängig von den eingegebenen Daten. Hinzu kommt: Verstehen Menschen, wie stark sie sich von der KI abhängig machen, wie wenig der Mensch künftig noch in Therapieentscheidungen involviert sein könnte? Buyx ist nicht sicher, ob den meisten Menschen die Tragweite dieser Entwicklung bewusst ist.

Medizin schlecht auf KI vorbereitet

Helfen könnten Aufklärung und Gesetze, hatte zuvor Matthias Badenhop, Staatssekretär im Kieler Landesgesundheitsministerium, gesagt.

Fest steht für ihn, dass die Medizin auf die Unterstützung durch KI nicht verzichten kann – ohne aber auf das Ausmaß und die Grenzen einzugehen. Nach Wahrnehmung von Dr. Monika Schliffke, Vorstandsvorsitzende der KV Schleswig-Holstein, ist die Medizin auf den digitalen Transformationsprozess bislang nicht gut vorbereitet.

Wie die Folgen der KI etwa in das ärztliche Wertegerüst passen, übersteigt nach ihrer Beobachtung noch die Vorstellungskraft.