Künstliche Intelligenz wird auch in Apotheken ihre Spuren hinterlassen

Deutschland hat mit Blick auf die Digitalisierung seines Gesundheitswesens den Turbo angeschmissen. Bundesgesundheitsminister Karl Lauterbach (SPD) wird nicht müde, das bei jeder sich ihm bietenden Gelegenheit zu betonen. Anfang Februar passierten das Gesetz zur Beschleunigung der Digitalisierung des Gesundheitswesens (DigiG) und das Gesetz zur verbesserten Nutzung von Gesundheitsdaten (GDNG) den Bundesrat. Mitte Dezember waren sie vom Bundestag verabschiedet worden.

Aber auch die EU sieht gesteigerten Regulierungsbedarf, wenn es um Digitalisierung geht. Welche Auswirkungen das auf die Apotheken haben kann, welche Chancen und Risiken damit verbunden sind, das war unter anderem Thema des Vortrags von Jens Prütting. Unter dem Titel „Kommission, Parlament, EuGH: Was haben Apotheken von Europa zu erwarten?“ sprach der Professor und Inhaber des Lehrstuhls für Bürgerliches Recht, Medizin- und Gesundheitsrecht an der Bucerius Law School Hamburg, auf dem ApothekenRechtTag der INTERPHARM online am Freitag.

Digitalisierungsdebatte in der EU

In der Digitalisierungsdebatte geht es dabei laut Prütting in der EU um die Betreuung von Patienten, insbesondere die Informationsvermittlung. Ein weiterer Punkt sei die Patientenversorgung, also Diagnostik und Therapie. Auch in der Arzneimitteltherapiesicherheit werde die Digitalisierung eine größere Rolle spielen. Ganz konkret werde das beispielsweise beim E-Rezept und der elektronischen Patientenakte (ePA).

Dabei verfolge die EU aktuell zwei rechtliche Ansätze: Zum einen geht es um die Schaffung eines Europäischen Gesundheitsdatenraums und zum anderen um die Nutzung Künstlicher Intelligenz (KI).

Der gemeinsame Gesundheitsdatenraum sieht dabei zunächst nur eine effektivere Patientenversorgung im europäischen Ausland vor. Er soll nicht die Grundlage für eine sonstige Nutzung bieten, insbesondere nicht für Werbung. Dennoch seien mit dem Gesundheitsdatenraum grundsätzliche Fragen verbunden, so etwa, ob damit durch die Hintertür die Zwangseinrichtung der ePA verbunden sei, ob eine Konformität mit der Datenschutz-Grundverordnung (DSGVO) gegeben sei und ob das Missbrauchspotential letztlich ausreichend abgewogen wurde.

Arzneimitteltherapiesicherheitssoftware ist Hochrisiko-KI

Ganz konkret wurde es dann bei der von der EU geplanten KI-Verordnung. Denn diese wird, vermittelt über die Arzneimitteltherapiesicherheitssoftware, ihre Spuren in den Apotheken hinterlassen. Laut der Verordnung wäre diese nämlich Hochrisiko-KI.

Das würde zunächst zwar erst einmal die Hersteller betreffen. Diese müssten wegen der vertraulichen Daten ein besonderes Risikomanagement schaffen. Aber auch bei den Trainingsdaten für die KI seien Fragen der Diskriminierung bei der Validierung berücksichtigen. Hinzu kommen besondere Dokumentations- und Transparenzvorschriften.

Schnittstelle für menschliche Aufsicht?

Ein kritischer Punkt ist auch das Gebot der Schnittstellenschaffung für menschliche Aufsicht. Demnach muss die KI eine Schnittstelle haben, die es möglich macht, dass die Kontrolle durch einen Menschen noch möglich ist. Die Erfahrung aber zeige, dass das mit dem fortschreitenden Lernen der KI nur schwer in Einklang zu bringen ist.

Herstellerpflichten werden zu Nutzerpflichten

Zudem: Herstellerpflichten können zu Nutzerpflichten werden – und hier kommen die Apotheken ins Spiel, denn: Die KI entwickelt sich durch den Gebrauch in der Offizin weiter. Demnach stünden auch die Apotheken in der Verantwortung – was unter anderem wiederum zu zusätzlichem Verwaltungsaufwand und Kosten führen könne. Mitarbeiterinnen und Mitarbeiter müssten geschult werden. Natürlich wäre mit der Verwendung von KI die Hoffnung verbunden, dass sich die Arbeit erleichtert – wie sich das dann niederschlägt, müsse sich zeigen.

Allgemein hielt Prütting fest, müsse man sich darauf gefasst machen, dass die EU sich in Zukunft stärker in die Belange der Apothekerschaft „einmischen“ werde. Auch wenn die Mitgliedstaaten in der Gesundheitspolitik eigentlich Vorrang haben, gebe es für die EU verschiedene Möglichkeiten, ihr Wirken auf dem Feld zu rechtfertigen. So wache sie beispielsweise über die Einhaltung der Grundfreiheiten in der Union. Zudem ist sie für die Schaffung und Wahrung des Binnenmarktes zuständig, was bedeutet, dass sie über ihre Angleichungskompetenz Einfluss nehmen kann. „Das ist eine Waffe“, so Prütting, die die EU fast immer einsetzen könne.

Vermehrt „harsches Eingreifen“ der EU

Gestützt werde die EU in der Ausweitung ihres Zugriffs vom Europäischen Gerichtshof (EuGH), der in seinen Entscheidungen die Tendenz zeige, das Recht für die EU begünstigend auszulegen. Prütting ging sogar noch weiter: Es seien sogar Schritte vorwärts wahrscheinlich, die bislang so nicht denkbar wären, ein „harsches Eingreifen“ der EU – aber dafür sei sie auch da, so der Professor. Er wolle die EU „nicht geißeln“, die Frage bleibe, wo die Mitgliedsstaaten es tatsächlich nicht allein besser machen können.