EU AI Act: Was Arztpraxen beachten müssen, wenn sie ChatGPT nutzen

Mit dem EU AI Act tritt erstmals ein europaweit einheitlicher Rechtsrahmen für den Einsatz von Künstlicher Intelligenz in Kraft. Während in den Nachrichten häufig über Hochrisiko-Anwendungen in der Industrie oder kritischen Infrastruktur gesprochen wird, stellt sich auch für niedergelassene Ärztinnen, Ärzte und MVZs eine drängende Frage: Betrifft uns das überhaupt?

Die Antwort ist eindeutig: Ja. Auch wenn medizinische Einrichtungen (meist) keine Hochrisiko-Systeme entwickeln, hat das Gesetz direkte Auswirkungen auf die Nutzung digitaler Helfer wie ChatGPT im Praxisalltag. Neben Datenschutz und fachlicher Kontrolle rückt dabei ein Aspekt in den Mittelpunkt, der bisher oft übersehen wurde: Der EU AI Act verlangt, dass Personen, die KI nutzen, angemessen geschult sein müssen.

Das bedeutet im Klartext: Wer KI in einer Praxis einsetzen möchte, benötigt künftig dokumentierte Kompetenz. Was das konkret für Ihr Team und Ihre Haftung bedeutet, erfahren Sie in diesem Artikel.

Einordnung: Wo steht ChatGPT im EU AI Act?

Das Gesetz unterscheidet KI-Systeme nach verschiedenen Risikoklassen. ChatGPT und ähnliche Tools (wie Claude oder Gemini) fallen dabei in die Kategorie der sogenannten „General Purpose AI Systems“ (GPAI) – also KI mit allgemeinem Verwendungszweck.

Für Arztpraxen ist das zunächst eine gute Nachricht: Die schweren regulatorischen Pflichten treffen vor allem die Anbieter der Modelle (z. B. OpenAI). Als anwendende Praxis müssen Sie keine Systeme bei der EU registrieren oder komplexe technische Dokumentationen einreichen.

Dennoch entlässt Sie das Gesetz nicht aus der Verantwortung. Es bestehen klare Pflichten zur sicheren und sachgerechten Anwendung. Der wichtigste und oft unterschätzte Punkt dabei ist die KI-Kompetenz. Anwenderinnen und Anwender müssen ausreichend geschult sein, um die Technologie verantwortungsvoll und risikobewusst einzusetzen. Diese Schulungspflicht ist nicht nur eine organisatorische Empfehlung, sondern wird zunehmend haftungsrelevant.

Was Arztpraxen jetzt konkret beachten müssen

Aus dem Zusammenspiel von EU AI Act, DSGVO und Berufsordnung ergeben sich vier zentrale Handlungsfelder für den Praxisalltag.

1. Tabu-Zone: Patientendaten in externen KI-Systemen

Dieser Grundsatz bleibt unverändert und wird durch den EU AI Act indirekt nochmals gestärkt: Ohne sichere, geschlossene Umgebung dürfen keinerlei personenbezogene Gesundheitsdaten in Tools wie ChatGPT eingegeben werden.

Dazu zählen nicht nur Namen und Kontaktdaten, sondern auch anamnestische Angaben, Befunde, Laborwerte, Fotos, Dokumente und Kombinationen von Symptomen. Selbst scheinbar anonymisierte Fallbeschreibungen können durch die enorme Verknüpfungsleistung der KI oft re-identifiziert werden. (Mehr Hintergrund dazu finden Sie in meinem Artikel: „ChatGPT in der Praxis: Diese Probleme könnten entstehen“).

2. „Human in the Loop“: Ergebnisse müssen geprüft werden

Der EU AI Act verlangt Transparenz und menschliche Aufsicht. Für Anwender bedeutet das: Sie müssen die Grenzen der KI kennen und dürfen Entscheidungen niemals automatisiert an die Software abgeben.

Im medizinischen Kontext heißt das: KI darf unterstützen, aber niemals Diagnostik, Therapie oder patientenbezogene Kommunikation ersetzen. Jede Antwort, jeder Textentwurf und jede Recherche der KI muss fachlich validiert werden. Der Arzt oder die Ärztin bleibt immer der „Pilot“, die KI ist nur der Assistent.

3. Die neue Pflicht: Schulung & Kompetenz der Mitarbeitenden

Dies ist der Punkt, der für viele Praxen neu ist. Der EU AI Act schreibt vor, dass Anwenderinnen und Anwender über ausreichende „AI Literacy“ (KI-Kompetenz) verfügen müssen. Sie müssen verstehen, wie die Systeme funktionieren und wo ihre Risiken (z. B. „Halluzinationen“, Bias oder Datenschutzlücken) liegen.

Mitarbeitende dürfen KI also nicht mehr „einfach so“ nebenbei nutzen. Die Praxisleitung muss sicherstellen, dass ein geeigneter Kompetenzstand vorhanden ist und dieser idealerweise auch nachgewiesen werden kann (z. B. durch einen Eintrag im QM). Da Arztpraxen selten über eigene KI-Beauftragte verfügen, ist eine externe Schulung oft der sicherste Weg, um diese Pflicht zu erfüllen und Haftungsrisiken zu minimieren.

4. Dokumentation und Transparenz im Team

Auch wenn kein offizielles „KI-Register“ für Praxen vorgeschrieben ist, erwartet der Gesetzgeber, dass Organisationen ihre Risikobewertung nachvollziehbar machen. Es empfiehlt sich daher dringend, eine kurze Verfahrensanweisung „Umgang mit KI“ in das Qualitätsmanagement aufzunehmen.

Darin legen Sie fest, wofür KI genutzt werden darf, wofür sie verboten ist und wer die Verantwortung trägt. Gleichzeitig schaffen Sie Transparenz: Mitarbeitende müssen wissen, welche Tools erlaubt sind. Eine heimliche Leistungsüberwachung durch KI ist ebenso verboten wie der intransparente Einsatz von Chatbots im direkten Patientenkontakt.

Checkliste: Was ist erlaubt – und was nicht?

Um Unsicherheiten im Team zu vermeiden, hilft eine klare Unterscheidung der Einsatzbereiche.

✅ Grünes Licht: Unproblematische Einsatzbereiche Solange keine sensiblen Daten eingegeben werden, kann die KI im Praxismanagement enorm entlasten. Dazu gehören:

• Entwürfe für Aushänge, Urlaubsmitteilungen und Öffnungszeiten.

• Interne Formulierungshilfen und die Überarbeitung neutraler Texte.

• Allgemeine Recherche zu medizinischen Themen (nicht patientenbezogen).

• Erstellung von Blog- oder Social-Media-Inhalten ohne individuelle Beratung.

• Prozessoptimierung und Erstellung von QM-Textbausteinen.

🚫 Rotes Licht: Bereiche, die verboten bleiben Hier greifen die Schutzvorschriften strikt:

• Erstellung von Diagnosen oder Therapieempfehlungen.

• Eingabe von Patientendaten oder konkreten Fallbeschreibungen.

• Automatisierte Kommunikation mit Patienten ohne Kennzeichnung.

• Medizinische Beratung durch die KI.

Wie der EU AI Act DSGVO & Berufsordnung ergänzt

Der EU AI Act existiert nicht im luftleeren Raum. Er ersetzt keine bestehenden Regeln, sondern verstärkt sie. Die DSGVO bleibt das oberste Prinzip der Datenvermeidung. Die Berufsordnung sorgt weiterhin dafür, dass ärztliche Kommunikation sachlich und werbefrei bleibt. Der EU AI Act ergänzt dieses Framework nun um die Pflicht zur Schulung, zum Risikobewusstsein und zur sicheren Anwendung.

Fazit: KI ja – aber nur mit geschultem Team

Der EU AI Act macht den Einsatz von KI nicht unmöglich, sondern verlässlicher. Für Arztpraxen bedeutet das: KI kann einen echten Mehrwert bieten, solange Patientendaten tabu bleiben und alle Ergebnisse fachlich geprüft werden.

Doch die wichtigste Erkenntnis lautet: Praxen können KI nur dann rechtssicher nutzen, wenn das Team dazu befähigt ist. Eine dokumentierte KI-Schulung wird künftig unverzichtbar, um den gesetzlichen Anforderungen zu genügen.

Hinweis: KI-Schulung gemäß EU AI Act

Möchten Sie ChatGPT oder andere KI-Tools in Ihrer Praxis rechtssicher und effizient einsetzen? Webinvasiv.de bietet eine strukturierte KI-Schulung gemäß EU AI Act speziell für Arztpraxen an.

Unsere Schulung deckt alle relevanten Bereiche ab:

• Risiken & Grenzen von KI verstehen.

• Sichere Nutzung ohne Patientendaten (Best Practices).

• Rechtliche Vorgaben (EU AI Act, DSGVO, Berufsordnung).

• Praktische Qualitätsrichtlinien für den Alltag.

• Inklusive Templates für Ihr QM und interne Prozesse.

Die Teilnahme kann direkt als Schulungsnachweis für Ihr Qualitätsmanagement verwendet werden. Sprechen Sie uns an, um Ihr Team fit für die Zukunft zu machen.

Auch das könnte interessant für Sie sein