[!NOTE] Aktualisiert am 26.09.2026: Die EU hat Artikel 4 der KI-Verordnung mit der Digital-Omnibus-Verordnung zum 27.07.2026 geändert. Praxen müssen seitdem Maßnahmen ergreifen, um die KI-Kompetenz ihres Teams zu unterstützen, ein bestimmtes Niveau müssen sie nicht garantieren. Die Abschnitte zur Schulung sind entsprechend angepasst. Den aktuellen Stand zu allen KI-Anwendungen lesen Sie in KI in der Arztpraxis: Was erlaubt ist.
Mit dem EU AI Act tritt erstmals ein europaweit einheitlicher Rechtsrahmen für den Einsatz von Künstlicher Intelligenz in Kraft. Während in den Nachrichten häufig über Hochrisiko-Anwendungen in der Industrie oder kritischen Infrastruktur gesprochen wird, stellt sich auch für niedergelassene Ärztinnen, Ärzte und MVZs eine drängende Frage: Betrifft uns das überhaupt?
Die Antwort ist eindeutig: Ja. Auch wenn medizinische Einrichtungen (meist) keine Hochrisiko-Systeme entwickeln, hat das Gesetz direkte Auswirkungen auf die Nutzung digitaler Helfer wie ChatGPT im Praxisalltag. Neben Datenschutz und fachlicher Kontrolle rückt dabei ein Aspekt in den Mittelpunkt, der bisher oft übersehen wurde: Der EU AI Act verlangt, dass die Praxis die KI-Kompetenz ihres Teams unterstützt.
Das bedeutet im Klartext: Wer KI in einer Praxis einsetzt, sollte die Maßnahmen dafür dokumentieren. Was das konkret für Ihr Team und Ihre Haftung bedeutet, erfahren Sie in diesem Artikel.
Einordnung: Wo steht ChatGPT im EU AI Act?
Das Gesetz unterscheidet KI-Systeme nach verschiedenen Risikoklassen. ChatGPT und ähnliche Tools (wie Claude oder Gemini) fallen dabei in die Kategorie der sogenannten „General Purpose AI Systems“ (GPAI), also KI mit allgemeinem Verwendungszweck.
Für Arztpraxen ist das zunächst eine gute Nachricht: Die schweren regulatorischen Pflichten treffen vor allem die Anbieter der Modelle (z. B. OpenAI). Als anwendende Praxis müssen Sie keine Systeme bei der EU registrieren oder komplexe technische Dokumentationen einreichen.
Dennoch entlässt Sie das Gesetz nicht aus der Verantwortung. Es bestehen klare Pflichten zur sicheren und sachgerechten Anwendung. Der wichtigste und oft unterschätzte Punkt dabei ist die KI-Kompetenz. Die Praxis muss Maßnahmen ergreifen, damit ihr Team die Technologie verantwortungsvoll und risikobewusst einsetzen kann. Einen eigenen Bußgeldtatbestand gibt es dafür nicht, Schweigepflicht, Datenschutz und ärztliche Sorgfalt gelten aber unabhängig davon.
Was Arztpraxen jetzt konkret beachten müssen
Aus dem Zusammenspiel von EU AI Act, DSGVO und Berufsordnung ergeben sich vier zentrale Handlungsfelder für den Praxisalltag.
1. Tabu-Zone: Patientendaten in externen KI-Systemen
Dieser Grundsatz bleibt unverändert und wird durch den EU AI Act indirekt nochmals gestärkt: Ohne sichere, geschlossene Umgebung dürfen keinerlei personenbezogene Gesundheitsdaten in Tools wie ChatGPT eingegeben werden.
Dazu zählen nicht nur Namen und Kontaktdaten, sondern auch anamnestische Angaben, Befunde, Laborwerte, Fotos, Dokumente und Kombinationen von Symptomen. Selbst scheinbar anonymisierte Fallbeschreibungen können durch die enorme Verknüpfungsleistung der KI oft re-identifiziert werden. (Mehr Hintergrund dazu finden Sie in meinem Artikel: „ChatGPT in der Praxis: Diese Probleme könnten entstehen“).
2. „Human in the Loop“: Ergebnisse müssen geprüft werden
Der EU AI Act verlangt Transparenz und menschliche Aufsicht. Für Anwender bedeutet das: Sie müssen die Grenzen der KI kennen und dürfen Entscheidungen niemals automatisiert an die Software abgeben.
Im medizinischen Kontext heißt das: KI darf unterstützen, aber niemals Diagnostik, Therapie oder patientenbezogene Kommunikation ersetzen. Jede Antwort, jeder Textentwurf und jede Recherche der KI muss fachlich validiert werden. Der Arzt oder die Ärztin bleibt immer der „Pilot“, die KI ist nur der Assistent.
3. KI-Kompetenz der Mitarbeitenden
Artikel 4 des EU AI Act verlangt seit dem 27.07.2026, dass Praxen Maßnahmen ergreifen, um die KI-Kompetenz ihres Teams zu unterstützen. Ein bestimmtes Niveau müssen sie ausdrücklich nicht garantieren. Sinnvoll ist trotzdem, dass alle verstehen, wie die Systeme funktionieren und wo ihre Risiken (z. B. „Halluzinationen“, Bias oder Datenschutzlücken) liegen.
Ein Zertifikat ist dafür nicht nötig. Nach Auskunft der EU-Kommission genügt eine interne Dokumentation, etwa ein Eintrag im QM. Welche Inhalte eine Schulung in der Praxis haben sollte, steht im Beitrag KI-Kompetenz im Praxisteam.
4. Dokumentation und Transparenz im Team
Auch wenn kein offizielles „KI-Register“ für Praxen vorgeschrieben ist, erwartet der Gesetzgeber, dass Organisationen ihre Risikobewertung nachvollziehbar machen. Es empfiehlt sich daher dringend, eine kurze Verfahrensanweisung „Umgang mit KI“ in das Qualitätsmanagement aufzunehmen.
Darin legen Sie fest, wofür KI genutzt werden darf, wofür sie verboten ist und wer die Verantwortung trägt. Gleichzeitig schaffen Sie Transparenz: Mitarbeitende müssen wissen, welche Tools erlaubt sind. Eine heimliche Leistungsüberwachung durch KI ist ebenso verboten wie der intransparente Einsatz von Chatbots im direkten Patientenkontakt.
Checkliste: Was ist erlaubt, und was nicht?
Um Unsicherheiten im Team zu vermeiden, hilft eine klare Unterscheidung der Einsatzbereiche.
✅ Grünes Licht: Unproblematische Einsatzbereiche Solange keine sensiblen Daten eingegeben werden, kann die KI im Praxismanagement enorm entlasten. Dazu gehören:
-
Entwürfe für Aushänge, Urlaubsmitteilungen und Öffnungszeiten.
-
Interne Formulierungshilfen und die Überarbeitung neutraler Texte.
-
Allgemeine Recherche zu medizinischen Themen (nicht patientenbezogen).
-
Erstellung von Blog- oder Social-Media-Inhalten ohne individuelle Beratung.
-
Prozessoptimierung und Erstellung von QM-Textbausteinen.
🚫 Rotes Licht: Bereiche, die verboten bleiben Hier greifen die Schutzvorschriften strikt:
-
Erstellung von Diagnosen oder Therapieempfehlungen.
-
Eingabe von Patientendaten oder konkreten Fallbeschreibungen.
-
Automatisierte Kommunikation mit Patienten ohne Kennzeichnung.
-
Medizinische Beratung durch die KI.
Wie der EU AI Act DSGVO & Berufsordnung ergänzt
Der EU AI Act existiert nicht im luftleeren Raum. Er ersetzt keine bestehenden Regeln, sondern verstärkt sie. Die DSGVO bleibt das oberste Prinzip der Datenvermeidung. Die Berufsordnung sorgt weiterhin dafür, dass ärztliche Kommunikation sachlich und werbefrei bleibt. Der EU AI Act ergänzt dieses Framework nun um die Pflicht zur Schulung, zum Risikobewusstsein und zur sicheren Anwendung.
Fazit: KI ja, aber nur mit geschultem Team
Der EU AI Act macht den Einsatz von KI nicht unmöglich, sondern verlässlicher. Für Arztpraxen bedeutet das: KI kann einen echten Mehrwert bieten, solange Patientendaten tabu bleiben und alle Ergebnisse fachlich geprüft werden.
Doch die wichtigste Erkenntnis lautet: Praxen können KI nur dann rechtssicher nutzen, wenn das Team dazu befähigt ist. Eine dokumentierte Schulung ist der einfachste Weg, die Maßnahmen nach Artikel 4 nachvollziehbar zu machen.
Hinweis: KI-Schulung gemäß EU AI Act
Möchten Sie ChatGPT oder andere KI-Tools in Ihrer Praxis rechtssicher und effizient einsetzen? Webinvasiv.de bietet eine strukturierte KI-Schulung gemäß EU AI Act speziell für Arztpraxen an.
Unsere Schulung deckt alle relevanten Bereiche ab:
-
Risiken & Grenzen von KI verstehen.
-
Sichere Nutzung ohne Patientendaten (Best Practices).
-
Rechtliche Vorgaben (EU AI Act, DSGVO, Berufsordnung).
-
Praktische Qualitätsrichtlinien für den Alltag.
-
Inklusive Templates für Ihr QM und interne Prozesse.
Die Teilnahme kann direkt als Schulungsnachweis für Ihr Qualitätsmanagement verwendet werden. Sprechen Sie uns an, um Ihr Team fit für die Zukunft zu machen.
Auch das könnte interessant für Sie sein
Praxismarketing PDF-Checkliste
Beispiele und Inhalte eines Webdesigns für Ärzte
Rechtsgrundlagen für das Praxismarketing in Deutschland
Typische DSGVO Fehler bei Praxiswebseiten
Jetzt helfen lassen
Webdesign für Ärzte ist unsere Leidenschaft. Wir helfen Ihnen bei der Umsetzung Ihrer Webseite.
Zum großen Überblick: Alle Healthcare-Marketing-Themen kompakt zusammengefasst im Healthcare Marketing Guide für Ärzte, Praxen & Kliniken.