Ein Arzt diktiert nach der Sprechstunde einen Befund in eine KI-App. Eine Pflegeleitung lässt Übergaben zusammenfassen. Ein MVZ nutzt einen Chatbot für Terminfragen. Das spart Zeit – kann aber innerhalb weniger Minuten Gesundheitsdaten an einen ungeeigneten Anbieter übermitteln. Bei KI Tools im Gesundheitswesen entscheidet nicht allein die Funktion über den Nutzen. Entscheidend ist, ob Datenflüsse, Verantwortlichkeiten und Nachweise vor dem Einsatz geklärt sind.
KI-Tools im Gesundheitswesen: Wo das Risiko beginnt
Gesundheitsdaten gehören nach der DSGVO zu den besonders schutzwürdigen Daten. Das gilt nicht nur für Diagnosen, Laborwerte und Medikationspläne. Bereits die Information, dass eine Person einen bestimmten Facharzt aufsucht, eine Pflegeleistung erhält oder einen Termin in einer onkologischen Praxis vereinbart hat, kann hochsensibel sein.
Viele KI-Anwendungen wirken im Arbeitsalltag harmlos: Sprache wird in Text umgewandelt, lange Dokumentation wird zusammengefasst, E-Mails werden formuliert oder Bildmaterial wird vorsortiert. Genau hier liegt die Gefahr. Mitarbeitende nutzen eine frei zugängliche Anwendung, kopieren Inhalte aus der Patientenakte hinein und gehen davon aus, dass das Ergebnis intern bleibt. Tatsächlich können Inhalte je nach Produktkonfiguration gespeichert, zur Verbesserung von Modellen verwendet oder in Drittländer übertragen werden.
Eine Einwilligung des Patienten löst dieses Problem nicht pauschal. Sie muss freiwillig, informiert, eindeutig und jederzeit widerrufbar sein. Im Behandlungsverhältnis ist Freiwilligkeit häufig besonders kritisch. Außerdem ersetzt eine Einwilligung weder eine technische Prüfung noch einen belastbaren Vertrag mit dem Anbieter.
Für Geschäftsführungen und Praxisinhaber ist die entscheidende Frage deshalb nicht: „Dürfen wir KI nutzen?“ Sie lautet: „Für welchen konkreten Zweck, mit welchen Daten, in welchem System und unter welchen kontrollierbaren Bedingungen?“
Erst den Anwendungsfall prüfen, dann das Tool freigeben
KI ist kein einheitliches Produkt. Eine Software zur automatischen Anonymisierung von Forschungsdaten ist anders zu bewerten als ein allgemeiner Textassistent. Ein Terminbot ohne Zugriff auf Patientendaten birgt andere Risiken als eine KI, die Arztbriefe, Pflegeberichte oder Befunde verarbeitet.
Am Anfang braucht es eine klare Beschreibung des Einsatzes. Wer nutzt die Anwendung? Welche Daten werden eingegeben? Werden Daten nur verarbeitet, gespeichert oder an weitere Unterauftragnehmer weitergegeben? Entsteht daraus eine automatisierte Entscheidung, die Patienten oder Beschäftigte erheblich betrifft? Diese Fragen müssen vor der Beschaffung beantwortet sein – nicht erst, wenn das Tool bereits auf mehreren Arbeitsplätzen installiert ist.
Besonders kritisch sind Anwendungen in folgenden Bereichen:
- Dokumentation von Anamnesen, Befunden, Pflege- und Verlaufsberichten
- Transkription von Gesprächen, Diktaten oder Videosprechstunden
- Diagnostische Unterstützung und Priorisierung von Fällen
- Kommunikation mit Patienten über Chatbots oder digitale Assistenten
- Forschung, Auswertung großer Datensätze und Entwicklung medizinischer Modelle
- Personalprozesse, etwa automatisierte Vorauswahl oder Leistungsbewertung
Nicht jeder dieser Fälle ist unzulässig. Aber jeder Fall verlangt eine eigene Prüfung. Eine KI, die Entwürfe für interne, vollständig anonymisierte Schulungsunterlagen erstellt, ist anders einzuordnen als ein System, das einen individuellen Therapievorschlag generiert.
Keine Patientendaten in öffentliche KI-Konten
Die einfachste Regel verhindert viele Vorfälle: Frei zugängliche KI-Dienste und private Konten sind kein Ort für Patienten-, Beschäftigten- oder Betriebsdaten. Auch gekürzte Namen reichen nicht als Schutz, wenn Fallnummern, seltene Diagnosen, Ortsangaben oder zeitliche Angaben eine Re-Identifizierung ermöglichen.
Diese Vorgabe muss praktisch funktionieren. Ein Verbot in einer Richtlinie reicht nicht, wenn Mitarbeitende unter Zeitdruck keine zugelassene Alternative haben. Einrichtungen brauchen eine klare Liste freigegebener Anwendungen, eine verständliche Handlungsanweisung und kurze Schulungen mit echten Beispielen aus Praxis, Apotheke oder Pflegealltag.
Datenschutzprüfung: Was vor dem Produktivstart vorliegen muss
Sobald ein KI-Anbieter personenbezogene Daten im Auftrag verarbeitet, ist regelmäßig ein Vertrag zur Auftragsverarbeitung erforderlich. Doch ein unterschriebener AV-Vertrag allein ist keine Freigabe. Er muss zum tatsächlichen Datenfluss passen. Werden Unterauftragnehmer genannt? In welchen Regionen findet die Verarbeitung statt? Gibt es Drittlandtransfers? Welche technischen und organisatorischen Maßnahmen gelten? Wie werden Daten gelöscht und wie unterstützt der Anbieter bei Betroffenenanfragen oder Sicherheitsvorfällen?
Gerade bei internationalen Plattformen stimmen Marketingversprechen und Vertragslage nicht immer überein. „DSGVO-konform“ ist kein prüfbarer Nachweis. Erforderlich sind konkrete Angaben zu Hosting, Verschlüsselung, Zugriffsrechten, Protokollierung, Speicherfristen und eingesetzten Subdienstleistern.
Zusätzlich muss die Einrichtung ihre eigene Dokumentation aktualisieren. Dazu gehören je nach Einsatz insbesondere das Verzeichnis der Verarbeitungstätigkeiten, die Datenschutzinformationen, das Berechtigungskonzept, das Löschkonzept und die technischen und organisatorischen Maßnahmen. Beschäftigte müssen wissen, welche Eingaben erlaubt sind, wie Ergebnisse geprüft werden und an wen sie sich bei Unsicherheiten wenden.
Datenschutz-Folgenabschätzung nicht zu spät anstoßen
Bei einer Verarbeitung, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten betroffener Personen mit sich bringt, ist eine Datenschutz-Folgenabschätzung erforderlich. Das kann bei umfangreicher Verarbeitung von Gesundheitsdaten, systematischer Bewertung von Patienten oder dem Einsatz neuer Technologien schnell der Fall sein.
Die Folgenabschätzung ist keine Formalie für die Schublade. Sie zwingt dazu, den Zweck, die Datenarten, die Risiken und wirksame Schutzmaßnahmen nachvollziehbar zu dokumentieren. Dazu zählt auch die Frage, was geschieht, wenn die KI falsch liegt, Daten unbefugt offenlegt oder Ergebnisse verzerrt sind.
Bei Medizinprodukten kommen weitere Anforderungen hinzu. Liefert eine KI diagnostische, therapeutische oder klinisch relevante Empfehlungen, können Anforderungen aus dem Medizinprodukterecht, Qualitätsmanagement und der ärztlichen beziehungsweise fachlichen Verantwortung greifen. Eine CE-Kennzeichnung des Produkts bedeutet dabei nicht automatisch, dass der konkrete Einsatz datenschutzrechtlich und organisatorisch sauber geregelt ist.
KI-Ergebnisse brauchen fachliche Kontrolle
Eine KI kann überzeugend formulieren und dennoch falsche Inhalte erzeugen. Bei medizinischer Dokumentation kann ein kleiner Fehler Folgen für Behandlung, Abrechnung und Haftung haben. Bei Pflegeberichten können unpräzise Zusammenfassungen relevante Veränderungen verschleiern. Bei Chatbots können falsche Hinweise Patienten von einer notwendigen ärztlichen Abklärung abhalten.
Deshalb gilt: KI darf Fachverantwortung unterstützen, aber nicht verdecken. Ergebnisse müssen vor der Übernahme in die Patientenakte durch qualifiziertes Personal geprüft werden. Wer diese Prüfung vornimmt, sollte festgelegt sein. Ebenso braucht es eine Regel, wie Korrekturen erfolgen und ob KI-generierte Inhalte im System nachvollziehbar gekennzeichnet werden.
Auch Verzerrungen gehören in die Risikobewertung. Modelle können bei bestimmten Altersgruppen, Sprachen, Geschlechtern oder seltenen Krankheitsbildern schlechter funktionieren. Das ist nicht nur ein medizinisches Qualitätsproblem. Es kann zu unfairen Entscheidungen und schwer erklärbaren Behandlungspfaden führen. Je stärker ein Tool priorisiert, bewertet oder empfiehlt, desto wichtiger sind Testphasen mit realistischen, datenschutzkonform aufbereiteten Szenarien.
Vom Einzeltool zum kontrollierten Prozess
Das größte Risiko entsteht selten durch die offiziell beschaffte Software. Es entsteht durch Schatten-IT: Mitarbeitende verwenden ein kostenloses Tool, weil es schneller verfügbar ist als der interne Freigabeprozess. Wer das verhindern will, muss den Einsatz nicht nur verbieten, sondern steuerbar machen.
Ein praxistauglicher Prozess beginnt mit einer zentralen Meldestelle für neue Tools. Danach folgen eine fachliche Beschreibung des Zwecks, die Datenschutz- und Sicherheitsprüfung, die Vertragsprüfung sowie eine dokumentierte Freigabe. Vor dem Rollout sollten Verantwortlichkeiten, Berechtigungen, Schulungen und ein Testbetrieb stehen. Nach der Einführung braucht es regelmäßige Kontrollen: Hat sich der Anbieter geändert? Gibt es neue Funktionen? Werden weiterhin nur die freigegebenen Daten verarbeitet?
Auch der Umgang mit Vorfällen muss klar sein. Wird ein Patiententext versehentlich in ein unzulässiges KI-System eingegeben, darf das nicht still korrigiert werden. Der Vorfall muss sofort intern gemeldet, bewertet und dokumentiert werden. Je nach Ergebnis können technische Sofortmaßnahmen, eine Meldung an die Aufsichtsbehörde und eine Information betroffener Personen erforderlich sein.
Das INSTITUT FÜR DATENSCHUTZ prüft KI-Anwendungen im Gesundheitswesen nicht nur anhand allgemeiner Datenschutzfragen. Entscheidend sind die tatsächlichen Abläufe: Was passiert am Empfang, in der Behandlungsdokumentation, im Pflegedienst oder in der Telemedizin? Daraus entstehen prüfungsfähige Unterlagen, klare Freigaben und Vorgaben, die Mitarbeitende im Alltag anwenden können.
KI kann Einrichtungen spürbar entlasten – wenn sie nicht als spontane Abkürzung eingeführt wird. Wer Datenflüsse, Verträge, Verantwortlichkeiten und fachliche Kontrolle vor dem ersten produktiven Einsatz sauber regelt, schafft Raum für Innovation, ohne das Vertrauen von Patienten und Beschäftigten aufs Spiel zu setzen.
