Ethische Leitlinien für KI in der Patientenbetreuung
Zuletzt aktualisiert: 18. November 2026
Kurzübersicht
Ethische Leitlinien für KI in der Patientenbetreuung sind der Kompass, der technische Möglichkeiten an menschlichen Werten ausrichtet. Sie legen fest, wann ein KI-System unterstützen darf, wer die letzte Entscheidung trägt und wie Patientinnen und Patienten informiert bleiben. Sieben Prinzipien von Autonomie bis Rechenschaftspflicht bilden das Gerüst für den verantwortungsvollen Einsatz.
Sieben Prinzipien von Autonomie bis Rechenschaftspflicht bilden das Gerüst für den KI-Einsatz in der Pflege.
Menschliche Aufsicht ist ein fester Schritt im Ablauf, keine Formalität am Ende des Prozesses.
Ein dreistufiges Aufsichtsmodell richtet sich nach der Schwere der möglichen Folge.
Datenschutz verlangt, den Datenfluss in vier Schritten zu prüfen: Erhebung, Verarbeitung, Zugriff, Löschung.
Eine Checkliste mit neun Punkten begleitet die Einführung, nicht nur die Anschaffung.
Wie starten Sie ethisch mit KI in der Pflege?
FredARicoRIDE zeigt, wie Mixed Reality den Betreuungsalltag ruhiger und sicherer macht.
Inhaltsverzeichnis
Warum ethische Leitlinien für KI in der Patientenbetreuung jetzt zählen
KI-Anwendungen in der Patientenbetreuung: Beispiele aus der Praxis
Einwilligung, Information und Widerspruchsrechte von Patientinnen und Patienten
Checkliste für den ethischen Einsatz von KI in der Patientenbetreuung
Ethische Begleitung im Alltag: So starten Sie mit Ihrer Abteilung
Warum ethische Leitlinien für KI in der Patientenbetreuung jetzt zählen
Ethische Leitlinien für KI in der Patientenbetreuung sind der Kompass, der technische Möglichkeiten an menschlichen Werten ausrichtet.
Die Dringlichkeit hat einen einfachen Grund: Systeme zur Entscheidungsunterstützung, zur Dokumentation und zur Ablenkung während belastender Behandlungen halten Einzug in Stationen, Pflegeheime und Therapieeinrichtungen.
Genau hier setzen ethische Prinzipien an. Sie ersetzen keine Gesetze, sie füllen den Spielraum, den Gesetze bewusst offenlassen.
Im Folgenden zeigen wir sieben Prinzipien, konkrete Beispiele aus der Praxis, eine Checkliste für Ihr Team und einen realistischen Startpunkt für die nächste Abteilungssitzung.
Sieben ethische Prinzipien für den KI-Einsatz in der Pflege
Sieben Prinzipien tragen den verantwortungsvollen Einsatz von KI-Systemen in der Pflege. Sie greifen ineinander und lassen sich in jeder Phase der Patientenversorgung prüfen. Wir empfehlen, sie als gemeinsame Sprache im Team zu etablieren, bevor das erste Gerät auf Station kommt.
Von Autonomie bis Rechenschaftspflicht: die Prinzipien im Überblick
Autonomie und Handlungsfreiheit: Patientinnen und Patienten entscheiden mit, ob und wie KI-gestützte Unterstützung zum Einsatz kommt.
Fürsorge und Nutzen: Der KI-Einsatz muss nachweislich dem Wohl der Betroffenen dienen, nicht der Effizienz allein.
Nichtschaden: Fehlerrisiken werden vorab benannt, begrenzt und überwacht.
Transparenz und Erklärbarkeit: Betroffene und Fachkräfte verstehen, was ein System tut und warum.
Fairness und Nichtdiskriminierung: Verzerrungen werden aktiv geprüft, nicht nur angenommen.
Datenschutz und informationelle Selbstbestimmung: Gesundheitsdaten bleiben geschützt und zweckgebunden.
Rechenschaftspflicht: Jede Entscheidung hat eine benannte menschliche Verantwortung.
Diese sieben Punkte bilden das Gerüst für alles Weitere. Auffällig ist Prinzip sieben: Es macht aus einer technischen Frage eine organisatorische.
Die sieben Prinzipien lassen sich als gemeinsame Sprache im Team etablieren, bevor das erste Gerät auf Station kommt.
Prinzip | Kernaussage |
Autonomie und Handlungsfreiheit | Patientinnen und Patienten entscheiden mit |
Fürsorge und Nutzen | KI-Einsatz dient dem Wohl der Betroffenen |
Nichtschaden | Fehlerrisiken vorab benannt, begrenzt, überwacht |
Transparenz und Erklärbarkeit | Betroffene und Fachkräfte verstehen das System |
Fairness und Nichtdiskriminierung | Verzerrungen werden aktiv geprüft |
Datenschutz und informationelle Selbstbestimmung | Gesundheitsdaten bleiben geschützt und zweckgebunden |
Rechenschaftspflicht | Jede Entscheidung hat benannte menschliche Verantwortung |
Menschliche Aufsicht bei KI-gestützten Entscheidungen
Menschliche Aufsicht bedeutet, dass eine qualifizierte Person jede relevante KI-Empfehlung prüfen, bestätigen oder verwerfen kann, bevor sie Wirkung entfaltet. Die Aufsicht ist kein Formalakt am Ende des Prozesses, sondern ein fester Schritt im Ablauf - mit klaren Kriterien, wer wann eingreift.
AMBOSS DE
In der Praxis heißt das: Eine Pflegefachkraft sieht die Empfehlung des Systems, bewertet sie im Kontext der Patientin oder des Patienten und entscheidet eigenständig. Die KI liefert Vorschläge, die Fachkraft trägt die Entscheidung.
Drei Stufen der Aufsicht
Bewährt hat sich ein dreistufiges Modell, das sich an der Schwere der möglichen Folge orientiert:
Unterstützende Systeme (z. B. Dokumentationsassistenz): Die Fachkraft prüft die Ausgabe, bevor sie in die Akte übernommen wird. Eine Vier-Augen-Prüfung ist bei Routinefällen nicht nötig.
Empfehlende Systeme (z. B. Entscheidungsunterstützung bei Dosierung oder Diagnostik): Die Empfehlung wird immer von einer qualifizierten Person bestätigt; Abweichungen werden kurz begründet und dokumentiert.
Eingreifende Systeme (z. B. Alarme oder automatische Anpassungen): Hier braucht es eine benannte Person, die jederzeit übersteuern kann, plus eine klare Regel, wann das System abgeschaltet werden muss.
Übersteuern will gelernt sein
Ein häufiger Fehler ist die Annahme, Aufsicht sei erledigt, sobald jemand einen Bildschirm im Blick hat. Wirkliche menschliche Kontrolle braucht Zeit, Schulung und die ausdrückliche Erlaubnis, ein System zu überstimmen. Teams, die diese Erlaubnis schriftlich festhalten und in der Übergabe ansprechen, berichten von weniger Unsicherheit im Alltag.
Achtung: Wenn eine Einrichtung das Überstimmen als Störung des Ablaufs behandelt, trauen sich Fachkräfte seltener, eine falsche Empfehlung zu korrigieren. Die Folge sind stille Fehler, die niemand meldet.
Eskalation und Abschaltung
Zur Aufsicht gehört ein einfacher Eskalationsweg: Wer wird gerufen, wenn eine Empfehlung unplausibel erscheint? Wer entscheidet, ein System vorübergehend außer Betrieb zu nehmen? Und wie wird ein Vorfall dokumentiert, damit das Team daraus lernt? Ein kurzes Meldeformular und eine feste Ansprechperson pro Station reichen für den Anfang. Wie sich Dokumentation und Patientensicherheit dabei automatisieren lassen, ohne die Kontrolle abzugeben, zeigt unser Beitrag zur automatisierten Dokumentation mit Blick auf Patientensicherheit.
KI-Anwendungen in der Patientenbetreuung: Beispiele aus der Praxis
KI-Anwendungen in der Patientenbetreuung reichen von Dokumentationsassistenz über Entscheidungsunterstützung bis zu Mixed-Reality-Erlebnissen, die während belastender Situationen ablenken. Entscheidend ist nicht die Technik allein, sondern ob sie Ruhe und Sicherheit fördert.

Ein Beispiel aus der Praxis: Bei Blutentnahmen oder Transporten kann ein Mixed-Reality-Erlebnis die reale Umgebung sichtbar lassen und gleichzeitig eine beruhigende Erlebniswelt öffnen.
Solche Szenarien zeigen, wie Entscheidungsunterstützung und Ablenkung zusammengehören. Weitere erprobte Abläufe aus dem Klinikalltag finden Sie in unseren Best Practices für VR im Krankenhaus.
Datenschutz bei KI im Gesundheitswesen
Datenschutz bei KI im Gesundheitswesen verlangt, dass Gesundheitsdaten zweckgebunden verarbeitet, Zugriffe protokolliert und Betroffene informiert werden. Die datenschutzrechtliche Verantwortung bleibt bei der Einrichtung, auch wenn ein System von einem Anbieter stammt.
Die Datenschutzkonferenz der Aufsichtsbehörden hat Hinweise zum KI-Einsatz veröffentlicht, die sich auf die Datenschutz-Grundverordnung stützen. Für Kliniken und Pflegeeinrichtungen bedeutet das: vor der Einführung klären, welche Daten wohin fließen, wer sie einsehen kann und wie lange sie gespeichert bleiben. Eine Datenschutz-Folgenabschätzung gehört bei sensiblen Verarbeitungen dazu.
Datenfluss in vier Schritten prüfen
Ein bewährtes Vorgehen ist die Prüfung des Datenflusses in vier Schritten. So wird aus einer abstrakten Pflicht ein konkreter Ablauf:
Erhebung: Welche Daten erfasst das System - nur Messwerte, auch Sprache, Bild oder Standort? Reichen die Daten für den Zweck aus, oder werden mehr erhoben als nötig?
Verarbeitung: Wo werden die Daten verarbeitet - auf einem Gerät im Haus, in einer Cloud, beim Anbieter? Bei externer Verarbeitung braucht es einen Vertrag zur Auftragsverarbeitung und eine klare Regel, ob Daten zum Training verwendet werden.
Zugriff: Wer im Team darf welche Daten sehen? Ein Rollenkonzept mit minimalen Rechten verhindert, dass neugierige Blicke in fremde Akten möglich sind.
Löschung: Wann und wie werden Daten gelöscht? Feste Fristen pro Datenart, nicht nur ein allgemeiner Satz in der Datenschutzerklärung.
Datenschutz-Folgenabschätzung als Routine
Bei sensiblen Verarbeitungen - und Gesundheitsdaten gelten in der Regel als sensibel - ist eine Datenschutz-Folgenabschätzung Pflicht. Viele Einrichtungen scheuen den Aufwand. In der Praxis lässt sich das Verfahren verschlanken: ein kurzes Formular, das die vier Schritte oben abfragt, plus eine Unterschrift der Datenschutzbeauftragten.
Achtung: Wird die Folgenabschätzung erst nach der Beschaffung begonnen, lassen sich Datenflüsse oft nicht mehr ohne Nachverhandlung mit dem Anbieter ändern. Der Datenschutz gehört deshalb in die Ausschreibung, nicht in die Nachbereitung.
Anbieter und Verantwortung
Auch wenn ein System von einem Anbieter stammt, bleibt die Einrichtung verantwortlich. Das bedeutet: vertraglich festhalten, welche Daten der Anbieter sieht, wie er sie schützt und was bei einer Panne passiert. Ein kurzes Datenprotokoll pro Anwendung - welche Daten, wo, wer, wie lange - hilft im Alltag und bei einer Prüfung durch die Aufsichtsbehörde. Wie Sie dabei vorgehen, lesen Sie in unserem Leitfaden zum Datenschutz bei VR-Brillen in der Pflege.
Einwilligung, Information und Widerspruchsrechte von Patientinnen und Patienten
Einwilligung, Information und Widerspruch sind die Grundlage jeder vertrauensvollen KI-Nutzung. Patientinnen und Patienten müssen verstehen, was mit ihren Daten und mit einer KI-gestützten Maßnahme geschieht, und sie müssen ablehnen dürfen.
Für die informierte Einwilligung reicht ein Formular selten aus.
Ein Widerspruchsrecht ist nur dann echt, wenn es einfach auszuüben ist. Ein Satz im Aufnahmegespräch, ein Häkchen im System, ein Vermerk in der Akte.
Checkliste für den ethischen Einsatz von KI in der Patientenbetreuung
Eine Checkliste für den ethischen Einsatz von KI macht Prinzipien überprüfbar. Sie begleitet die Einführung, nicht nur die Anschaffung. Wir empfehlen, sie vor jeder neuen Anwendung einmal gemeinsam durchzugehen.
Zweck und Nutzen der Anwendung sind in einem Satz beschrieben
Eine verantwortliche Person ist namentlich benannt
Patientinnen und Patienten werden verständlich informiert
Ein einfacher Weg zum Widerspruch ist eingerichtet
Datenfluss und Speicherdauer sind dokumentiert
Menschliche Aufsicht ist im Ablauf verankert
Fehlerwege und Ansprechpartner bei Problemen sind bekannt
Schulung des Teams ist terminiert
Überprüfung nach der Einführung ist geplant
Bias-Prüfung und Fairness für unterschiedliche Patientengruppen
Bias-Prüfung und Fairness stellen sicher, dass ein KI-System unterschiedliche Patientengruppen gleich gut unterstützt. Verzerrungen entstehen, wenn Trainingsdaten bestimmte Gruppen unterrepräsentieren, etwa Kinder, mehrsprachige Familien oder Menschen mit kognitiven Einschränkungen.
Prüfen Sie deshalb regelmäßig, ob Empfehlungen für alle Gruppen plausibel sind, und fragen Sie Ihr Team nach Auffälligkeiten. Bei Mixed-Reality-Anwendungen kommt ein zweiter Punkt hinzu: Bedienbarkeit. Wie sich Systeme barrierefrei gestalten lassen, beschreibt unser Beitrag zur barrierefreien Bedienung von Mixed-Reality-Systemen.
Ethische Begleitung im Alltag: So starten Sie mit Ihrer Abteilung
Ethische Begleitung im Alltag beginnt mit einem festen Termin im Kalender, nicht mit einem Grundsatzpapier. Wählen Sie eine Anwendung, ein kleines Team und einen Zeitraum von einigen Wochen.
So gehen wir vor, wenn eine Abteilung startet:
Anwendung auswählen: eine konkrete Maßnahme, nicht das ganze Thema.
Team benennen: zwei bis drei Personen aus Pflege, Medizin und Verwaltung.
Prinzipien prüfen: die sieben Punkte gemeinsam durchgehen.
Checkliste ausfüllen: Lücken offen benennen.
Pilot starten: mit klarer Aufsicht und kurzer Rückmeldung.
Nach zwei Wochen auswerten: Was half, was störte, was fehlte.
Festhalten: Ergebnisse in einer kurzen Notiz sichern.
Für die Finanzierung solcher Vorhaben lohnt ein Blick auf bestehende Programme. Eine Übersicht bietet unser Beitrag zu Förderprogrammen für digitale Innovationen in der Pflege.
Der größte Risikofaktor ist nicht die Technik, sondern die fehlende Routine im Umgang mit ihr. Wenn Sie ethische Leitlinien für KI in der Patientenbetreuung als festen Bestandteil Ihres Alltags etablieren wollen, begleiten wir Sie gern.
Häufig gestellte Fragen
Welche ethischen Prinzipien gelten für KI in der Patientenbetreuung?
Zu den zentralen ethischen Prinzipien zählen Autonomie, Fürsorge, Nichtschaden, Fairness, Transparenz und Rechenschaftspflicht. In der Praxis bedeutet das: Patientinnen und Patienten behalten ihre Entscheidungsfreiheit, KI-Systeme unterstützen statt ersetzen menschliches Handeln, und Ergebnisse müssen nachvollziehbar bleiben. Ergänzend kommen Datenschutz, technische Robustheit und die klare Benennung von Verantwortlichkeiten hinzu. Diese Prinzipien sollten als Leitlinien schriftlich festgehalten und im Team regelmäßig besprochen werden, damit sie im Alltag der Patientenversorgung tatsächlich greifen.
Wie lässt sich KI in der Patientenbetreuung verantwortungsvoll einsetzen?
Verantwortungsvoller Einsatz beginnt mit einer klaren Zweckbestimmung: Welche Aufgabe soll die KI-Anwendung übernehmen, und wo bleibt die Entscheidung beim Menschen? Eine Checkliste für den ethischen Einsatz von KI in der Patientenbetreuung hilft, Risiken vor der Einführung zu prüfen, Zuständigkeiten zu benennen und Schulungen einzuplanen. Wichtig sind außerdem die Einbindung von Pflegefachkräften und Gesundheitsfachkräften in die Auswahl, eine dokumentierte Datenschutz-Folgenabschätzung sowie eine regelmäßige Überwachung nach der Einführung, damit Fehler früh erkannt und korrigiert werden.
Wer trägt die Verantwortung, wenn eine KI-gestützte Empfehlung zu einem Fehler führt?
Die Verantwortung bleibt bei der Einrichtung und den handelnden Personen, nicht beim KI-System. Deshalb sollten Zuständigkeiten vorab klar geregelt sein: Wer prüft Empfehlungen, wer gibt sie frei, und wer dokumentiert Abweichungen? Menschliche Aufsicht bei KI-gestützten Entscheidungen bedeutet, dass eine qualifizierte Fachkraft das letzte Wort behält. Ergänzend helfen klare Prozesse für den Umgang mit Fehlern, eine lückenlose Nachvollziehbarkeit und regelmäßige Überprüfungen, damit Verantwortlichkeit im interprofessionellen Team nicht unklar bleibt.
Wie können Patientinnen und Patienten über den Einsatz von KI informiert werden?
Information sollte verständlich, frühzeitig und in einfacher Sprache erfolgen: Was macht die KI-Anwendung, welche Daten werden verarbeitet, und welche Wahl haben die Betroffenen? Eine informierte Einwilligung und das Recht auf Widerspruch gehören zu den Patientenrechten. Bewährt haben sich kurze Gesprächsleitfäden für das Team, mehrsprachige Informationsblätter und die Möglichkeit, Fragen an eine feste Ansprechperson zu richten. So entsteht Vertrauen, und Patientinnen und Patienten können den KI-Einsatz bewusst mittragen oder ablehnen.
Wie lassen sich Datenschutz und Privatsphäre bei KI-Anwendungen im Gesundheitswesen schützen?
Datenschutz bei KI im Gesundheitswesen beginnt mit dem Grundsatz der Datenminimierung: nur die Daten verarbeiten, die für den Zweck wirklich nötig sind. Wichtig sind eine dokumentierte Datenschutz-Folgenabschätzung, klare Zugriffsrechte, verschlüsselte Übertragung und die Prüfung, wo die Daten verarbeitet werden. Teams sollten außerdem regelmäßig schulen, damit Gesundheitsdaten nicht versehentlich in falsche Systeme gelangen. Bei Unsicherheiten lohnt sich die Rücksprache mit der Datenschutzbeauftragten oder dem Datenschutzbeauftragten der Einrichtung.
Wie kann verhindert werden, dass KI bestimmte Patientengruppen benachteiligt?
Fairness beginnt bei der Datenqualität: Wenn Trainingsdaten bestimmte Patientengruppen kaum abbilden, können Verzerrungen entstehen. Eine Bias-Prüfung vor der Einführung und in regelmäßigen Abständen hilft, Diskriminierung früh zu erkennen. Dazu gehören Testfälle mit unterschiedlichen Altersgruppen, Sprachkenntnissen und kognitiven Fähigkeiten sowie die Frage, ob Ergebnisse für alle Betroffenen gleich gut funktionieren. Teams sollten Beobachtungen aus der Praxis sammeln und an die Hersteller zurückmelden, damit KI-Systeme schrittweise gerechter werden.





Kommentare