Kurzmeldung
Imperial College London veröffentlichte am 24. September 2026 eine Darstellung zur Rolle künstlicher Intelligenz in der Patientensicherheit, in der Kelsey Flott, Associate Director des iCARE‑Programms, den Wandel von rein digitalen Hilfsmitteln zu KI‑gestützten Sicherheitsinstrumenten einordnet. Flott betont, dass Sicherheit künftig die Technologie selbst umfassen müsse — von der Entwicklung über die Zulassung bis zum laufenden Betrieb.
Das iCARE‑Programm arbeitet eng mit Kliniken zusammen und nutzt die Imperial Secure Data Environment (SDE), um Forschenden Analysen mit effektiv anonymisierten Patientendaten innerhalb abgesicherter Infrastrukturen zu ermöglichen. Imperial nennt das NIHR Imperial Biomedical Research Centre als unterstützenden Partner für diese translationalen Forschungsaktivitäten.
Aus der Mitteilung lassen sich vier zentrale Handlungsfelder ableiten: erstens klare Datengrundsätze und Transparenz über Trainings‑ und Einsatzdaten von KI; zweitens eindeutige Verantwortlichkeiten bei Herstellern, Klinikbetreibern und Anwendern; drittens robuste Tests und Validierungsprozesse vor klinischem Einsatz; viertens kontinuierliches Monitoring im Betrieb sowie verbindliche Meldeverfahren für unerwünschte Ereignisse. Flott richtet diese Forderungen gleichermaßen an Entwickler, Kliniken und Regulierungsstellen.
Für das nationale Gesundheitssystem ergeben sich praktische Konsequenzen: Wenn KI Vorschläge in klinische Entscheidungen einspeist, verändern sich Haftungsfragen, Schulungsanforderungen und Audit‑Pflichten. Patientensicherheit wird damit zugleich technisches, organisatorisches und regulatorisches Thema. Klinische Prozesse, Zuständigkeiten und Ausbildungsprogramme müssten so gestaltet werden, dass menschliche Aufsicht, Nachvollziehbarkeit von Entscheidungen und Eingriffsmöglichkeiten jederzeit sichergestellt sind.
Die Einordnung korrespondiert mit bereits publizierten, peer‑reviewten Arbeiten zu „digitaler Sicherheit“, die Risiken vernetzter Software in der Versorgung beschrieben haben. Für das Vereinigte Königreich empfiehlt die Mitteilung, Datennutzung in sicheren Umgebungen zu stärken, unabhängige Prüfungen von KI‑Systemen in reguläre klinische Routinen zu integrieren und personal‑ wie prozessbezogene Sicherheitsmaßnahmen in Kliniken weiterzuentwickeln, damit Technik, Organisation und Aufsicht zusammenwirken.
Redakteur: Andreas M. Brucker (Artikel mit KI-Unterstützung).