Für Spitäler, Kliniken, Praxen, Diagnostiklabore und Medtech-Hersteller ist der EU AI Act (Verordnung (EU) 2024/1689) kein abstraktes Zukunftsthema mehr. Medizinische KI für Diagnose, Triage und klinische Entscheidungsunterstützung zählt zu den deutlichsten Hochrisiko-Kandidaten der Verordnung. Die spannende Frage ist nicht «Wann genau gilt was?», sondern «Welche KI-Systeme setzen wir bereits ein – und wissen wir, in welche Klasse sie fallen?».

Bewusst halten wir die Fristen weich. Die Hochrisiko-Pflichten greifen je nach Konstellation ab 2026/2027, doch die Termine stehen unter Revision: Der sogenannte Digital Omnibus der EU-Kommission kann die Hochrisiko-Zeitachse noch verschieben. Wir empfehlen daher, die Fristen im Einzelfall zu prüfen und das verbindliche Datum nicht zum Treiber zu machen. Der eigentliche Treiber ist ein anderer: Ein KI-Inventar und eine saubere Erstklassifikation brauchen Vorlauf, unabhängig davon, ob die Frist am Ende ein halbes Jahr früher oder später greift. Wer heute beginnt, hat Spielraum; wer auf das endgültige Datum wartet, gerät unter Zeitdruck.

Dieser Beitrag ist als praktischer Aktionsplan angelegt: Was sollten Gesundheitsorganisationen konkret tun, um den AI Act für medizinische KI in den Griff zu bekommen – Schritt für Schritt, ohne Doppelarbeit zur bestehenden Medizinprodukte-Dokumentation.

Medizinische KI fällt typischerweise über zwei Wege in die Hochrisiko-Kategorie. Erstens über Art. 6 Abs. 1 i.V.m. Annex I: Ist die KI ein Sicherheitsbauteil eines Medizinprodukts oder selbst ein Medizinprodukt nach MDR 2017/745 bzw. ein In-vitro-Diagnostikum nach IVDR 2017/746 und unterliegt es einer Konformitätsbewertung durch eine Benannte Stelle, ist es hochrisikobehaftet. Das erfasst den Grossteil klinisch eingesetzter KI: Bildanalyse in der Radiologie und Pathologie, KI-gestützte Befundung, algorithmische Triage in der Notaufnahme, Clinical Decision Support (CDSS), das Therapieoptionen vorschlägt oder Risiken scort.

Zweitens kann KI über Annex III relevant werden – etwa wenn ein System die Priorisierung von Notrufen steuert oder über den Zugang zu Gesundheitsleistungen mitentscheidet. In der klinischen Praxis dominiert jedoch der MDR/IVDR-Pfad.

Eine wichtige Abgrenzung: Reine Verwaltungs- und Dokumentations-KI ohne klinische Wirkung (Terminplanung, Spracherkennung für Diktate ohne Befundeinfluss, Abrechnungsunterstützung) ist in der Regel nicht hochrisikobehaftet. Entscheidend ist die Zweckbestimmung: Beeinflusst die Ausgabe eine medizinische Entscheidung über einen Patienten, steht die Hochrisiko-Vermutung im Raum.

Der wichtigste praktische Hebel für Medtech und Anwender ist das Zusammenspiel von AI Act und Medizinprodukterecht. Die Cybersicherheits- und Qualitätsanforderungen der MDR/IVDR sind bereits in Kraft – das ist kein neues Pflichtenset, das 2027 «startet». Der AI Act setzt darauf auf, statt es zu ersetzen.

Konkret erlaubt die Verordnung, die AI-Act-Anforderungen in die bestehenden MDR/IVDR-Strukturen zu integrieren, statt eine parallele Welt aufzubauen. Das Risikomanagement nach Art. 9 AI Act lässt sich mit dem Risikomanagement nach ISO 14971 verschränken. Die technische Dokumentation nach Annex IV AI Act kann in die technische Dokumentation der MDR aufgenommen werden. Das Qualitätsmanagementsystem nach Art. 17 AI Act greift in das bestehende QMS nach ISO 13485. Auch die Konformitätsbewertung kann über die bereits beteiligte Benannte Stelle laufen, sofern diese für den AI Act notifiziert ist.

Das Ziel lautet: ein konsolidiertes Dossier statt zweier Aktenberge. Wer die Anforderungen früh sauber mappt – welche AI-Act-Pflicht durch welches MDR/IVDR-Artefakt bereits abgedeckt ist und wo eine echte Lücke besteht –, vermeidet Doppelarbeit und widersprüchliche Dokumentation. Genau dieses Mapping ist der wertvollste Frühschritt.

In der Praxis sehen wir wiederkehrende Fehleinschätzungen. Erstens: «Unsere KI gibt nur Hinweise, die Ärztin entscheidet.» – Annex III und der MDR-Pfad stellen nicht auf «autonome Entscheidung» ab. Ein CDSS, das eine Vorauswahl oder einen Risiko-Score liefert, bleibt hochrisikobehaftet, auch wenn die finale Entscheidung beim Menschen liegt.

Zweitens: «Das ist nur ein Forschungstool.» – Solange das System nicht klinisch eingesetzt wird und unter eine echte Forschungsausnahme fällt, mag das stimmen; sobald es im Versorgungsalltag mitwirkt, kippt die Einstufung. Drittens: «Wir kaufen das Produkt ein, also betrifft uns der AI Act nicht.» – Falsch: Der Hersteller ist Anbieter, doch das Spital ist Betreiber mit eigenen Pflichten (dazu unten). Viertens: «Wir sind ein Schweizer Spital ohne EU-Bezug.» – Der AI Act erfasst Sie, sobald Sie ein KI-System eines EU-Anbieters einsetzen, der es im EU-Markt bereitstellt, oder sobald der Output in der EU genutzt wird. Die Schweiz hat den AI Act nicht übernommen, doch über Lieferketten und EU-Niederlassungen reicht er faktisch weit.

Fünftens: «MDR-konform heisst AI-Act-konform.» – Die Schnittmenge ist gross, aber nicht deckungsgleich. Datenqualität, Bias-Prüfung und menschliche Aufsicht gehen über das klassische MDR-Pflichtenheft hinaus.

Zwei AI-Act-Anforderungen verdienen besondere Aufmerksamkeit, weil sie über das hinausgehen, was viele Häuser bereits dokumentiert haben.

Menschliche Aufsicht (Art. 14). Hochrisiko-KI muss so gestaltet sein, dass medizinisches Fachpersonal die Ausgabe verstehen, hinterfragen und überstimmen kann. Für den Betrieb heisst das: definierte Verantwortlichkeiten, Schulung der anwendenden Ärztinnen und Pflegenden, dokumentierte Eskalationswege bei auffälligen Empfehlungen und der Schutz vor Automation Bias – also der unkritischen Übernahme von KI-Vorschlägen. Aufsicht ist keine Formalie, sondern muss im klinischen Workflow gelebt werden.

Daten-Governance (Art. 10). Trainings-, Validierungs- und Testdaten müssen repräsentativ, möglichst fehlerfrei und auf den Einsatzkontext zugeschnitten sein. Im Gesundheitswesen ist das besonders heikel: Verzerrte Datensätze können einzelne Patientengruppen systematisch benachteiligen. Anbieter müssen dies belegen; Betreiber sollten prüfen, ob die Validierung zur eigenen Population passt. Beides verschränkt sich mit der Datenschutz-Folgenabschätzung nach Art. 22 DSG bzw. Art. 35 DSGVO – ein weiterer Grund, die Verfahren früh zusammenzuführen.

Die Rollenfrage entscheidet über den Umfang Ihrer Pflichten. Der Hersteller der medizinischen KI ist Anbieter im Sinne des AI Act und trägt die Hauptlast: Risikomanagement, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung. Das Spital, die Klinik oder die Praxis, die das Produkt einkauft und nutzt, ist Betreiber (Deployer) nach Art. 26 – mit eigenen, schlankeren, aber realen Pflichten: das System bestimmungsgemäss einsetzen, die menschliche Aufsicht sicherstellen, die Eingabedaten im Verantwortungsbereich auf Relevanz prüfen, den Betrieb überwachen und Logs aufbewahren, Vorfälle an den Anbieter melden und die Belegschaft informieren.

Achtung beim Rollenwechsel: Wer eine eingekaufte KI wesentlich modifiziert, sie unter eigenem Namen bereitstellt oder ihre Zweckbestimmung ändert, kann nach Art. 25 selbst zum Anbieter werden – mit der vollen Pflichtenlast. Das betrifft etwa Häuser, die ein Modell auf eigene Daten nachtrainieren oder eigene Algorithmen entwickeln. Für öffentliche Stellen und bestimmte Konstellationen kommt zusätzlich die Grundrechte-Folgenabschätzung nach Art. 27 in Betracht. Die Rollenanalyse muss pro System und pro Einsatzart erfolgen, nicht pauschal für das ganze Haus.

Schritt 1: KI-Inventar erstellen. Erfassen Sie alle eingesetzten und geplanten KI-Systeme mit klinischem Bezug – inklusive in Geräten eingebetteter KI, die nicht immer als «KI» beschafft wurde. Ohne dieses Inventar ist jede weitere Planung Stochern im Nebel.

Schritt 2: Erstklassifikation. Bestimmen Sie für jedes System die Risikoklasse und den Pfad (MDR/IVDR-Annex-I oder Annex III). Eine schnelle erste Orientierung liefert unser AI-Act-Triage-Tool für medizinische KI – ein kostenloser Selbstcheck als Einstieg.

Schritt 3: Rollen und Lücken klären. Anbieter oder Betreiber? Welche AI-Act-Pflicht ist durch vorhandene MDR/IVDR-Artefakte schon abgedeckt, wo bleibt eine echte Lücke? Das ist der Kern des AI Governance Check (ab CHF 3'900), der Ihr Portfolio strukturiert gegen den AI Act prüft.

Schritt 4: Verantwortung verankern. Wer steuert KI-Governance dauerhaft – Inventarpflege, Aufsichtsprozesse, Vorfallmeldungen? Ein AI Officer (ab CHF 500/Monat) übernimmt diese Rolle laufend, intern oder ausgelagert.

Schritt 5: Vertiefen, wo nötig. Für LLM-, RAG- oder Agenten-Komponenten in klinischen Tools ergänzt unsere AI Security (ab CHF 8'000) die technische Robustheitsprüfung. Den Gesamtüberblick für medizinische KI bündeln wir auf unserer Themenseite EU AI Act für medizinische KI.

SIDD ist eine juristisch geführte Schweizer Datenschutz- und Informationssicherheits-Boutique. Wir begleiten Gesundheitsorganisationen bei der rechtssicheren Einordnung medizinischer KI: vom KI-Inventar über die Erstklassifikation und Rollenanalyse bis zum konsolidierten Dossier, das AI Act und MDR/IVDR zusammenführt, statt sie doppelt zu dokumentieren. Wo ein SIDD-Anwalt in anwaltlicher Funktion berät, können Ihre Angaben dem Berufsgeheimnis nach Art. 321 StGB unterliegen.

Wir verbinden die KI-Compliance mit der Datenschutz-Folgenabschätzung, der Informationssicherheit nach ISO 27001/ISMS und – wo es um hands-on Tests medizinischer Geräte geht – der Vermittlung an einen spezialisierten Testpartner. Eine schnelle Erstklassifikation Ihrer medizinischen KI («Bin ich hochrisikobehaftet? Welche Systeme?») besprechen wir gern über unser Kontaktformular; ein vollumfängliches Mandat beantragen Sie über unser Offerte-Formular. Da die Hochrisiko-Fristen unter Revision stehen, prüfen wir die konkrete Zeitachse stets für Ihren Einzelfall.