Künstliche Intelligenz spielt im Gesundheitswesen eine immer größere Rolle – von der Diagnoseunterstützung und der Automatisierung von Arbeitsabläufen bis hin zu Entscheidungshilfetools und der Patientenüberwachung. Da diese Anwendungen den Schritt von Pilotprojekten in den klinischen Routineeinsatz vollziehen, gewinnen die regulatorischen Auswirkungen für Medizinproduktehersteller und deren Anwender zunehmend an Bedeutung.
Die zentrale Frage lautet nicht mehr, ob KI im Gesundheitswesen zum Einsatz kommen wird, sondern wie sichergestellt werden kann, dass KI-gestützte Produkte so entwickelt, validiert und überwacht werden, dass sie den Erwartungen sowohl der Regulierungsbehörden als auch der benannten Stellen entsprechen. In der EU und den USA bedeutet dies, zu verstehen, wie KI in bestehende Rahmenbedingungen für Medizinprodukte passt, und gleichzeitig neue und sich weiterentwickelnde Anforderungen zu berücksichtigen, die die spezifischen Risiken von KI und maschinellem Lernen widerspiegeln.
In der EU bilden die MDR und die IVDR weiterhin die Grundlage für das Inverkehrbringen von KI-gestützten Medizinprodukten. Das bedeutet, dass die üblichen Säulen gelten: Verwendungszweck, Klassifizierung, klinische Bewertung oder Leistungsbewertung, Risikomanagement, Kontrolle des Software-Lebenszyklus, Cybersicherheit und Überwachung nach dem Inverkehrbringen. Die Tatsache, dass das Produkt KI enthält, erhöht die Anforderungen daran, wie überzeugend Hersteller die Kontrolle über das Verhalten des Systems nachweisen müssen – insbesondere, wenn das Modell von Dateneingaben, Trainingsdatensätzen und algorithmischen Aktualisierungen abhängt.
In der aktuellen Situation ist der TEAM-NB-Fragebogen zu KI in Medizinprodukten als Instrument zur Vorbereitung nützlich, da er Teams dazu zwingt, frühzeitig die richtigen Fragen zu stellen. Wie wurde das Modell trainiert? Welche Daten wurden verwendet? Wie wurde die Verzerrung bewertet? Welche Validierung stützt den Verwendungszweck? Wie werden Aktualisierungen kontrolliert? Wie sieht der Überwachungsplan aus, sobald das Produkt im Einsatz ist? Dies sind keine theoretischen Fragen. Es handelt sich um Probleme, die darüber entscheiden, ob die technische Dokumentation ein schlüssiges Bild hinsichtlich Sicherheit, Leistung und Kontrolle vermittelt.
Der AI Act fügt für KI-Systeme mit hohem Risiko eine weitere Ebene hinzu, die alle Medizinprodukte/In-vitro-Diagnostika umfasst, für die eine Bewertung durch eine benannte Stelle erforderlich ist – darunter viele KI-fähige Medizinprodukte. Die zentrale Frage ist hier, inwieweit sich die Anforderungen des AI Act mit den bestehenden Verpflichtungen für Medizinprodukte überschneiden (siehe MDCG 2025-6). Hier kommt es auf eine konsequente Umsetzung an: Durch die Einbindung KI-spezifischer Anforderungen in das bestehende MDR-/IVDR-Qualitätssystem lässt sich oft ein effizienteres und besser vertretbares Dossier erstellen. Neben dem Team-NB-Fragebogen müssen Themen wie menschliche Aufsicht, ethische Überlegungen und Auswirkungen auf die Umwelt berücksichtigt werden.
Die jüngste Einigung zum „Digital Omnibus“ verschafft Medizinprodukteherstellern etwas mehr Spielraum, da das Inkrafttreten des KI-Gesetzes für Medizinprodukte um ein Jahr auf den 2. August 2028 verschoben wird. Versuche, die direkte Anwendbarkeit des KI-Gesetzes auf bereits regulierte Produkte (Liste A von Anhang I) aufzuheben, scheiterten mit Ausnahme der Maschinenrichtlinie, sodass Medizinprodukte und In-vitro-Diagnostika weiterhin vollständig in den Geltungsbereich fallen (siehe auch den Team-NB-Beitrag zum Digital-Omnibus-Abkommen). Wenn Ihr KI-Medizinprodukt bereits vor dem 2. August 2028 auf dem Markt ist, muss es nicht den Verpflichtungen für hochriskante KI-Systeme gemäß Anhang I entsprechen, wie in MDCG 2025-6, Frage 31, klargestellt wurde:[i], es sei denn, es werden wesentliche Änderungen an seinem Design vorgenommen (beachten Sie, dass die Definition einer wesentlichen Änderung nicht festgelegt ist).
Der US-amerikanische Ansatz unterscheidet sich in seiner Struktur, nicht jedoch in der zugrunde liegenden Logik. Die FDA hat klargestellt, dass KI-gestützte Softwarefunktionen von Medizinprodukten im Kontext ihres gesamten Lebenszyklus bewertet werden müssen. Das bedeutet, dass die Aufsichtsbehörden nicht nur die vor der Markteinführung vorliegenden Nachweise prüfen, sondern auch, wie der Hersteller mit Updates, Leistungsabweichungen sowie der fortlaufenden Sicherheit und Wirksamkeit umgeht.
Eine der wichtigsten Entwicklungen in den USA ist die zunehmende Betonung einer vorab festgelegten Planungskontrolle für Änderungen bei KI-gestützten Funktionen. Dies ist besonders relevant für Produkte, von denen erwartet wird, dass sie nach der Inbetriebnahme lernen, sich anpassen oder aktualisiert werden. Die praktische Botschaft lautet, dass die FDA von den Herstellern nicht verlangt, Innovationen einzustellen. Sie fordert sie vielmehr auf, im Voraus die Grenzen zu definieren, innerhalb derer Innovationen stattfinden sollen. Dazu gehören die Art der zu erwartenden Änderungen, der Validierungsansatz für diese Änderungen sowie die Kontrollmaßnahmen zur Gewährleistung von Sicherheit und Wirksamkeit.
In den Vereinigten Staaten werden KI-gestützte Medizinprodukte nicht über ein separates Regulierungssystem auf den Markt gebracht. Sie müssen in die bestehende Geräteklassifizierung und die bestehenden Zulassungsverfahren der FDA passen, was bedeutet, dass der Verwendungszweck, das Risikoprofil und die Softwarefunktion weiterhin den Ausgangspunkt für die regulatorische Analyse bilden. Die wichtigsten Zulassungsverfahren der FDA sind 510(k), De Novo und PMA, wobei die meisten KI-gestützten Produkte unter die ersten beiden fallen, sofern das Risikoprofil nicht hoch ist.
Bei beiden Zulassungssystemen geht es bei der KI-Konformität von Medizinprodukten zunehmend darum, gutes Datenmanagement, Design- und Änderungsdisziplin nachzuweisen. Der Antrag muss den Verwendungszweck, die Rolle des Algorithmus, den Validierungsrahmen, die Überlegungen zu menschlichen Faktoren sowie die Strategie zur Überwachung nach dem Inverkehrbringen so erläutern, dass das Produkt verständlich und handhabbar ist. Die FDA stellt nicht unbedingt dieselben Fragen wie eine benannte Stelle der EU, doch die Kernthemen sind bekannt: Rückverfolgbarkeit, Nachweisführung, Risikokontrolle und Verantwortlichkeit über den gesamten Lebenszyklus hinweg.
Für Unternehmen, die sich fragen, wo sie ihr Produkt auf den Markt bringen sollen, würde sich die anfängliche Strategie nicht allzu sehr unterscheiden. Unabhängig vom gewählten Weg beginnt alles damit, den Verwendungszweck und die Leistungsangaben der KI präzise zu definieren. KI führt zu Unklarheiten bei der Konformität, wenn Teams vage bleiben, was das Produkt leistet, für wen es bestimmt ist und unter welchen Bedingungen es eingesetzt wird. Ein eng gefasster und gut begründeter Verwendungszweck macht die Klassifizierung, Validierung und Risikobewertung wesentlich überschaubarer.
Zweitens muss die Systemarchitektur entworfen und Datenabhängigkeiten identifiziert werden. Es ist entscheidend zu verstehen, woher die Daten stammen, wie sie aufbereitet werden, ob sie für das Training oder die Inferenz verwendet werden und wie sich Änderungen an den Eingaben auf die Ausgaben auswirken können. Dies ist sowohl für Anträge in der EU als auch in den USA von grundlegender Bedeutung. Drittens müssen die Kontrollen für den gesamten Lebenszyklus integriert werden. Dazu gehören Designkontrollen, Verifizierung und Validierung, Cybersicherheit, Modellüberwachung, Update-Management und Überwachung nach dem Inverkehrbringen. Werden diese Kontrollen nicht frühzeitig dokumentiert, führen sie später oft zu kostspieligen Nachrüstungsarbeiten.
Erst auf der vierten Ebene kommen geografische Unterschiede ins Spiel, da bei der Ausrichtung auf mehrere Märkte die Nachweispakete für die verschiedenen Rechtsordnungen identifiziert und aufeinander abgestimmt werden müssen. Eine gute Doppelmarktstrategie bedeutet nicht, zwei völlig unterschiedliche technische Unterlagen oder Zulassungsanträge zu erstellen. Sie bedeutet vielmehr, eine zentrale Nachweisarchitektur zu entwickeln und diese dann an die spezifischen regulatorischen Anforderungen jeder Region anzupassen.
Unter Berücksichtigung von Aufwand, Zeitplänen und Kosten könnte die Wahl der USA als erster Markt für die Markteinführung von Vorteil sein, sofern ein geeignetes Referenzprodukt vorliegt. Ist kein Referenzprodukt verfügbar, sind die Unterschiede zwischen der EU und den USA deutlich geringer und könnten sogar für die EU sprechen, da die USA bei der Verwendung von US-Daten strenger sind, während die EU flexibler ist, solange die Verwendung von Daten aus Ländern außerhalb der EU begründet werden kann.
Sobald die CE-Kennzeichnung oder die FDA-Zulassung vorliegt, öffnen sich die Türen zum Rest der Welt, da viele Länder einen schnellen Marktzugang für Produkte mit CE-Kennzeichnung oder FDA-Zulassung gewähren. Wenn Sie mehr über die Registrierung Ihres KI-Medizinprodukts im Rest der Welt erfahren möchten, nehmen Sie an unserem Webinar am 25. Juni teil.
[i] Korrigiert gemäß dem Digital-Omnibus-Abkommen.