Was ist die EU-KI-Verordnung?
Die EU-Verordnung über künstliche Intelligenz (Verordnung (EU) 2024/1689) ist nun in Kraft getreten und definiert neu, wie KI-gestützte Medizinprodukte, insbesondere Software als Medizinprodukt (SaMD), in der gesamten Europäischen Union reguliert werden. Als weltweit erster rechtsverbindlicher Rahmen für KI führt die Verordnung eine risikobasierte Struktur ein, die strenge Anforderungen für Hochrisikosysteme vorschreibt, einschließlich solcher, die in der Diagnostik, der klinischen Entscheidungsunterstützung und der Patientenüberwachung eingesetzt werden.
Bei Freyr Solutions integrieren wir unser umfassendes Fachwissen in der MDR-, IVDR- und SaMD-Regulierung mit den sich entwickelnden Anforderungen der KI-Verordnung, um MedTech-Hersteller dabei zu unterstützen, eine nahtlose End-to-End-Compliance zu erreichen und gleichzeitig weiterhin mit Zuversicht Innovationen voranzutreiben.
Der AI Act + die EU MDR: Ein doppeltes regulatorisches Rahmenwerk
Für KI-gesteuerte Medizinprodukte wird die Compliance nicht mehr allein durch die MDR geregelt. Die KI-Verordnung fügt eine zusätzliche regulatorische Ebene hinzu, insbesondere wenn das KI-System Patientenergebnisse oder die Entscheidungsfindung von Klinikern beeinflusst.
Diese duale Aufsicht erfordert einen neuen Ansatz: eine harmonisierte Compliance-Strategie, die sowohl die technische Dokumentation der MDR als auch die KI-spezifischen Anforderungen unter einem einzigen regulatorischen Dach integriert. Freyr ist darauf spezialisiert, diesen integrierten Weg zu ermöglichen, Einreichungen zu optimieren, die Audit-Bereitschaft sicherzustellen und eine schnellere Markteinführung zu ermöglichen.
Risikoklassifizierung gemäß dem EU AI Act
Die KI-Verordnung legt vier Stufen des KI-Risikos fest, jede mit spezifischen Compliance-Verpflichtungen. Die meisten SaMDs fallen unter die Hochrisikokategorie, was eine umfassende Dokumentation, Tests, Transparenz und Überwachung nach dem Inverkehrbringen erfordert.
Unannehmbares Risiko (Verbotene KI)
Diese sind in der gesamten EU verboten:
- Emotionserkennung in Gesundheits- oder Bildungseinrichtungen
- Biometrische Überwachung in Echtzeit in öffentlichen klinischen Umgebungen
- Social Scoring bei der Patiententriage oder der Priorisierung der Versorgung
- Prädiktive KI, eingesetzt zur individuellen Bewertung von Kriminalitäts- oder Verhaltensrisiken
- Ausbeutung gefährdeter Patientengruppen mittels KI
Freyr führt Design-Audits in der Frühphase durch, um sicherzustellen, dass verbotene Funktionalitäten vor der Entwicklung oder der Einbindung einer benannten Stelle ausgeschlossen werden.
Hohes Risiko (Mehrheit der KI-basierten Medizinprodukte)
Die Hochrisikoklassifizierung umfasst:
- Diagnose-KI (z. B. Radiologie, Pathologie)
- Prädiktive Analysen bei der Entscheidungsfindung für die Behandlung
- KI-gestützte Operationsplanungstools
- Plattformen zur Interpretation physiologischer Daten
- KI-Module in tragbaren und implantierbaren Geräten
Freyr ermöglicht die Einhaltung der Vorschriften über den gesamten Lebenszyklus hinweg, von der Klassifizierung und CE-Kennzeichnung bis hin zur algorithmischen Transparenz und Cybersicherheit.
Transparenzrisiko
Dies gilt für:
- KI-generierte klinische Zusammenfassungen, Empfehlungen oder Warnmeldungen
- chatbot-Schnittstellen in der Patientenkommunikation
- Jede KI-generierte Ausgabe, die Gesundheitsentscheidungen beeinflusst
Wir erstellen eine klare Dokumentation und Kennzeichnung der Benutzeroberfläche im Einklang mit den Transparenzpflichten der EU.
Minimales oder kein Risiko
Grundlegende Tools (z. B. nicht-klinische Automatisierung) fallen in diese Kategorie, Freyr sorgt jedoch für eine zukunftssichere Grundlage für die Einhaltung der Vorschriften, insbesondere für sich weiterentwickelnde Systeme.
Allzweck-KI-Modelle (GPAI) im medizinischen Kontext
Der AI Act führt neue Verpflichtungen für Medizinprodukte ein, die Allzweck-KI-Modelle nutzen, wie z. B. Basismodelle, LLMs oder vortrainierte Algorithmen. Diese Bestimmungen treten im August 2025 in Kraft und sind entscheidend für:
- SaMD-Plattformen, die auf GPT-Klasse-Systemen basieren
- Medizinische chatbots, die auf umfangreichen klinischen Korpora trainiert wurden
- KI-Zusammenfassungstools in elektronischen Gesundheitsakten (EHR)
Wie Freyr Solutions Kunden hilft:
- Systemisches Risiko bewerten
- Ausrichtung am Verhaltenskodex für GPAI
- Trainingsdatensätze offenlegen
- Vermeidung von Verzerrungen, Halluzinationen und Leistungsabfall
Zeitplan für die Einhaltung der Vorschriften: Meilensteine für KI in Medizinprodukten
Gemäß der Seite der Europäischen Kommission zur Umsetzung des KI-Gesetzes gelten die folgenden Zeitpläne
| Wichtiger Meilenstein | Datum | Auswirkungen auf Medizinprodukte |
|---|---|---|
| Verordnung tritt in Kraft | 1. August 2024 | Beginn der Vorbereitungs- und Klassifizierungsaktivitäten |
| Verbot von unzulässiger KI | 2. Februar 2025 | Nicht zulässige Funktionen müssen eingestellt werden |
| GPAI-Transparenzregeln | 2. August 2025 | Erforderlich für eingebettete Basismodelle |
| Vollständige Anwendung des KI-Gesetzes | 2. August 2026 | KI-basierte Geräte müssen alle Anforderungen erfüllen |
| Einhaltung der Vorschriften für Hochrisiko-Medizinprodukte | 2. August 2027 | Endgültiges Datum für die vollständige Integration von MDR + KI-Gesetz |
Freyr unterstützt die regulatorische Planung, die auf diese Phasen abgestimmt ist, um betriebliche Störungen zu minimieren.
Umfassende Dienstleistungen für die Einhaltung des EU-KI-Gesetzes
Um das EU-KI-Gesetz vollständig einzuhalten, müssen Hersteller von KI-gestützten Medizinprodukten ein breites Spektrum an technischen, regulatorischen und operativen Anforderungen erfüllen. Dazu gehören:
- Risikoklassifizierung und Begründung von KI-Systemen
- Daten-Governance (Repräsentativität, Qualität, Kontrolle von Verzerrungen)
- Validierung von Algorithmen und klinische Bewertung
- Technische Dokumentation (im Einklang mit MDR und KI-Verordnung)
- Gestaltung von Mechanismen zur menschlichen Aufsicht
- Cybersicherheits- und Robustheitsprotokolle
- Koordination der Konformitätsbewertung mit Benannten Stellen
- Transparenz von KI und Offenlegungspflichten
- CE-Kennzeichnung für KI-basierte Medizinprodukte
- Überwachung nach dem Inverkehrbringen für KI-spezifische Risiken
- Meldung von Vorkommnissen und Lebenszyklusüberwachung
- GPAI-Risikoanalyse und Umsetzung von Verhaltenskodizes
- Vorbereitung auf Audits und Koordination mit Regulierungsbehörden
- Kennzeichnungs- und UI-Anpassungen für KI-Ausgaben
- Schulung für das interne Regulierungsteam, QA und Entwicklungsteam
Regulatorische Unterstützung durch Freyr Solutions über den gesamten Lebenszyklus der KI-Verordnung
Freyr Solutions bietet umfassende regulatorische Unterstützung, die auf den gesamten Anwendungsbereich des EU AI Act zugeschnitten und nahtlos in die Rahmenwerke der MDR und IVDR integriert ist. Unser Ansatz basiert darauf, die Einhaltung von Vorschriften mit Innovation zu verbinden, um sicherzustellen, dass KI-gestützte Medizinprodukte schneller, sicherer und vollständig auf die regulatorische Prüfung vorbereitet auf den Markt gelangen.
Wir unterstützen Unternehmen in jeder Phase des Produktlebenszyklus, von der frühen Planungsphase bis zur Überwachung nach dem Inverkehrbringen, mit Dienstleistungen, die unter anderem Folgendes umfassen:
![]()
KI-Risikoklassifizierung und Anwendungsfall-Zuordnung
Bestimmung des Systemrisikolevels gemäß der KI-Verordnung und Abstimmung mit den MDR-Klassifizierungspfaden für Medizinprodukte und SaMD.![]()
Regulierungsstrategie und Entwicklung einer Roadmap
Umfassende Planung, die die Verpflichtungen der KI-Verordnung, MDR und IVDR miteinander verbindet und ein einheitliches Compliance-Modell liefert.![]()
Technische Dokumentation und algorithmische Transparenz
Erstellung KI-spezifischer Dokumentation, einschließlich Leistungskennzahlen, Erklärbarkeitsprotokollen und Datenrückverfolgbarkeit, im Einklang mit den Anforderungen des MDR Anhang II und der KI-Verordnung.![]()
Daten-Governance und Minderung von Verzerrungen
Sicherstellung der Integrität, Fairness und Repräsentativität von Datensätzen, entscheidend für die KI-Sicherheit, klinische Validität und die Akzeptanz nach dem Inverkehrbringen.
![]()
CE-Kennzeichnung und Unterstützung bei der Konformitätsbewertung
Integration der Ergebnisse der KI-Verordnung mit bestehenden MDR-Konformitätsbewertungen und Interaktionen mit Benannten Stellen.![]()
Gestaltung von Mechanismen zur menschlichen Aufsicht
Implementierung von operativen Rahmenwerken, um sicherzustellen, dass Kliniker die Kontrolle über KI-gesteuerte Ergebnisse behalten und menschenzentrierte Governance-Standards erfüllt werden.![]()
Post-Market Surveillance für KI-fähige Geräte
Aufbau von Überwachungsrahmenwerken zur Erkennung von algorithmischer Drift, Leistungsabfall und Auslösern für Vorfälle, die spezifisch für adaptive oder lernende Systeme sind.![]()
Cybersicherheit, Robustheit und Modellresilienz
Implementierung von Kontrollen zur Minderung adverser Risiken, zur Gewährleistung der Modellrobustheit und zur Unterstützung der Sicherheit in klinischen Umgebungen.
![]()
KI-Transparenz und Kommunikationsstrategie für Nutzer
Kennzeichnung, Offenlegungen und patientenbezogene Informationen, die auf die Einhaltung der Transparenzpflichten des KI-Gesetzes zugeschnitten sind.![]()
Governance für die Integration von KI für allgemeine Zwecke
Risikobewertungen und Dokumentation für SaMD, die Basismodelle integrieren, einschließlich der Ausrichtung an Verhaltenskodizes und der Minderung systemischer Risiken.![]()
Prüfungsbereitschaft und Zusammenarbeit mit dem EU KI-Büro
Beratungs- und Dokumentationsunterstützung für Inspektionen, Überprüfungen und formelle Interaktionen mit Regulierungsbehörden und dem KI-Büro.![]()
Funktionsübergreifende Befähigung und interne Schulungen
Befähigung von RA-, QA-, F&E- und Führungsteams durch maßgeschneiderte Lernmodule und Briefings zu regulatorischen Entwicklungen.
Die Dienstleistungen von Freyr sind darauf ausgelegt, mit Ihrer Innovation zu skalieren und sicherzustellen, dass Ihre regulatorische Infrastruktur robust, zukunftssicher und auf das sich entwickelnde KI-Ökosystem im Gesundheitswesen abgestimmt ist, egal ob Sie Ihr erstes KI-fähiges Gerät auf den Markt bringen oder in globale Märkte expandieren.