,Was ist das EU-KI-Gesetz?
Das EU-Gesetz über künstliche Intelligenz (Verordnung (EU) 2024/1689) ist nun in Kraft getreten und definiert neu, wie KI-gestützte Medizinprodukte, insbesondere Software als Medizinprodukt (SaMD), in der gesamten Europäischen Union reguliert werden. Als weltweit erster rechtsverbindlicher Rahmen für KI führt das Gesetz eine risikobasierte Einstufung ein und schreibt strenge Anforderungen für Systeme mit hohem Risiko vor, darunter solche, die in der Diagnostik, zur Unterstützung klinischer Entscheidungen und zur Patientenüberwachung eingesetzt werden.
Bei Freyr Solutions verbinden wir unsere fundierte Expertise in den Bereichen MDR, IVDR und SaMD mit den sich wandelnden Anforderungen des KI-Gesetzes, um Medizintechnikherstellern dabei zu helfen, nahtlose, end-to-end zu erreichen und gleichzeitig weiterhin selbstbewusst innovativ zu sein.
Das KI-Gesetz + EU MDR: Ein duales Regulierungsrahmenwerk
Bei KI-gestützten Medizinprodukten wird die Konformität nicht mehr allein durch die MDR geregelt. Der KI-Gesetzentwurf (AI Act) fügt eine zusätzliche Regulierungsebene hinzu, insbesondere wenn das KI-System die Behandlungsergebnisse oder die Entscheidungsfindung des medizinischen Fachpersonals beeinflusst.
Diese doppelte Aufsicht erfordert einen neuen Ansatz: eine harmonisierte Compliance-Strategie, die sowohl die technische Dokumentation gemäß MDR als auch KI-spezifische Anforderungen unter einem einzigen regulatorischen Dach vereint. Freyr ist darauf spezialisiert, diesen integrierten Ansatz umzusetzen, Einreichungen zu optimieren, die Audit-Bereitschaft sicherzustellen und eine schnellere Markteinführung zu ermöglichen.
Risikoklassifizierung gemäß dem EU-KI-Gesetz
Das KI-Gesetz legt vier Stufen von KI-Risiken fest, für die jeweils unterschiedliche Compliance-Verpflichtungen gelten. Die meisten SaMDs fallen unter die Kategorie „hohes Risiko“, was eine umfassende Dokumentation, Tests, Transparenz und eine Überwachung nach dem Inverkehrbringen erfordert.
Inakzeptables Risiko (verbotene KI)
Diese sind EU-weit verboten:
- Emotionserkennung im Gesundheitswesen oder im Bildungsbereich
- Biometrische Echtzeitüberwachung in öffentlichen klinischen Einrichtungen
- Soziale Bewertung bei der Patiententriage oder der Priorisierung der Versorgung
- Prädiktive KI zur individuellen Bewertung von Kriminalitäts- oder Verhaltensrisiken
- Ausbeutung schutzbedürftiger Patientengruppen durch KI
Freyr führt Design-Audits in der frühen Phase durch, um sicherzustellen, dass unzulässige Funktionen bereits vor Beginn der Entwicklung oder der Einbindung einer benannten Stelle beseitigt werden.
Hohes Risiko (die meisten KI-basierten Medizinprodukte)
Zur Einstufung als „hohes Risiko“ gehören:
- Diagnostische KI (z. B. Radiologie, Pathologie)
- Prädiktive Analytik bei der Entscheidungsfindung in der Behandlung
- KI-gestützte Instrumente zur Operationsplanung
- Plattformen zur Auswertung physiologischer Daten
- KI-Module in tragbaren und implantierbaren Geräten
Freyr gewährleistet die Einhaltung gesetzlicher Vorschriften über den gesamten Lebenszyklus hinweg – von der Klassifizierung und CE-Kennzeichnung bis hin zu algorithmischer Transparenz und Cybersicherheit.
Transparenzrisiko
Dies gilt für:
- Von KI erstellte klinische Zusammenfassungen, Empfehlungen oder Warnmeldungen
- Chatbot in der Patientenkommunikation
- Jede durch KI generierte Ausgabe, die Entscheidungen im Gesundheitswesen beeinflusst
Wir erstellen eine klare Dokumentation und Beschriftungen für Benutzeroberflächen, die den Transparenzvorschriften der EU entsprechen.
Minimales oder kein Risiko
Zu dieser Kategorie gehören grundlegende Tools (z. B. nicht-klinische Automatisierung), doch Freyr gewährleistet eine zukunftssichere Compliance-Grundlage, insbesondere für sich weiterentwickelnde Systeme.
Allgemeine KI-Modelle (GPAI) im medizinischen Kontext
Das KI-Gesetz führt neue Verpflichtungen für Medizinprodukte ein, die auf universell einsetzbaren KI-Modellen wie Basis-Modellen, LLMs oder vortrainierten Algorithmen basieren. Diese Bestimmungen treten im August 2025 in Kraft und sind von entscheidender Bedeutung für:
- SaMD , die auf Systemen der GPT-Klasse basieren
- Medizinische Chatbots, die anhand umfangreicher klinischer Korpora trainiert wurden
- KI-basierte Zusammenfassungswerkzeuge in elektronischen Patientenakten (EPAs)
So Freyr Solutions seine Kunden:
- Systemrisiken bewerten
- Anpassung an den Verhaltenskodex für GPAI
- Schulungsdatensätze offenlegen
- Vermeidung von Verzerrungen, Fehlmessungen und Leistungsabweichungen
Zeitplan für die Einhaltung von Vorschriften: Meilensteine für KI in der Medizintechnik
Laut der Seite der Europäischen Kommission zur Umsetzung des KI-Gesetzes gelten folgende Fristen
| Wichtiger Meilenstein | Datum | Auswirkungen auf Medizinprodukte |
|---|---|---|
| Vorschrift durchgesetzt | 1. August 2024 | Maßnahmen zur Startbereitschaft und Klassifizierung |
| Verbot verbotener KI | 2. Februar 2025 | Alle unzulässigen Funktionen müssen eingestellt werden |
| GPAI-Transparenzregeln | 2. August 2025 | Erforderlich für eingebettete Grundmodelle |
| Vollständige Anwendung des KI-Gesetzes | 2. August 2026 | KI-basierte Geräte müssen alle Anforderungen erfüllen |
| Einhaltung der Vorschriften für Medizinprodukte mit hohem Risiko | 2. August 2027 | Endtermin für die vollständige Umsetzung der MDR- und AI-Gesetzgebung |
Freyr unterstützt eine auf diese Phasen abgestimmte behördliche Planung, wodurch Betriebsunterbrechungen auf ein Minimum reduziert werden.
Umfassende Dienstleistungen zur Einhaltung des EU-KI-Gesetzes
Um die Anforderungen des EU-KI-Gesetzes vollständig zu erfüllen, müssen Hersteller von KI-gestützten Medizinprodukten ein breites Spektrum an technischen, regulatorischen und betrieblichen Anforderungen erfüllen. Dazu gehören:
- Risikoklassifizierung und Begründung bei KI-Systemen
- Daten-Governance (Repräsentativität, Qualität, Vermeidung von Verzerrungen)
- Algorithmusvalidierung und klinische Bewertung
- Technische Dokumentation (im Einklang mit der MDR und dem KI-Gesetz)
- Gestaltung von Mechanismen zur menschlichen Aufsicht
- Protokolle für Cybersicherheit und Robustheit
- Koordination der Konformitätsbewertung mit benannten Stellen
- Anforderungen an die Transparenz und Offenlegung im Bereich KI
- CE-Kennzeichnung für KI-basierte Geräte
- Marktüberwachung nach dem Inverkehrbringen hinsichtlich KI-spezifischer Risiken
- Störungsmeldung und Überwachung des Lebenszyklus
- GPAI-Risikoanalyse und Umsetzung des Verhaltenskodex
- Vorbereitung auf Prüfungen und Zusammenarbeit mit Aufsichtsbehörden
- Anpassungen bei der Beschriftung und der Benutzeroberfläche für KI-Ergebnisse
- Schulung für interne Teams aus den Bereichen Regulierung, QA und Entwicklung
Freyr Solutions : Unterstützung bei der Einhaltung Freyr Solutions über den gesamten Lebenszyklus des AI Act hinweg
Freyr Solutions umfassende Unterstützung bei regulatorischen Fragen, die auf den gesamten Geltungsbereich des EU-KI-Gesetzes zugeschnitten ist und sich nahtlos in die Rahmenwerke der MDR und der IVDR einfügt. Unser Ansatz basiert darauf, Compliance und Innovation in Einklang zu bringen, um sicherzustellen, dass KI-gestützte Medizinprodukte schneller, sicherer und vollständig auf die behördliche Überprüfung vorbereitet reach Markt reach .
Wir unterstützen Unternehmen in jeder Phase des Produktlebenszyklus, von der frühen Planungsphase bis zur Marktüberwachung, mit Dienstleistungen, die unter anderem Folgendes umfassen:
![]()
Risikoklassifizierung bei KI und Zuordnung von Anwendungsfällen
Ermittlung des Systemrisikoniveaus gemäß dem KI-Gesetz und Abstimmung mit den MDR-Klassifizierungswegen für Medizinprodukte und SaMD.![]()
Entwicklung einer Regulierungsstrategie und eines Fahrplans
Eine durchgängige Planung, die die Anforderungen des AI Act, der MDR und der IVDR miteinander verbindet und ein einheitliches Compliance-Modell bietet.![]()
Technische Dokumentation und algorithmische Transparenz
Erstellung von KI-spezifischer Dokumentation, einschließlich Leistungskennzahlen, Protokollen zur Erklärbarkeit und Datenrückverfolgbarkeit, die sowohl den Anforderungen von Anhang II der MDR als auch denen des KI-Gesetzes entspricht.![]()
Daten-Governance und Verringerung von Verzerrungen
Gewährleistung der Integrität, Fairness und Repräsentativität von Datensätzen, die für die Sicherheit der KI, die klinische Validität und die Akzeptanz nach der Markteinführung von entscheidender Bedeutung sind.
![]()
Unterstützung bei der CE-Kennzeichnung und Konformitätsbewertung
Einbindung der Ergebnisse des AI-Gesetzes in bestehende MDR-Konformitätsbewertungen und die Zusammenarbeit mit benannten Stellen.![]()
Gestaltung von Mechanismen zur menschlichen Aufsicht
Einführung operativer Rahmenbedingungen, um sicherzustellen, dass medizinisches Fachpersonal die Kontrolle über KI-gesteuerte Ergebnisse behält und dabei menschenzentrierte Governance-Standards erfüllt.![]()
Marktüberwachung für KI-gestützte Geräte
Einrichtung von Überwachungsrahmenwerken zur Erkennung von algorithmischer Drift, Leistungsabfall und Vorfällen, die für adaptive oder lernende Systeme spezifisch sind.![]()
Cybersicherheit, Robustheit und Modellresilienz
Einführung von Kontrollmaßnahmen zur Minderung des Adversarial-Risikos, zur Gewährleistung der Modellrobustheit und zur Förderung der Sicherheit in allen klinischen Umgebungen.
![]()
Strategie für KI-Transparenz und Nutzerkommunikation
Kennzeichnungen, Offenlegungen und Informationen für Patienten, die speziell auf die Transparenzanforderungen des AI Act zugeschnitten sind.![]()
Regelungsrahmen für die Integration von Allzweck-KI
Risikobewertungen und Dokumentation für SaMD Grundmodellen, einschließlich der Anpassung an den Verhaltenskodex und der Minderung systemischer Risiken.![]()
Prüfungsbereitschaft und Zusammenarbeit mit dem EU-KI-Büro
Beratung und Unterstützung bei der Dokumentation im Rahmen von Inspektionen, Überprüfungen und formellen Kontakten mit Aufsichtsbehörden und dem AI-Büro.![]()
Funktionsübergreifende Unterstützung und interne Schulungen
Unterstützung von RA, QA, F&E- und Führungsteams durch maßgeschneiderte Lernmodule und Briefings zu regulatorischen Themen.
Die Dienstleistungen von Freyr sind darauf ausgelegt, mit Ihren Innovationen mitzuwachsen. So stellen wir sicher, dass Ihre regulatorische Infrastruktur – ganz gleich, ob Sie Ihr erstes KI-fähiges Gerät auf den Markt bringen oder auf globale Märkte expandieren – robust und zukunftsfähig ist und sich nahtlos in das sich weiterentwickelnde KI-Ökosystem im Gesundheitswesen einfügt.