2 Min. Lesezeit
In letzter Zeit hat der Einsatz von KI/ML (Künstliche Intelligenz / Maschinelles Lernen) aufgrund der Fähigkeit, eine Vielzahl von Erkrankungen zu diagnostizieren, zu behandeln und die Patientenversorgung zu verbessern, einen riesigen technologischen Wandel in der Medizinprodukte- und Gesundheitsbranche ausgelöst. Es gibt jedoch anscheinend Hürden bei der Einführung von KI/ML im Alltag, insbesondere im Hinblick auf Transparenzprobleme rund um die Softwareprogramme. Daher ist es von entscheidender Bedeutung, diese Technologien zu regulieren, weshalb sich die Aufsichtsbehörden intensiv um die Kontrolle der KI/ML-Implementierung bemühen.
Aus diesem Grund hat die FDA einen fünfteiligen Aktionsplan für die Aufsicht über sichere und patientenzentrierte KI/ML-basierte SaMD veröffentlicht. Was beinhaltet dieser Aktionsplan? Versuchen wir, ihn zu verstehen.
Die FDA beabsichtigt, die Entwicklung von SaMD voranzutreiben, und hat folgenden fünfteiligen Aktionsplan skizziert:
- Entwicklung eines maßgeschneiderten regulatorischen Rahmens für medizinische Software durch die Veröffentlichung eines Entwurfs für eine Leitlinie zum vorher festgelegten Änderungskontrollplan für lernende Software
- Gute Praxis für maschinelles Lernen (GMPL) zur Bewertung von ML-Algorithmen
- Patientenzentrierter Ansatz unter Einbezug von Transparenz für die Anwender
- Methoden der regulatorischen Wissenschaft in Bezug auf Algorithmizität, Verzerrung und Robustheit
- Überwachung der Leistung in der realen Welt (RWP)
Die FDA hat erklärt, dass sie ihren eigenen vorgeschlagenen regulatorischen Rahmen für KI/ML-basierte SaMD durch die Veröffentlichung eines Leitlinienentwurfs zum vorher festgelegten Änderungskontrollplan weiterentwickeln und aktualisieren wird. Die in der Leitlinie festgelegten Elemente unterstützen die Sicherheit und Wirksamkeit von SaMD-Algorithmen und umfassen auch die genauere Bestimmung von Modifikationsarten, die im Rahmen dieses Regelwerks zulässig sind.
Angesichts des Bedarfs an GMPL plant die FDA, sich auf bewährte KI/ML-Praktiken wie Datenmanagement, Merkmals extraktion, Training, Interpretierbarkeit, Auswertung und Dokumentation zu konzentrieren, die ähnlichen Praktiken im Bereich der Softwaretechnik oder Qualitätssicherung entsprechen. Darüber hinaus plant die Behörde, die Harmonisierung der zahlreichen Initiativen zur Entwicklung von GMPL zu fördern, indem sie bestehende Arbeitsströme nutzt und andere auf KI/ML spezialisierte Gemeinschaften einbindet.
Die Behörde räumte ein, dass die Förderung von Transparenz ein Schlüsselelement eines patientenzentrierten Ansatzes und besonders wichtig für KI/ML-basierte Medizinprodukte ist, die sich im Laufe der Zeit verändern und Algorithmen mit einem gewissen Grad an Undurchsichtigkeit enthalten können. Bei der Entwicklung und Verwendung von KI/ML-basierten Produkten gibt es spezifische Überlegungen, die einen proaktiven, patientenzentrierten Ansatz erfordern, der verschiedene Aspekte wie Benutzerfreundlichkeit, Chancengleichheit, Vertrauen und Verantwortlichkeit berücksichtigt. Die FDA geht diese Themen an mit dem Ziel, das Vertrauen der Anwender in die Produktfunktionalität zu stärken und sicherzustellen, dass Patienten die Vorteile, Risiken und Grenzen des Produkts verstehen.
Die FDA weist darauf hin, dass viele KI/ML-Algorithmen aufgrund ihrer undurchsichtigen Funktionsweise und ihrer Entwicklung anhand historischer Datensätze anfällig für Verzerrungen sind und dazu neigen, bestehende Vorurteile in den Daten widerzuspiegeln. Aus diesem Grund unterstützt die Behörde Forschungsarbeiten im Bereich der regulatorischen Wissenschaft und arbeitet mit führenden Forschern zusammen, um Methoden zur Bewertung von KI/ML-basierter medizinischer Software zu entwickeln. Zu diesen Methoden gehören die Erkennung und Beseitigung von Verzerrungen sowie die Gewährleistung der Robustheit und Widerstandsfähigkeit dieser Algorithmen gegenüber sich ändernden klinischen Eingaben und Bedingungen.
Im Hinblick auf RWP erklärt die FDA, dass die Erfassung von Leistungsdaten zur realen Nutzung von SaMD es Herstellern ermöglichen kann, Verbesserungsmöglichkeiten zu erkennen, zu verstehen, wie ihre Produkte genutzt werden, und proaktiv auf Sicherheits- oder Bedienungsbedenken zu reagieren. Als Teil des Aktionsplans wird die FDA auf freiwilliger Basis und in Abstimmung mit anderen laufenden FDA-Programmen zur Nutzung realer Daten mit Beteiligten zusammenarbeiten und so die Erprobung der Leistungsüberwachung in der realen Praxis unterstützen.
Abschließend stellte die FDA fest, dass sie angesichts der raschen Entwicklung von KI/ML-basierten SaMD davon ausgeht, dass sich dieser Aktionsplan weiterentwickeln und für zusätzliche Klarheit sorgen wird. Um über den Aktionsplan der FDA für KI/ML-basierte SaMD auf dem Laufenden zu bleiben, besuchen Sie einfach weiterhin unseren Blog. Bleiben Sie informiert. Bleiben Sie regelkonform.
