2 Min. Lesezeit
In jüngster Zeit hat der Einsatz von KI/ML (ML , künstliche Intelligenz/maschinelles Lernen) in der Medizintechnik- und Gesundheitsbranche einen enormen technologischen Aufschwung erlebt, da diese Technologien in der Lage sind, eine Vielzahl von Erkrankungen zu diagnostizieren, zu behandeln und zu managen sowie die Patientenversorgung zu verbessern. Allerdings scheint es bei der Umsetzung von KI/ML n in der täglichen Praxis Hindernisse zu geben, insbesondere im Hinblick auf Transparenzprobleme im Zusammenhang mit den entsprechenden Softwareprogrammen. Daher ist es von entscheidender Bedeutung, diese Technologien zu regulieren, und zu diesem Zweck bemühen sich die Aufsichtsbehörden intensiv darum, die Einführung von KI/ML n zu regeln.
Auf dieser Grundlage hat die britische Datenschutzbehörde ( FDA ) einen fünfteiligen Aktionsplan für ihre Aufsicht über sichere und patientenzentrierte KI- und „ML “-basierte SaMD veröffentlicht. Was sieht der Aktionsplan vor? Versuchen wir, dies zu verstehen.
Die „ FDA “ soll die Entwicklung von „ SaMD “ vorantreiben und hat dazu den folgenden fünfteiligen Aktionsplan vorgelegt:
- Entwicklung eines maßgeschneiderten Rechtsrahmens für medizinische Software durch die Veröffentlichung eines Leitlinienentwurfs zum vorab festgelegten Änderungskontrollplan für lernende Software
- Bewährte Verfahren im Bereich des maschinellen Lernens (GMPL) zur Bewertung von Algorithmen zur ML
- Ein patientenzentrierter Ansatz, der Transparenz gegenüber den Nutzern gewährleistet
- Methoden der Regulierungswissenschaft im Zusammenhang mit Verzerrungen und Robustheit von Algorithmen
- Überwachung der Leistung unter realen Bedingungen (RWP)
Die britische Arzneimittelbehörde ( FDA ) hat angekündigt, dass sie ihren eigenen Vorschlag für einen Regulierungsrahmen für KI/ML-basierte SaMD weiterentwickeln und aktualisieren wird, indem sie einen Leitlinienentwurf zum vorab festgelegten Änderungskontrollplan veröffentlicht. Die in den Leitlinien festgelegten Elemente sollen die Sicherheit und Wirksamkeit von SaMD -Algorithmen gewährleisten und beinhalten unter anderem eine Verfeinerung der Identifizierung von Änderungsarten, die im Rahmen dieses Regulierungsrahmens zulässig sind.
Angesichts der Notwendigkeit von GMPL plant die „ FDA “, den Schwerpunkt auf bewährte Verfahren im Bereich KI/ML s zu legen, wie beispielsweise Datenmanagement, Merkmalsextraktion, Training, Interpretierbarkeit sowie Bewertung und Dokumentation, die den bewährten Verfahren der Softwareentwicklung oder der Qualitätssicherung ähneln. Zudem beabsichtigt die Behörde, die Harmonisierung der zahlreichen Bemühungen zur Entwicklung von GMPL voranzutreiben, indem sie bereits bestehende Arbeitsströme nutzt und andere Gemeinschaften einbezieht, die sich auf KI/ML konzentrieren.
Die Behörde erkannte an, dass die Förderung von Transparenz ein zentraler Aspekt eines patientenzentrierten Ansatzes ist und besonders wichtig für medizinische Geräte auf Basis von KI/ML, die sich im Laufe der Zeit ändern können und Algorithmen enthalten können, die ein gewisses Maß an Undurchsichtigkeit aufweisen. Im Hinblick auf die Entwicklung und den Einsatz von Geräten auf Basis von KI/ML gibt es besondere Überlegungen, die einen proaktiven, patientenzentrierten Ansatz erfordern, und dabei werden verschiedene Aspekte berücksichtigt, darunter Benutzerfreundlichkeit, Gerechtigkeit, Vertrauen und Rechenschaftspflicht. Die „ FDA “ befasst sich mit diesen Themen mit dem Ziel, das Vertrauen der Nutzer in die Funktionalität des Geräts zu stärken und sicherzustellen, dass die Patienten die Vorteile, Risiken und Einschränkungen des Geräts verstehen.
Die „ FDA “ weist darauf hin, dass viele KI-/ML -Algorithmen aufgrund ihrer undurchsichtigen Funktionsweise und ihrer Entwicklung auf der Grundlage historischer Datensätze anfällig für Verzerrungen sind und dazu neigen, in den Daten vorhandene Verzerrungen zu spiegeln. Daher unterstützt die Behörde Forschungsbemühungen im Bereich der Regulierungswissenschaft und arbeitet mit führenden Forschern zusammen, um Methoden zur Bewertung von KI-/ML-basierter medizinischer Software zu entwickeln. Diese Methoden umfassen die Identifizierung und Beseitigung von Verzerrungen und gewährleisten die Robustheit und Widerstandsfähigkeit dieser Algorithmen, damit sie sich ändernden klinischen Eingaben und Bedingungen standhalten können.
In Bezug auf RWP erklärt die „ FDA “, dass die Erhebung von Leistungsdaten zum Einsatz der „ SaMD “ in der Praxis es den Herstellern ermöglichen könnte, Verbesserungsmöglichkeiten zu identifizieren, zu verstehen, wie ihre Produkte genutzt werden, und proaktiv auf Bedenken hinsichtlich Sicherheit oder Benutzerfreundlichkeit zu reagieren. Als Teil des Aktionsplans wird die „ FDA “ auf freiwilliger Basis und in Abstimmung mit anderen laufenden Programmen der „ FDA “, die sich auf die Nutzung von Daten aus der Praxis konzentrieren, mit den Interessengruppen zusammenarbeiten und dadurch die Erprobung der Leistungsüberwachung in der Praxis unterstützen.
Abschließend wies die „ FDA “ darauf hin, dass sich die auf KI/ML basierende „ SaMD “ rasch weiterentwickelt und die Behörde daher davon ausgeht, dass sich dieser Aktionsplan weiter fortsetzen und für zusätzliche Klarheit sorgen wird. Um weitere Updates zum Aktionsplan der „ FDA“ bezüglich KI/ML und „ SaMD “ zu erhalten, besuchen Sie daher regelmäßig unseren Blog. Bleiben Sie auf dem Laufenden. Halten Sie die Vorschriften ein.
