2 min czytania
W ostatnich latach sztuczna inteligencja i uczenie maszynowe (AI/ML) zyskały ogromną popularność w branży wyrobów medycznych i opieki zdrowotnej ze względu na swoją zdolność do diagnozowania, kontrolowania i leczenia wielu różnych schorzeń oraz poprawy opieki nad pacjentem. Wdrażanie AI/ML w codziennej praktyce napotyka jednak przeszkody związane z brakiem przejrzystości programów komputerowych. Z tego powodu uregulowanie tych technologii jest kluczowe, a organy regulacyjne dokładają wszelkich starań, aby nadzorować wdrażanie rozwiązań AI/ML.
Biorąc to pod uwagę, FDA opublikowała pięcioetapowy plan działania dotyczący nadzoru nad bezpiecznym i skoncentrowanym na pacjencie oprogramowaniem SaMD opartym na sztucznej inteligencji i uczeniu maszynowym (AI/ML). Co zawiera ten plan działania? Postarajmy się to wyjaśnić.
FDA zamierza stymulować rozwój oprogramowania SaMD i przedstawiła następujący pięcioetapowy plan działania:
- Opracowanie dostosowanych ram regulacyjnych dla oprogramowania medycznego poprzez wydanie projektu wytycznych dotyczących wstępnie ustalonego planu kontroli zmian w uczącym się oprogramowaniu
- Dobre praktyki uczenia maszynowego (GMPL) w zakresie oceny algorytmów uczenia maszynowego
- Podejście skoncentrowane na pacjencie, uwzględniające przejrzystość dla użytkowników
- Metody nauki o regulacjach (Regulatory science) związane z błędem i odpornością algorytmów
- Monitorowanie skuteczności w rzeczywistych warunkach (RWP)
FDA zadeklarowała, że będzie nadal rozwijać i aktualizować własne proponowane ramy regulacyjne dla SaMD opartego na AI/ML, wydając projekt wytycznych dotyczący z góry określonego planu kontroli zmian. Elementy określone w wytycznych wesprą bezpieczeństwo i skuteczność algorytmów SaMD, a także obejmą udoskonalenie identyfikacji rodzajów modyfikacji odpowiednich w ramach tych ram.
Biorąc pod uwagę potrzebę stosowania GMPL, FDA planuje skupić się na najlepszych praktykach w zakresie AI/ML, takich jak zarządzanie danymi, ekstrakcja cech, szkolenie, interpretowalność, ocena i dokumentacja, które są podobne do dobrych praktyk inżynierii oprogramowania lub praktyk systemów jakości. Ponadto Agencja planuje wspierać harmonizację licznymi wysiłkami na rzecz rozwoju GMPL poprzez wykorzystanie już istniejących nurtów pracy i zaangażowanie innych społeczności skoncentrowanych na AI/ML.
Agencja uznała, że promowanie przejrzystości jest kluczowym aspektem podejścia skoncentrowanego na pacjencie i jest szczególnie ważne w przypadku wyrobów medycznych opartych na AI/ML, które mogą zmieniać się w czasie i zawierać algorytmy wykazujące pewien stopień nieprzejrzystości. W odniesieniu do opracowywania i wykorzystywania wyrobów opartych na AI/ML istnieją unikalne kwestie wymagające proaktywnego podejścia skoncentrowanego na pacjencie, które uwzględniają szereg problemów, w tym użyteczność, równość, zaufanie i rozliczalność. FDA zajmuje się tymi kwestiami w celu budowania zaufania użytkowników do funkcjonalności wyrobu oraz zapewnienia, że pacjenci rozumieją korzyści, ryzyko i wady wyrobu.
FDA zauważa, że biorąc pod uwagę nieprzejrzystość funkcjonowania wielu algorytmów AI/ML i ich rozwój przy użyciu danych z historycznych zbiorów danych, są one podatne na stronniczość i skłonne do odzwierciedlania uprzedzeń obecnych w danych. W związku z tym Agencja wspiera badania naukowe w dziedzinie regulacji i współpracuje z wiodącymi badaczami w celu opracowania metod oceny oprogramowania medycznego opartego na AI/ML. Metody te obejmują identyfikację i eliminację stronniczości oraz zapewnienie solidności i odporności tych algorytmów na zmieniające się dane kliniczne i warunki.
Jeśli chodzi o RWP, FDA twierdzi, że gromadzenie danych dotyczących wydajności na temat rzeczywistego użytkowania SaMD może umożliwić producentom zidentyfikowanie możliwości ulepszeń, zrozumienie, w jaki sposób ich produkty są używane, oraz proaktywne reagowanie na obawy dotyczące bezpieczeństwa lub użyteczności. W ramach planu działania FDA będzie współpracować z zainteresowanymi stronami na zasadzie dobrowolności oraz w koordynacji z innymi trwającymi programami FDA skupionymi na wykorzystaniu danych z rzeczywistych warunków, wspierając tym samym pilotaż monitorowania wydajności w rzeczywistych warunkach.
Podsumowując, FDA uznała, że ponieważ oparte na AI/ML SaMD szybko się rozwija, Agencja przewiduje, że ten plan działania będzie nadal ewoluował i zapewniał dodatkową jasność. Dlatego, aby uzyskać kolejne aktualizacje dotyczące planu działania FDA dla SaMD opartego na AI/ML, śledź naszego bloga. Bądź na bieżąco. Bądź zgodny z przepisami.
