2 minuty czytania
W ostatnim czasie wykorzystanie sztucznej inteligencji i uczenia maszynowego (AI/ML ) zyskało ogromną popularność w branży opieki zdrowotnej wyroby medyczne oraz w sektorze opieki zdrowotnej ze względu na ich zdolność do diagnozowania, zarządzania i leczenia szerokiego zakresu schorzeń oraz poprawy jakości opieki nad pacjentem. Wydaje się jednak, że we wdrażaniu AI/ML w codziennej praktyce pojawiają się przeszkody związane z kwestiami przejrzystości oprogramowania. Dlatego też kluczowe znaczenie ma uregulowanie tych technologii, a w tym celu organy regulacyjne podejmują intensywne wysiłki w celu nadzorowania wdrażania rozwiązań opartych na AI/ML .
W oparciu o powyższe ustalenia Komisja ds. Sztucznej Inteligencji ( FDA ) opublikowała pięcioczęściowy plan działania dotyczący nadzoru nad bezpiecznymi i zorientowanymi na pacjenta systemami opartymi na sztucznej inteligencji (AI) oraz uczenia maszynowego (ML) ( SaMD). Co obejmuje ten plan działania? Spróbujmy to zrozumieć.
Fundacja „ FDA ” zamierza pobudzić rozwój inicjatywy „ SaMD ” i przedstawiła następujący, pięciopunktowy plan działania:
- Opracowanie dostosowanych do potrzeb ram regulacyjnych dotyczących oprogramowania medycznego poprzez opublikowanie projektu wytycznych w sprawie z góry ustalonego planu kontroli zmian w zakresie uczenia się oprogramowania
- Dobre praktyki w zakresie uczenia maszynowego (GMPL) dotyczące oceny algorytmów typu „ ML ”
- Podejście skoncentrowane na pacjencie, uwzględniające przejrzystość wobec użytkowników
- Metody naukowe w zakresie regulacji dotyczące stronniczości i odporności algorytmów
- Monitorowanie rzeczywistej wydajności (RWP)
FDA o oświadczyło, że będzie nadal opracowywać i aktualizować proponowane przez siebie ramy regulacyjne dotyczące sztucznej inteligencji (AI) i uczenia maszynowego (ML) – SaMD – poprzez opublikowanie projektu wytycznych dotyczących z góry ustalonego planu kontroli zmian. Elementy określone w wytycznych będą wspierać bezpieczeństwo i skuteczność algorytmów SaMD , a także obejmą doprecyzowanie sposobu identyfikacji rodzajów modyfikacji dopuszczalnych w ramach tych ram.
Biorąc pod uwagę potrzebę wprowadzenia GMPL, Agencja ds. Żywności i Leków ( FDA ) planuje skoncentrować się na najlepszych praktykach w zakresie sztucznej inteligencji i uczenia maszynowego (AI/ML ), takich jak zarządzanie danymi, ekstrakcja cech, uczenie, interpretowalność oraz ocena i dokumentacja, które są zbliżone do dobrych praktyk inżynierii oprogramowania lub praktyk związanych z systemami jakości. Ponadto Agencja planuje wspierać harmonizację licznych działań mających na celu opracowanie GMPL poprzez wykorzystanie już istniejących kierunków prac oraz zaangażowanie innych społeczności zajmujących się sztuczną inteligencją i učením maszynowym (AI/ML).
Agencja uznała, że promowanie przejrzystości stanowi kluczowy aspekt podejścia zorientowanego na pacjenta i ma szczególne znaczenie w przypadku urządzeń opartych na sztucznej inteligencji (AI) i uczenia maszynowego (ML) wyroby medyczne, które mogą ulegać zmianom w miarę upływu czasu i mogą wykorzystywać algorytmy charakteryzujące się pewnym stopniem nieprzejrzystości. W odniesieniu do opracowywania i wykorzystywania urządzeń opartych na sztucznej inteligencji (AI) i uczenia maszynowego (ML) istnieją specyficzne kwestie wymagające proaktywnego podejścia zorientowanego na pacjenta, uwzględniającego szereg aspektów, w tym użyteczność, równość, zaufanie i odpowiedzialność. FDA zajmuje się tymi kwestiami, mając na celu budowanie zaufania użytkowników do funkcjonalności urządzenia oraz zapewnienie, że pacjenci rozumieją korzyści, ryzyko i wady urządzenia.
FDA a zwraca uwagę, że ze względu na nieprzejrzystość działania wielu algorytmów sztucznej inteligencji (AI) i uczenia maszynowego (ML ) oraz fakt, że są one opracowywane w oparciu o dane z historycznych zbiorów, algorytmy te są podatne na stronniczość i mają skłonność do odzwierciedlania stronniczości obecnej w danych. W związku z tym Agencja wspiera badania w zakresie nauk regulacyjnych oraz współpracuje z czołowymi naukowcami w celu opracowania metod oceny oprogramowania medycznego opartego na sztucznej inteligencji i uczeniu maszynowym (AI/ML). Metody te obejmują identyfikację i eliminację stronniczości oraz zapewniają solidność i odporność tych algorytmów na zmieniające się dane kliniczne i warunki.
W odniesieniu do RWP, w dokumencie „ FDA ” stwierdzono, że gromadzenie danych dotyczących rzeczywistych parametrów działania (real-world use) w ramach programu „ SaMD ” może umożliwić producentom zidentyfikowanie możliwości wprowadzenia ulepszeń, zrozumienie sposobu użytkowania ich produktów oraz proaktywne reagowanie na kwestie związane z bezpieczeństwem lub użytecznością. W ramach planu działania program „ FDA ” będzie współpracował z zainteresowanymi stronami na zasadzie dobrowolności oraz w koordynacji z innymi realizowanymi obecnie programami „ FDA ”, skupiającymi się na wykorzystaniu danych z rzeczywistego użytkowania (real-world data), wspierając w ten sposób pilotażowe wdrożenie monitorowania rzeczywistych parametrów działania.
Na zakończenie warto wspomnieć, że Agencja ds. Bezpieczeństwa Żywności i Leków ( FDA ) przyznała, że w związku z szybkim rozwojem technologii opartej na sztucznej inteligencji (AI) i uczenia maszynowego (ML) SaMD , przewiduje, iż niniejszy plan działania będzie nadal ewoluował i zapewni dodatkowe wyjaśnienia. Dlatego też, aby uzyskać dalsze informacje na temat planu działania Agencji ds. Żywności i Leków ( FDA) opartego na sztucznej inteligencji (AI) i uczenia maszynowego (ML) SaMD , zapraszamy do śledzenia naszego bloga. Bądź na bieżąco. Dbaj o zgodność z przepisami.
