6 min czytania
Sztuczna inteligencja przestała być jedynie przewagą technologiczną w branży wyrobów medycznych – staje się regulowaną dziedziną opartą na zaufaniu, odpowiedzialności i wydajności. Europa wyznaczyła wyraźną granicę między postępem technicznym a odpowiedzialnością, przyjmując oficjalnie unijny akt w sprawie sztucznej inteligencji w dniu 1 sierpnia 2024 roku.
Nowe przepisy dostarczają producentom wyrobów medycznych – w szczególności tym, którzy pracują nad oprogramowaniem będącym wyrobem medycznym (SaMD) opartym na sztucznej inteligencji – zarówno wymogów regulacyjnych, jak i wskazówek rynkowych.
Unijny akt w sprawie sztucznej inteligencji: nowy paradygmat regulacyjny
Akt ten ustanawia nowe standardy w zakresie opracowywania, oceny i monitorowania sztucznej inteligencji na terytorium Unii Europejskiej za pomocą kompleksowych środków. Wszyscy deweloperzy rozwiązań opartych na sztucznej inteligencji, którzy chcą wejść na rynek Unii Europejskiej, muszą zrozumieć, że komunikat dotyczący wdrażania sztucznej inteligencji pozostaje jasny i zwięzły. System regulacyjny stanowi, że każdy system mający wpływ na diagnozowanie w opiece zdrowotnej, leczenie pacjentów lub zdrowie musi zostać zaklasyfikowany jako system wysokiego ryzyka.
Zrozumienie istoty unijnego aktu w sprawie sztucznej inteligencji: podejście oparte na ryzyku, specyficzne dla sektora i skupione na wpływie
Unijny akt w sprawie sztucznej inteligencji (EU AI Act) wprowadza model klasyfikacji oparty na ryzyku, który dzieli systemy na trzy kategorie: praktyki zakazane, systemy sztucznej inteligencji wysokiego ryzyka oraz systemy o ograniczonym ryzyku. Medyczna sztuczna inteligencja prawie zawsze zalicza się do kategorii wysokiego ryzyka, w szczególności na podstawie artykułu 6 ust. 1 lit. b), który domyślnie klasyfikuje jako wysokie ryzyko każdy element AI wyrobów medycznych wymagających oceny jednostki notyfikowanej.
Systemy AI przeznaczone do diagnozowania, planowania terapii, wspierania decyzji klinicznych czy zdalnego monitorowania – wszystkie one mieszczą się w tej kategorii wysokiego ryzyka. Obejmuje to rozwiązania wykorzystujące:
- Modele uczenia maszynowego (ML)
- Algorytmy głębokiego uczenia (Deep Learning)
- Sieci neuronowe lub klasyfikatory statystyczne
- Oprogramowanie do celów prognostycznych lub rozpoznawania wzorców osadzone w wyrobach medycznych
Kluczowe wymagania dla producentów w ramach unijnego aktu w sprawie sztucznej inteligencji:
Wdrożenie podstawowych wymogów technicznych w ramach systemu zarządzania jakością wymaga uwagi ze strony producentów w celu zapewnienia skutecznej zgodności z przepisami.
- Zarządzanie ryzykiem (art. 9):
Producenci powinni tworzyć i utrzymywać uporządkowane strategie zarządzania ryzykiem związanym z AI, ponieważ pozwalają one eliminować uprzedzenia algorytmiczne, niestabilność modeli, a także naruszenia bezpieczeństwa systemów i problemy z uprzedzeniami algorytmicznymi. Ponadto, zgodnie z normą IEC 62304, kluczowym krokiem jest klasyfikacja bezpieczeństwa oprogramowania. Każdy element oprogramowania należy zaklasyfikować do klasy A, B lub C w zależności od ryzyka. Klasyfikacja ta określa zakres wymaganych działań w całym cyklu życia oprogramowania. Istotne jest uwzględnienie tego podziału już na wczesnym etapie projektowania i oceny ryzyka. - Zarządzanie danymi (art. 10):
Producenci powinni dobierać wysokiej jakości zestawy danych wraz z reprezentatywnymi próbkami oraz informacjami adnotowanymi i wolnymi od uprzedzeń, kierując się m.in. kryteriami wyboru zbiorów danych. - Dokumentacja techniczna (art. 11):
Należy stworzyć aktywny system dokumentacji przedstawiający pełne informacje o strukturze systemu AI, w tym wskaźniki wydajności, kontrole operacyjne i elementy bezpieczeństwa. Zgodnie z normą IEC 82304 na etapie finalizacji wymagań należy również uwzględnić specyfikację wymagań bezpieczeństwa produktu. Dokument ten określa podstawowe potrzeby w zakresie bezpieczeństwa, ochrony i użyteczności oraz powinien być analizowany jako kluczowy rezultat prac. - Przejrzystość i wyjaśnialność (art. 13):
Użytkownicy muszą otrzymywać przystępne opisy logiki systemu AI, wyjaśniające zarówno możliwości operacyjne, jak i ograniczenia systemu wraz z uzasadnieniem procesów podejmowania decyzji. - Nadzór człowieka (art. 14):
Przeszkoleni specjaliści mogą korzystać z autoryzowanych procedur, aby zapobiegać podejmowaniu błędnych decyzji automatycznych, zachowując jednocześnie kontrolę operacyjną za pomocą tych procedur. - Rejestrowanie zdarzeń i śledzenie (art. 12):
Dane wejściowe i wyjściowe systemu oraz zapisy drzewa decyzyjnego powinny być w pełni rejestrowane, zwłaszcza podczas wdrażania klinicznego do celów działań nadzoru po wprowadzeniu do obrotu. - Nadzór po wprowadzeniu do obrotu (art. 72):
Należy wdrożyć wytyczne umożliwiające ciągłe pomiary wydajności systemu AI po jego komercyjnym wdrożeniu. System powinien wykorzystywać rzeczywiste dane analityczne dotyczące faktycznej wydajności operacyjnej, aby uwzględniać opinie użytkowników i optymalizować systemy kontroli ryzyka. Ponadto norma IEC 62304 wymaga sporządzenia udokumentowanego planu konserwacji oprogramowania. Plan ten musi określać, w jaki sposób zarządzane są i walidowane anomalie oprogramowania wykryte po jego udostępnieniu, poprawki oraz aktualizacje. Działania konserwacyjne powinny być spójne z praktykami długoterminowego monitorowania. - Oznakowanie CE i rejestracja (art. 17):
Umieszczając oznakowanie CE na medycznych urządzeniach wykorzystujących AI, należy spełnić wymagania zarówno rozporządzenia w sprawie wyrobów medycznych (MDR 2017/745) lub rozporządzenia w sprawie wyrobów medycznych do diagnostyki in vitro (IVDR 2017/746), jak i unijnego aktu w sprawie sztucznej inteligencji.
Więcej niż regulacje: Kompleksowa zmiana cyklu życia
Transformacja wykracza poza wymogi regulacyjne, ponieważ wymaga całkowitego przeprojektowania procesu rozwoju cyklu życia systemu AI – od jego stworzenia po konserwację. Doskonałość pod względem wydajności technicznej ustępuje miejsca stałemu nadzorowi regulacyjnemu i monitorowaniu standardów etycznych.
Zgodnie z zasadami normy IEC 62304 w całym cyklu życia wymagany jest formalny proces rozwiązywania problemów z oprogramowaniem. Producenci muszą określić procedury identyfikacji, dokumentowania, analizowania i rozwiązywania problemów z oprogramowaniem. Powinno to zostać wdrożone na każdym etapie kontroli jakości, ze szczególnym uwzględnieniem okresu po weryfikacji.
Wymagane jest również zarządzanie oprogramowaniem o nieznanym pochodzeniu (SOUP – Software of Unknown Provenance). Każdy komponent SOUP musi zostać zidentyfikowany, poddany ocenie ryzyka oraz objęty kontrolą poprzez przeglądy dokumentacji projektu i architektury. Zapewnia to bezpieczeństwo i odpowiednie zarządzanie zewnętrznymi zależnościami.
Co więcej, norma IEC 82304 kładzie nacisk na określone procesy instalacji, zarządzania konfiguracją oraz wycofywania systemu z eksploatacji. Muszą one zostać zweryfikowane i udokumentowane na późnym etapie rozwoju przed wprowadzeniem produktu na rynek. Proces mitygacji ryzyka cybernetycznego musi być również zintegrowany z cyklem SDLC i zweryfikowany na każdym etapie cyklu życia.
Wdrażanie sztucznej inteligencji w Europie: Krajobraz w 2024 roku
Raport Eurostatu za 2024 rok na temat wykorzystania sztucznej inteligencji w europejskich przedsiębiorствах pokazuje rosnącą tendencję w zakresie wdrażania AI przez europejskie firmy w 2024 roku:
- 41,2% dużych przedsiębiorstw korzysta obecnie ze sztucznej inteligencji.
- 34,1% przedsiębiorstw odnosi korzyści w działaniach marketingowych i sprzedaży.
- 27,5% odnosi korzyści w działalności operacyjnej.
- 6,1% odnosi korzyści w logistyce.
W zasięgu wdrażania sztucznej inteligencji widać wyraźną różnicę między dużymi a mniejszymi przedsiębiorstwami:
- Technologia sztucznej inteligencji jest wykorzystywana do zapewnienia bezpieczeństwa ICT przez 46,4% dużych firm, podczas gdy w przypadku małych przedsiębiorstw wskaźnik ten wynosi zaledwie 17,2%.
- Znaczny odsetek dużych przedsiębiorstw, wynoszący 34,7%, stosuje sztuczną inteligencję w procesach produkcyjnych, w porównaniu do mniejszych firm, gdzie wykorzystanie SI wynosi 21,6%.
- Wdrażanie sztucznej inteligencji w przemyśle wiąże się zarówno z korzyściami, jak i trudnościami, ponieważ obecnie 13,5% firm w UE stosuje technologie oparte na SI.
Liczby te pokazują podwójną rzeczywistość – z jednej strony sztuczna inteligencja już teraz zmienia kluczowe funkcje biznesowe, z drugiej zaś istnieje znaczna luka w skali jej wdrażania, szczególnie w obszarach regulowanych, takich jak ochrona zdrowia, gdzie zaufanie i bezpieczeństwo są warunkami wstępnymi wzrostu.
Europa nie tylko reguluje – inwestuje, aby rozwijać godną zaufania sztuczną inteligencję
W przeciwieństwie do wcześniejszych fal transformacji cyfrowej, podejście UE do sztucznej inteligencji łączy politykę z proaktywnymi inwestycjami.
Raport Parlamentu Europejskiego potwierdza, że innowacje w dziedzinie sztucznej inteligencji muszą zostać przyspieszone, ale nie kosztem bezpieczeństwa pacjentów czy nadzoru etycznego.
- 1,8 miliarda dolarów wsparcia finansowego dla europejskich startupów zajmujących się sztuczną inteligencją (2023)
- UE otrzymuje zaledwie 6% globalnego kapitału podwyższonego ryzyka przeznaczonego na sztuczną inteligencję, a inwestycje te są czterokrotnie niższe niż w Stanach Zjednoczonych.
Inicjatywy finansowania obejmują:
- Program „Cyfrowa Europa”: 1,3 miliarda euro (2025–2027) na obiekty testowe i centra rozwoju umiejętności.
- InvestAI: Część strategii „Cyfrowa dekada”, której celem jest zgromadzenie 200 miliardów euro na:
- Fabryki sztucznej inteligencji
- Usługi w chmurze
- Transgraniczne sieci innowacji
Instytucje UE tworzą sprzyjające środowisko poprzez zmiany regulacyjne, które umożliwiają wdrażanie etycznych systemów sztucznej inteligencji o wysokiej niezawodności klinicznej i skalowalności dla producentów SaMD.
Co to oznacza dla producentów wyrobów medycznych
Przepisy unijnego aktu w sprawie sztucznej inteligencji (AI Act) wraz z ich istotnymi konsekwencjami biznesowymi wskazują na dwie główne kwestie, którymi producenci wyrobów medycznych muszą się zająć.
Kwestie te zyskują na sile w połączeniu z normami IEC 62304 i IEC 82304, które zapewniają strukturę, rygor klasyfikacji, ciągłość po wdrożeniu oraz nadzór nad bezpieczeństwem w całym cyklu życia oprogramowania.
Przygotowanie do zgodności z przepisami przed wprowadzeniem produktu na rynek
- Przeprowadzenie analizy luki pod kątem aktu w sprawie sztucznej inteligencji
- Aktualizacja dokumentacji technicznej, plików RMF i SOP
- Wdrożenie mechanizmów identyfikowalności już na etapie projektowania
- Wczesny kontakt z jednostkami notyfikowanymi w celu przeprowadzenia wstępnej oceny
- Zaplanowanie długoterminowego monitorowania po wprowadzeniu do obrotu (Post-Market Surveillance) z uwzględnieniem informacji zwrotnych
Przekształcenie zgodności z przepisami w przewagę konkurencyjną
- Firmy, które przodują w zakresie zgodności z przepisami, liderują również pod względem zaufania i udziału w rynku
- Budowa systemu zarządzania jakością zgodnego z unijnym aktem w sprawie sztucznej inteligencji (AI Act) już od fazy koncepcyjnej
- Ustanowienie przejrzystości i audytowalności jako czynników wyróżniających na rynku
- Wykorzystanie oznakowania CE i zgodności z przepisami dotyczącymi sztucznej inteligencji jako symbolu zaufania
Często zadawane pytania (FAQ) dotyczące unijnego aktu w sprawie sztucznej inteligencji dla wyrobów medycznych
Aby pomóc producentom wyrobów medycznych odnaleźć się w zmieniających się wymogach regulacyjnych, zebraliśmy najczęściej zadawane pytania:
- Czym jest unijny akt w sprawie sztucznej inteligencji (AI Act) i jak wpływa na producentów wyrobów medycznych?
Unijny akt w sprawie sztucznej inteligencji to pierwsza na świecie kompleksowa regulacja dotycząca systemów sztucznej inteligencji. Wprowadza on obowiązkowe wymogi w zakresie zarządzania ryzykiem, ładu danych, nadzoru ze strony człowieka oraz monitorowania po wprowadzeniu do obrotu, ze szczególnym uwzględnieniem wysok ryzyka systemów sztucznej inteligencji w medycynie, takich jak narzędzia diagnostyczne i oprogramowanie wspomagające decyzje kliniczne. - Które systemy sztucznej inteligencji w wyrobach medycznych są klasyfikowane jako systemy wysokiego ryzyka na mocy unijnego aktu w sprawie sztucznej inteligencji?
Każdy system sztucznej inteligencji stosowany w diagnostyce, planowaniu terapii lub monitorowaniu pacjentów jest uznawany za system wysokiego ryzyka. Obejmuje to oprogramowanie będące wyrobem medycznym (SaMD) oparte na uczeniu maszynowym, modele głębokiego uczenia się oraz narzędzia sztucznej inteligencji, które wpływają na decyzje lub wyniki związane ze zdrowiem. - Jakie są kluczowe wymagania dotyczące zgodności z przepisami dla wyrobów medycznych opartych na sztucznej inteligencji zgodnie z unijnym aktem w sprawie sztucznej inteligencji?
Producenci muszą zapewnić:
• Możliwość śledzenia danych wejściowych i wyjściowych
• Wysoką jakość danych i odpowiednie zarządzanie nimi
• Mechanizmy nadzoru ze strony człowieka
• Pełną dokumentację techniczną
• Oznakowanie CE zgodnie z normami MDR/IVDR oraz aktu w sprawie sztucznej inteligencji Jak unijny akt w sprawie sztucznej inteligencji ma się do rozporządzenia w sprawie wyrobów medycznych (MDR 2017/745) i rozporządzenia w sprawie wyrobów medycznych do diagnostyki in vitro (IVDR 2017/746)?
Unijny akt w sprawie sztucznej inteligencji opiera się na rozporządzeniach MDR i IVDR, wprowadzając dodatkowe wymagania specyficzne dla sztucznej inteligencji, takie jak wyjaśnialność, przejrzystość algorytmów i kontrola ryzyka. Wszystkie urządzenia zasilane sztuczną inteligencją muszą spełniać podwójne wymogi zgodności – tradycyjne zasady dotyczące wyrobów medycznych oraz nowe standardy dotyczące sztucznej inteligencji.
Liderzy rynkowi traktują unijny akt w sprawie sztucznej inteligencji nie jak przeszkodę, lecz jak plan budowy zaufanych, wysokowydajnych technologii medycznych. Wdrażają oni wymogi zgodności już na poziomie architektury systemów i wykorzystują je do kształtowania strategii, działań marketingowych oraz pozycjonowania marki.
Firmy produkujące wyroby medyczne muszą wdrożyć przygotowanie do wymogów AI Act w całym swoim ekosystemie produktów i zgodności, aby zyskać przewagę konkurencyjną. Skontaktuj się z nami już dziś, aby dostosować swoje innowacje do obowiązujących przepisów i zamienić gotowość regulacyjną w przewagę na rynku.
