Filozofowie z Bristolu chcą wiedzieć o medycznej AI tyle, ile wiadomo o leku. Unijne prawo zada te pytania dopiero w sierpniu 2028

Model oceniający ryzyko zgonu przy zapaleniu płuc uznał chorych na astmę za pacjentów niskiego ryzyka. Dane się zgadzały, bo szpitale leczyły astmatyków najintensywniej i ci przeżywali częściej. Do segregacji chorych taki wynik był bezużyteczny. Dwoje filozofów z Uniwersytetu w Bristolu używa tego przypadku, żeby pokazać, czego o medycznej AI nie mówi sam wynik testu.

Emanuele Ratti i Lena Zuchowski udostępnili pracę 18 sierpnia w arXiv, internetowym archiwum prac naukowych, a czasopismo „Studies in the History and Philosophy of Science” przyjęło ją do druku. Serwis The Decoder opisał ją 21 września jako propozycję, by AI w medycynie sprawdzać jak leki. Ten skrót jest trochę mylący. Pytania z tej pracy unijne prawo zada producentom dopiero od sierpnia 2028 r., a polskie szpitale dostaną programy AI do odczytu zdjęć jeszcze w tym roku.

Mechanizmy działania wielu leków są poznane tylko częściowo, a lekarze i tak stosują je bezpiecznie. Pozwala na to wiedza z badań: dawka i pora podania, wskazania i przeciwwskazania, wiek chorych, mierzony efekt. Autorzy nazywają ten komplet, za wcześniejszymi pracami o badaniach klinicznych, „intervention ensemble”. Odpowiednik dla AI to „learning ensemble”. Ma trzy części.

• Granice działania: kto obsługuje system, na jakim sprzęcie pracuje i na jakich danych się uczył. Programy do wykrywania COVID-19 na zdjęciach rentgenowskich, opisane w 2021 r. w „Nature Machine Intelligence”, opierały wynik na przypadkowych cechach zdjęć, najpewniej na różnicach w ułożeniu pacjenta i sposobie wykonania zdjęcia.
• Wyniki osobno dla grup pacjentów, bo średnia trafność potrafi ukryć błędy w jednej grupie. Modele czytające zdjęcia klatki piersiowej, uczone na trzech dostępnych zbiorach, częściej przeoczały chorobę u pacjentów z grup o gorszym dostępie do opieki (praca w „Nature Medicine”, 2021).
• Przeznaczenie: czy wynik w ogóle może służyć celowi. Model z astmą przewidywał zgony przy obecnym, intensywnym leczeniu, a segregacja chorych potrzebuje ryzyka niezależnego od leczenia.

Autorzy piszą wprost, że podają tylko przykłady. Opierają się na istniejących wytycznych opisywania badań z udziałem AI (SPIRIT-AI, CONSORT-AI, TRIPOD+AI). Procedury dopuszczania ani obowiązku badań z grupą kontrolną w pracy nie ma. Z lekami łączy ją sposób zbierania wiedzy o produkcie, nie droga do urzędowej zgody.

Nowy lek przed rejestracją przechodzi fazy badań klinicznych. Według Agencji Badań Medycznych w fazie III bierze zwykle udział kilka tysięcy chorych. Trafiają losowo do dwóch grup. Jedna dostaje lek, kontrolna placebo albo standardowe leczenie.

Program AI do diagnozy to wyrób medyczny. Według reguły 11 rozporządzenia 2017/745 (MDR, unijne przepisy o wyrobach medycznych) oprogramowanie dostarczające informacji do decyzji diagnostycznych lub terapeutycznych ma klasę IIa. Gdy skutkiem decyzji może być poważne pogorszenie zdrowia, jest to klasa IIb, a przy ryzyku zgonu albo nieodwracalnej szkody klasa III. Od klasy IIa w ocenie bierze udział jednostka notyfikowana, czyli niezależna instytucja wyznaczona przez państwo. Producent robi ocenę kliniczną, ale poziom dowodów uzasadnia sam i może oprzeć się na literaturze o wyrobie równoważnym. Badanie kliniczne MDR nakazuje wprost przy wyrobach klasy III i do implantacji, i to z wyjątkami.

AI Act (unijne rozporządzenie o sztucznej inteligencji) uznaje za system wysokiego ryzyka AI, która jest wyrobem medycznym ocenianym przez stronę trzecią albo jego elementem bezpieczeństwa. Artykuł 13 wymaga do niego instrukcji. Mają w niej być przeznaczenie, dokładność z testów i potrzebny sprzęt, a „w stosownych przypadkach” także dane wejściowe i treningowe oraz działanie systemu wobec określonych grup osób. To prawie dokładnie trzy części z Bristolu. Sama praca unijnych przepisów nie wspomina.

Kłopot jest z terminem. Rozporządzenie 2026/1744, pakiet uproszczeń zwany Digital Omnibus, przesunęło te wymogi dla AI w wyrobach medycznych z 2 sierpnia 2027 r. na 2 sierpnia 2028 r. Pozwala też Komisji Europejskiej ograniczyć część z nich, także z artykułu 13, gdy przepisy branżowe chronią pacjenta co najmniej tak samo. Szczegóły Komisja ma określić do 2 sierpnia 2027 r. w aktach delegowanych, czyli przepisach wydawanych na podstawie upoważnienia.

O to, czy AI Act ma w ogóle dotyczyć wyrobów medycznych, toczył się spór. W grudniu 2025 r. Komisja zaproponowała przy nowelizacji MDR, żeby przepisy AI Act o wysokim ryzyku co do zasady przestały je obejmować. 7 maja 2026 r. Rada UE i Parlament Europejski uzgodniły, że wyroby medyczne zostają pod AI Act. MedTech Europe, organizacja branży technologii medycznych, napisała tego dnia, że chciała jednej ścieżki przez MDR i wróci do tego w nowelizacji. Przedstawicielstwo niemieckiego ubezpieczenia społecznego (DSV) chce z kolei, by dowody kliniczne zostały podstawą oceny wyrobów. Komisja zdrowia Parlamentu ma głosować nad nowelizacją 3 grudnia.

Ustawa z 15 maja 2026 r., zmieniająca przepisy w związku z rozwojem usług e-zdrowia, utworzyła Platformę Usług Inteligentnych. Szpitale leczące za publiczne pieniądze dostaną przez nią dostęp do „certyfikowanych narzędzi” AI, a uzasadnienie projektu doprecyzowuje, że chodzi o wyroby medyczne. 1 września minister zdrowia wymienił pięć usług: do tomografii klatki piersiowej i obrazowania mózgu, do zdjęć RTG kości i klatki piersiowej oraz do mammografii. Limit wynosi 400 podmiotów leczniczych.

Na konferencji 21 września w Warszawie resort zapowiedział, że szpitale dostaną taką platformę jeszcze w tym roku. Informacja ministra wymienia zastosowania. Nie podaje nazw produktów ani ich parametrów, co odnotował serwis Alert Medyczny. Wyników testów też w niej nie ma. Według IX edycji badania Centrum e-Zdrowia, opisanej w sierpniu przez Rynek Zdrowia, AI w diagnostyce i leczeniu stosuje 7,3 procent badanych placówek medycznych.

Dla tematu z Bristolu najważniejszy jest jeden przepis. Artykuł 31d każe przetwarzać dane w platformie także po to, by monitorować jakość i efektywność AI w diagnostyce obrazowej i zbierać dane o jej skuteczności. Wśród danych pacjenta są wiek i płeć. Te dane pozwalają sprawdzić, czy program uczony gdzie indziej działa na polskich pacjentach i sprzęcie, także osobno w grupach. Autorzy z Bristolu nazywają to niezawodnością w nowym kontekście („use-reliability”). Przepis nie mówi, czy wyniki będą publikowane.

Lek trafia do lekarza z dawką, wskazaniami i przeciwwskazaniami. O programach z platformy publicznie wiadomo na razie tyle, do jakiego badania służą.