[Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii /nr 30/ (09-10-2024), Komisja Zdrowia /nr 37/ (09-10-2024)]

Komisje: Cyfryzacji, Innowacyjności i Nowoczesnych Technologii oraz Zdrowia, obradujące pod przewodnictwem posłów: Marty Golbik (KO), przewodniczącej Komisji Zdrowia, i posła Grzegorza Napieralskiego (KO), zastępcy przewodniczącego Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, zrealizowały następujący porządek dzienny:

– rozpatrzenie informacji na temat wykorzystania sztucznej inteligencji w systemie ochrony zdrowia,

– rozpatrzenie informacji na temat postępu we wdrażaniu e-rejestracji do lekarza.

W posiedzeniu udział wzięli: Dariusz Standerski sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikiem, Wojciech Demediuk dyrektor Departamentu e-Zdrowia Ministerstwa Zdrowia, Robert Janik ekspert w Urzędzie Komunikacji Elektronicznej wraz ze współpracownikiem, Agnieszka Kalita doradca ekonomiczny w Departamencie Zdrowia Najwyższej Izby Kontroli, Małgorzata Olszewska dyrektor Centrum e-Zdrowia wraz ze współpracownikiem, Aneta Sieradzka ekspert w Urzędzie Ochrony Danych Osobowych, Justyna Oknińska-Janzen główny specjalista w Biurze Rzecznika Praw Dziecka, Łukasz Jankowski prezes Naczelnej Rady Lekarskiej wraz ze współpracownikami, Ewa Molka wiceprezes Naczelnej Rady Pielęgniarek i Położnych, Marek Wójcik pełnomocnik Zarządu Związku Miast Polskich, Sławomir Jagieła i Robert Wiśniewski eksperci Business Centre Club, Michał Kanownik prezes zarządu Związku Cyfrowa Polska (ZIPSEE), Joanna Karczewska członek Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej ELKApw, Paweł Kaźmierczyk członek Zarządu Fundacji Telemedyczna Grupa Robocza, Katarzyna Kolasa dyrektor Centrum Zdrowia Cyfrowego Akademii Leona Koźmińskiego w Warszawie, Ligia Kornowska i Robert Tomaka eksperci Pracodawców RP, Marek Wleklik ekspert Izby Gospodarczej „Farmacja Polska”, Kajetan Wojsyka członek Zarządu Polskiego Towarzystwa Informatycznego, Tomasz Zieliński wiceprzewodniczący Federacji Związków Pracodawców Ochrony Zdrowia „Porozumienie Zielonogórskie” oraz Aleksander Łabanowski asystent przewodniczącej Komisji.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Jakub Stefański, Małgorzata Siedlecka-Nowak, Monika Żołnierowicz-Kasprzyk – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodnicząca poseł Marta Golbik (KO):

Otwieram wspólne posiedzenie Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii oraz Komisji Zdrowia. Witam członków Komisji i zaproszonych gości. Stwierdzam kworum.

Porządek dzisiejszego posiedzenia przyjętego przez prezydia Komisji przewiduje w pkt 1 rozpatrzenie informacji na temat wykorzystania sztucznej inteligencji w systemie ochrony zdrowia. Informację przedstawią minister zdrowia oraz minister cyfryzacji. Pkt 2, rozpatrzenie informacji na temat postępów we wdrażaniu e-rejestracji do lekarza, przedstawi Ministerstwo Zdrowia.

Przystępujemy do realizacji porządku dziennego. Informuję, iż materiały zostały wysłane do państwa posłów na maile i zamieszczone w folderze SDI na iPadach. Dostępne są również w formie papierowej. Proponuję, aby pkt 1 i 2 zostały po kolei zreferowane, a następnie przeprowadzimy łączną dyskusję nad tymi punktami porządku dziennego.

Poseł Janusz Cieszyński (PiS):

Sprzeciw.

Przewodnicząca poseł Marta Golbik (KO):

Dlaczego, panie przewodniczący?

Poseł Janusz Cieszyński (PiS):

Dlatego, szanowna pani przewodnicząca, iż sztuczna inteligencja i e-rejestracja to są dwa zupełnie różne tematy. Widzę tutaj na sali ekspertów zarówno od kwestii stricte związanych ze sztuczną inteligencją, jak i medyków i osoby ze środowiska medycznego, które pewnie bardziej są zainteresowane e-rejestracją. Myślę więc, iż o ile są dwa różne tematy to należałoby przeprowadzić dwie odrębne dyskusje.

Przewodnicząca poseł Marta Golbik (KO):

Dobrze, panie przewodniczący. Myślę, iż możemy się przychylić do pana propozycji, aczkolwiek uważam, iż nasi eksperci nie mieliby problemu z tym, żeby dyskutować łącznie. o ile jednak panu przewodniczącemu będzie to bardzo przeszkadzało i mógłby się pogubić w informacjach…

Poseł Janusz Cieszyński (PiS):

Ja już wielokrotnie podkreślałem, iż zmiana na stanowisku przewodniczącego była na plus.

Przewodnicząca poseł Marta Golbik (KO):

Dlatego mówię – ja rozumiem, iż pan przewodniczący mógłby się pogubić w natłoku informacji przeróżnych. Dlatego specjalnie dla pana rozdzielimy tę dyskusję.

Poseł Janusz Cieszyński (PiS):

Bardzo dziękuję.

Przewodnicząca poseł Marta Golbik (KO):

Bardzo proszę. W takim razie bardzo proszę przedstawicieli Ministerstwa Zdrowia oraz Ministerstwa Cyfryzacji o odniesienie się i przedstawienie nam informacji do pkt 1, zgodnie z życzeniem pana posła Cieszyńskiego.

Dyrektor Departamentu e-Zdrowia Ministerstwa Zdrowia Wojciech Demediuk:

Szanowna pani przewodnicząca, panie przewodniczący, Wojciech Demediuk, Ministerstwo Zdrowia, Departament e-Zdrowia. Dzisiaj, z upoważnienia ministra, przedstawię informacje w zakresie Ministerstwa Zdrowia na oba tematy.

W zakresie wykorzystania sztucznej inteligencji w systemie ochrony zdrowia transformacja sektora ochrony zdrowia w kierunku rozwiązań przewidujących, wyprzedzających, spersonalizowanych jest jednym z kierunków działań Ministerstwa Zdrowia. Rozwiązania oparte na algorytmach sztucznej inteligencji odgrywają coraz większą rolę w obszarze zdrowia. Usprawniają pracę, zwiększają efektywność, wydajność personelu medycznego, stwarzają możliwość realizacji świadczeń zdrowotnych przy coraz bardziej ograniczonych zasobach. Zastosowanie mechanizmów sztucznej inteligencji w zdrowiu oznacza dla personelu medycznego więcej czasu dla pacjenta, usprawnienie procesu diagnostyki poprzez podpowiedzi w zakresie zalecanego postępowania, alarmowanie w sytuacjach krytycznych oraz odciążenie z części obowiązków administracyjnych. Zastosowanie mechanizmów AI oznacza zatem dla pacjenta szybszy dostęp do świadczeń i może oznaczać w przyszłości poczucie bezpieczeństwa.

Rozwiązania sztucznej inteligencji znajdują zastosowanie między innymi w diagnostyce, leczeniu oraz wspomaganiu decyzji klinicznych, na przykład analiza badań w diagnostyce obrazowej, monitorowanie stanu zdrowia pacjenta, predykcja, zwiększenie personalizacji leczenia. Także znajdują zastosowanie w usługach back office, które ułatwiają i usprawniają pracę placówek medycznych oraz pracowników, na przykład tworzenie ustrukturyzowanych notatek z wizyty u pacjenta.

Znaczenie sztucznej inteligencji w ochronie zdrowia potwierdza fakt, iż w ramach Naczelnej Izby Lekarskiej powstała Grupa Robocza ds. Sztucznej Inteligencji, z którą współpracuje Ministerstwo Zdrowia. Grupa robocza została powołana w 2023 r. a jej misją jest stworzenie forum wymiany doświadczeń odnośnie do zastosowań sztucznej inteligencji w medycynie. Nadrzędnym celem jest poszukiwanie takich wdrożeń, takich algorytmów wspierających procesy decyzyjne, które stanowią wartość dla pacjenta, kadry medycznej i dla ogólnego systemu ochrony zdrowia w Polsce.

Ministerstwo wspiera wykorzystanie rozwiązań, w tym takie, w których zastosowane są algorytmy sztucznej inteligencji, na kilka sposobów. Po pierwsze, to jest monitorowanie innowacji dotyczących rozwiązań sztucznej inteligencji w obszarze zdrowia oraz możliwości ich zastosowania poprzez cykliczne, cotygodniowe spotkania Zespołu roboczego do spraw innowacji, podczas których te rozwiązania są prezentowane i propagowane.

Ministerstwo Zdrowia monitoruje i nadzoruje informacje na temat nowoczesnych technologii dostępnych w kraju i poza granicami, prowadzi także analizy w obszarze różnych kierunków rozwoju zdrowia cyfrowego, w tym zastosowania narzędzi i rozwiązań w usługach telemedycznych. Od kwietnia 2021 r. zgłaszanie nowych innowacyjnych koncepcji jest możliwe również przy pomocy formularza, który jest dostępny na stronie Ministerstwa Zdrowia.

Wśród zgłaszanych rozwiązań liczne propozycje wykorzystują sztuczną inteligencję. Takich rozwiązań, które mamy na mapie innowacji w Ministerstwie Zdrowia i które są stricte związane ze sztuczną inteligencją w rozumieniu głębokiego uczenia, uczenia maszynowego czy też dużych modeli językowych, jest około 20. Te, które są zgłoszone w ostatnim roku, to są dwa narzędzia w zakresie wsparcia leczenia niepłodności. To Folliscan, który służy do liczenia i pomiaru pęcherzyków. Dzięki sztucznej inteligencji możliwe jest, aby w sposób wystandaryzowany mierzyć wielkość pęcherzyków, co zwiększa obiektywność działania.

Drugie narzędzie, to EmbroAid, które służy do oceny zarodka, automatyzuje pracę i rekomenduje najbardziej obiecujący zarodek, jak również standaryzuje proces oceny zarodków. Trzecim jest Labplus w zakresie automatycznej interpretacji wyników badań laboratoryjnych. Czwartym, zgłoszonym w tym roku, jest platforma medyczna dla lekarzy oraz innych zawodów medycznych, która zawiera treści medyczne, funkcjonalność typu zlecenia dla pacjentów oraz bazę leków i interakcji lekowych. Platforma jest wspierana algorytmem sztucznej inteligencji w zakresie wyszukiwania dokumentów medycznych i generowanie ich na podstawie odpowiedzi użytkownika. To rozwiązanie w tej chwili weryfikujemy w Ministerstwie Zdrowia.

Drugim dużym zakresem jest to, iż Ministerstwo Zdrowia razem z Centrum e-Zdrowia, w ramach planowania zakresu wsparcia ze środków publicznych, przeprowadza analizy w celu identyfikacji rozwiązań, zwiększając efektywność udzielanych świadczeń. Prowadzimy również pracę i uczestniczymy w zakresie dofinansowania, którego celem jest wdrożenie rozwiązań wykorzystujących modele sztucznej inteligencji. W tym zakresie, w tej chwili największym wyzwaniem, jakie stoi przed nami, jest wdrożenie rozwiązań opartych na sztucznej inteligencji w ramach inicjatywy KPO D1.1.2.

Mamy również doskonałe przykłady programów regionalnych, które również są doskonałymi narzędziami i działają na podstawie algorytmów sztucznej inteligencji. Rozwiązania dla lubuskiego MedBrainL, o ile dobrze pamiętam nazwę, spotkały się z bardzo dużym uznaniem. Kontynuacja tego projektu w lubuskim następuje. Właśnie dostaliśmy informacje o wnioskowaniu o kolejne przedłużenie i kontynuację tego programu.

Planujemy również w ramach KPO rozwiązania, które wspierają głównie obszar radiologii. To jest taki obszar, w którym, jak się wydaje, jest najwięcej dojrzałych narzędzi, które są certyfikowane jako produkty medyczne. W perspektywie KPO, która nam pozostała, czyli około 2 lat, tak naprawdę bardzo chcielibyśmy dofinansować polskie startupy i móc dofinansować powstanie nowych, polskich rozwiązań, aby Polska mogła w tym wyścigu technologicznym mieć lepszą pozycję. Zdajemy sobie jednak sprawę z tego, iż w zakresie KPO, czyli 2 lat, biorąc pod uwagę ograniczenia, które wynikają również ze sztucznej inteligencji, a głównie z konieczności certyfikowania rozwiązań medycznych, a wszystkie wspierające decyzję lekarza diagnostyczne rozwiązania powinny takiej certyfikacji ulec, skłaniają nas do tego, iż w tym zakresie, który mamy zdefiniowany w KPO, będziemy się opierać na korzystaniu z już gotowych albo prawie gotowych rozwiązań opartych na sztucznej inteligencji.

W tym zakresie CeZ również przygotowuje pewną standaryzację, dlatego iż udostępnienie tego sieci szpitali byłoby dość skomplikowane. Czyli do każdego narzędzia w przyszłości należałoby budować inne interfejsy. To, co będziemy też przygotowywać, co CeZ będzie przygotowywał w ramach KPO, to będzie pewna standaryzacja i utworzenie rozwiązania, które będzie mogło świadczyć w ustandaryzowany sposób, ustandaryzowanym interfejsem, dostęp do narzędzi, które działają na podstawie algorytmów.

Dzisiaj wydaje się, iż pierwszym kierunkiem, w którym pójdą nasze działania, będzie diagnostyka radiologiczna. To są głównie tematy takie, jak ustalaliśmy z konsultantem krajowym do spraw radiologii. To są głównie obszary głowy, klatki piersiowej i kości. Tutaj mówimy również o radiologii w zakresie wsparcia mammografii.

Planujemy również wykorzystanie voicebotów w przypominaniu i umawianiu wizyt, ale również w innych obszarach. To w umawianiu wizyt planujemy, bo to są już takie rozwiązania, które bardziej służą poprawianiu nie diagnostyki, tylko efektywności działań podmiotów leczniczych. W tym zakresie planujemy użycie ich na przykład w rollout-ie, po, mamy nadzieję, skutecznym zakończeniu pilotażu centralnej e-rejestracji, do wykorzystania w infolinii, którą tam planujemy, ale jeżeli będą pytania na ten temat, to myślę, iż w drugiej części.

Należy też zwrócić uwagę na to, iż dużo rozwiązań, które funkcjonują i na dzisiaj są finansowane czy to ze środków budżetowych Ministerstwa Zdrowia, czy też ze środków Unii Europejskiej, już zawierają rozwiązania z zakresu sztucznej inteligencji. To są rozwiązania, które są zintegrowane z urządzeniami diagnostycznymi.

To na tyle informacji ogólnej, którą przygotowaliśmy w Ministerstwie Zdrowia. o ile będą jakieś pytania, to rozumiem, iż po części, którą przedstawi Ministerstwo Cyfryzacji.

Przewodnicząca poseł Marta Golbik (KO):

Oczywiście. Bardzo dziękuję.

Dyrektor departamentu MZ Wojciech Demediuk:

Bardzo dziękuję.

Przewodnicząca poseł Marta Golbik (KO):

Chciałabym teraz przekazać dalsze prowadzenie wspólnego posiedzenia Komisji panu przewodniczącą Napieralskiemu, który jako członek Komisji Zdrowia a zarazem wiceprzewodniczący Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii zna się bardzo dobrze na obu tych tematach.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję pani przewodnicząca. Chciałbym oddać głos panu ministrowi Standerskiemu. Bardzo proszę, panie ministrze, o zabranie głosu.

Sekretarz stanu w Ministerstwie Cyfryzacji Dariusz Standerski:

Bardzo serdecznie dziękuję. Państwo przewodniczący, Wysokie Komisje, z punktu widzenia Ministerstwa Cyfryzacji należy przede wszystkim zastrzec, iż nie posiadamy definicji legalnej, medycznej, sztucznej inteligencji. Mamy tutaj do czynienia ze współistnieniem przepisów adekwatnych w zakresie produktów i wyrobów medycznych oraz przepisów dotyczących systemów sztucznej inteligencji w ogólności. Z punktu widzenia w tej chwili obowiązujących przepisów, w szczególności przepisów unijnych, nasza interpretacja jest taka, iż system sztucznej inteligencji można zakwalifikować jako wyroby medyczne.

W kontekście szerszego zastosowania systemu sztucznej inteligencji w ochronie zdrowia widzimy potencjał we wdrożeniu europejskiej przestrzeni danych dotyczących zdrowia, przepisów EHDS, które umożliwią nie tylko transgraniczną wymianę i dostęp personelu medycznego do danych pacjentów, ale także stworzą warunki do wykorzystywania tych danych w zakresie badań naukowych w dziedzinie zdrowia, także kształtowania polityki celów regulacyjnych i celów medycyny czy zdrowia, zarówno publicznego, jak i tego spersonalizowanego. W tym aspekcie widzimy, iż przy okazji wdrożenia EHDS, które jest we adekwatności ministra zdrowia i gdzie będzie oczywiście pełne wsparcie ministra cyfryzacji, w zakresie przepisów, na przykład dotyczących zarządzania danymi czy ochrony danych osobowych, Ministerstwo Cyfryzacji oczywiście będzie wspierać przy potencjalnej nowelizacji innych przepisów, już krajowych, które mogą rozszerzyć zastosowanie systemu sztucznej inteligencji w ochronie zdrowia, jak na przykład przepisy ustawy o prawach pacjenta i rzeczniku praw pacjenta, czy też ustawy o systemie informacji w ochronie zdrowia, w jednej ustawie w zakresie scyfryzowania danych, a w drugiej, dodania kolejnych definicji danych do dzisiaj istniejącej definicji danych jednostkowych.

Z punktu widzenia Ministerstwa Cyfryzacji, rozwiązania właśnie w zakresie zarządzania danymi mogą systemowo zwiększyć możliwość wykorzystania systemów sztucznej inteligencji w ochronie zdrowia, natomiast w kontekście aktu o sztucznej inteligencji pamiętajmy o tym, iż system w ochronie zdrowia nie jest automatycznie kwalifikowany jako system wysokiego ryzyka. Jest kwalifikowany dopiero po spełnieniu przesłanek w rozporządzeniu, które będzie wdrażane również polską ustawą.

W tym zakresie chciałbym również zasygnalizować dyskusję, która będzie ważna z punktu widzenia wdrażania aktu o sztucznej inteligencji w Polsce, ponieważ będziemy chcieli zaproponować we wdrożeniu narzędzie dla przyszłego organu nadzoru rynku w postaci interpretacji przepisów. Zauważamy bowiem, zwłaszcza w ochronie zdrowia, iż nowe narzędzia, nowe funkcje, które są cały czas rozwijane przez kolejne systemy sztucznej inteligencji, mogą się wymykać podstawowym ramom prawnym, według naszej dzisiejszej interpretacji. Możemy sobie wyobrazić, iż po wdrożeniu przepisów unijnych powstanie nowy wyrób medyczny wykorzystujący sztuczną inteligencję, który na przykład byłby nieobecny w uzasadnieniu do projektu ustawy, bo ustawodawca nie wpadł jeszcze na to, iż może powstać kolejny wynalazek w tym względzie. Dlatego chcielibyśmy, żeby organ nadzoru rynku mógł wydawać interpretacje, które też ułatwią skalowanie rozwiązań. To znaczy, iż o ile dany wyrób otrzyma interpretację pozytywną, to też będzie mogło się skalować na inne, podobne do tego wyroby.

Zatem, podsumowując, oczywiście deklarujemy jako Ministerstwo Cyfryzacji pełne wsparcie, o ile chodzi o wdrażanie przepisów unijnych, które usprawnią wdrażanie tych innowacji, szczególnie w zakresie zarządzania danymi. Również widzimy, iż rozwiązania systemowe, które wprowadzą przepisy wdrażające akt o sztucznej inteligencji, też będą krokiem naprzód, o ile chodzi o systemy sztucznej inteligencji w ochronie zdrowia. Bardzo serdecznie dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo serdecznie dziękuję, panie ministrze, za tę informację i za dzisiejszą obecność na wspólnym posiedzeniu Komisji. Szanowni państwo, w celu uzupełnienia albo też wyjaśnienia, chciałbym powiedzieć, iż dzisiejsze posiedzenie tych dwóch Komisji jest efektem pracy podkomisji ds. sztucznej inteligencji i algorytmów cyfrowych. To z naszej inicjatywy doszło do tej dyskusji. Uważamy, iż po wyjściu sztucznej inteligencji z laboratoriów czy algorytmów, kiedy pojawiły się już pierwsze projekty na świecie, ten świat bardzo mocno przyspieszył i stoimy u progu zmian nie tylko ustawowych, ale takich naprawdę bardzo poważnych, systemowych, o ile chodzi o wdrażanie sztucznej inteligencji w naszym kraju i na całym świecie.

My pozwoliliśmy sobie również jako podkomisja nawiązać współpracę z Akademią Leona Koźmińskiego, z panią profesor Katarzyną Kolasą, która jest z nami dzisiaj na sali, jak również z Naczelną Izbą Lekarską. o ile pozwolą państwo – zwracam się do posłów i posłanek obu Komisji – jest bardzo krótka prezentacja, która powstała ze współpracy tych instytucji, ale również z badań, które zostały przeprowadzone, jak wdrażać technologie oparte na sztucznej inteligencji. Myślę, iż to jest bardzo ciekawe. Pani profesor specjalnie dzisiaj przybyła na to posiedzenie Komisji. o ile pozwolicie, te kilka minut oddałbym jeszcze pani profesor Katarzynie Kolasie. Bardzo proszę, pani profesor. Oddaję głos.

Dyrektor Centrum Zdrowia Cyfrowego Akademii Leona Koźmińskiego w Warszawie Katarzyna Kolasa:

Dziękuję bardzo, panie przewodniczący. Wysokie Komisje, bardzo miło dzisiaj tutaj być z uwagi na to, iż temat cyfryzacji w ochronie zdrowia jest mi bliski nie tylko z punktu widzenia naukowca, ale również przyszłego pacjenta, który, mam nadzieję, będzie korzystał z tych rozwiązań i mam nadzieję, iż w naszym kraju.

Reprezentuję Akademię Leona Koźmińskiego. Jestem dyrektorem Centrum Zdrowia Cyfrowego. Również mam ogromną przyjemność uczestniczyć w grupie innowatorów przy Naczelnej Izbie Lekarskiej, gdzie odpowiadam za dyskusję na temat sztucznej inteligencji.

Mieliśmy szereg spotkań, i tu chciałabym bardzo podziękować posłowi Napieralskiemu za inicjatywę, ale przede wszystkim również za wsparcie prac naukowych. Rzadko się zdarza, iż mamy takie dobre połączenie między gronem polityków a naukowców, a tutaj to się wydarzyło, i to już ponad rok temu. Natomiast 10 września, dzięki współpracy z Rynkiem Zdrowia, właśnie z Naczelną Izbą Lekarską i grupą innowatorów, w Akademii Leona Koźmińskiego mieliśmy okazję gościć między innymi posłów, jak również przedstawicieli Ministerstwa Zdrowia, Narodowego Funduszu Zdrowia i innych decydentów, żeby przedyskutować… Rzeczywiście były to warsztaty. To nie była konferencja. Klara Klinger, redaktor naczelna Rynku Zdrowia, prowadziła dwugodzinną debatę na temat tego, jak należy wdrażać sztuczną inteligencję. Wyniki tej debaty zaowocowały trzema hipotezami, których z pewnością nie są państwo w stanie przeczytać, ale udostępniamy je na stronie Rynku Zdrowia i naszej, Akademii Leona Koźmińskiego.

W podsumowaniu chciałabym tylko wskazać na jednogłośność. Jak widzą państwo, wszędzie jest „tak” od 70 do 93%. Tak, na wdrożenie sztucznej inteligencji, tak, na wsparcie partnerstwa publiczno-prywatnego w tym, jak wdrażać sztuczną inteligencję, tak, na korekty ram prawnych, na pewne deregulacje nawet. Mówiliśmy o pewnych deregulacjach, żeby na nowo stworzyć nowe regulacje. Jednak najważniejszy jest chyba ostatni punkt, gdzie 93% uczestników tego spotkania wskazało na potrzebę tworzenia programów pilotażowych, żeby cyfryzację w ochronie zdrowia wdrażać stopniowo, bo jak wiemy, dobro pacjenta jest naszym priorytetem i nie możemy doprowadzić do sytuacji zagrożenia bezpieczeństwa cyfrowego czy też zagrożenia zdrowia i dobrostanu pacjentów.

W związku z tym, to była bardzo istotna debata, która w zasadzie była dla mnie osobiście podsumowaniem dwóch poprzednich debat, jakie dzięki posłowi Napieralskiemu i patronatowi Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii zrobiliśmy w 2023 r. W ramach tych debat zebraliśmy również głosy ekspertów, jakimi kryteriami oceniać i wdrażać sztuczną inteligencję.

Zrobiliśmy również spotkanie dla deweloperów tych technologii cyfrowych, ale przede wszystkim zaprosiliśmy ekspertów z zagranicy, ze Stanów Zjednoczonych, z Katalonii, z Niemiec, którzy opowiedzieli, jakie są postępy w systemie refundacji rozwiązań opartych na sztucznej inteligencji w tych krajach. Tu muszę powiedzieć, iż pomimo tego, iż się cieszę, iż jest ta dzisiejsza debata, iż jesteśmy tu dzisiaj, dalej, proszę państwa, zostajemy w tyle i czas na zmiany. Mam nadzieję, iż ta dzisiejsza debata będzie kolejnym krokiem milowym we wdrożeniu tych zmian, bo takowe regulacje już istnieją.

Na podstawie tych naszych doświadczeń z zeszłego roku, badań, o których powiem troszeczkę później, ale i tych doświadczeń państw zagranicznych, pozwoliłam sobie własnym sumptem zaproponować taką jednostronicową mapę tego, co powinniśmy oceniać przy wdrażaniu sztucznej inteligencji. Myślę, iż najważniejsze jest spojrzenie na to, iż rozwiązania są przynajmniej trzytorowe – dla pacjentów, dla lekarzy, ale również dla administracji.

Bardzo ważne jest to, żeby mieć trzy ścieżki. Czyli nie możemy mówić o sztucznej inteligencji dla lekarzy w ten sam sposób, jak o tej, która będzie wspomagała pracę administracji. Dlaczego praca administracji jest ważna? Dlatego, iż mamy zadłużenie wielu jednostek, placówek zdrowia. Mamy galopujące wydatki na system ochrony zdrowia. Musimy myśleć o oszczędnościach, które w zasadzie mają jeden mianownik. Tym mianownikiem jest czas.

Nie mamy czasu w systemie ochrony zdrowia na czekanie. Nie mamy czasu w systemie ochrony zdrowia, bo czas lekarza jest coraz bardziej cenny, a my pacjenci będziemy ponosić tego konsekwencje.

Nie mamy czasu w walkę z konsekwencjami choroby. W związku z tym musimy myśleć o nowych rozwiązaniach metodologicznych, które pozwolą nam zdefiniować, ile kosztuje strata tego czasu. My, ekonomiści, mówimy tak o koszcie alternatywnym, czyli, ile stracimy na tym, iż nie robimy czegoś tu i teraz. Dlatego w tych aspektach, poza tymi standardowymi aspektami klinicznymi i etycznymi, które definiujemy w ramach ocen technologii medycznych, musimy pójść znacznie dalej. Musimy spojrzeć na aspekty organizacyjne, ale również etyczne, czyli zastanowić się, któremu pacjentowi sztuczna inteligencja powinna postawić diagnozę, a któremu pacjentowi powinien to zrobić lekarz.

Musimy zastanowić się, jak wyceniać technologie cyfrowe, bo o ile spojrzymy na koszt marginalny stosowania algorytmu, jest on zerowy, ale czy chcemy każdemu deweloperowi płacić zero. Nie. Musimy dać im wynagrodzenie za ich innowacje. W związku z tym, musimy, tak samo jak w przypadku leków, przygotować system refundacji dla tych rozwiązań. Jednak w moim osobistym przekonaniu nie powinien być to system opłaty za dostęp do leczenia, tylko za efekty, które ta technologia generuje. Czyli oszczędności.

Tak jest na przykład w Stanach Zjednoczonych. Tak jest w Niemczech, gdzie po próbie wdrożenia refundacji dla aplikacji mobilnych jest szykowana reforma z racji tego, iż niekoniecznie się powiodła ta reforma. W tej chwili jest dyskusja na ten temat, iż cena za dostęp do technologii powinna być oparta na efekcie terapeutycznym, który ta technologia generuje. Po prostu idźmy również tą drogą, moim zdaniem. Czy też, tak samo jak Stany Zjednoczone, zdefiniujmy, co naprawdę rozumiemy pod pojęciem innowacyjności, nowości. Niekoniecznie jest to nowy mechanizm działania technologii, tylko to jest to, ile ta dana technologia generuje czasu oszczędzanego na zdrowiu pacjenta, czasu oszczędzanego na pracy lekarza.

Ja zajmuję się ekonomiką zdrowia od ponad 20 lat i muszę przyznać, iż sama wiele błędów popełniłam, bo nie mamy tej metodologii. Musimy stworzyć nową metodę leczenia, korzyści dla systemu ochrony zdrowia. Dlatego ta dzisiejsza debata jest dla mnie strasznie ważna. Mam nadzieję, iż ona zaowocuje takim myśleniem. We Francji też już definiują, iż telemedycyna nie jest tak samo wyceniana. Niezależnie od tego, czy jest z domu pacjenta czy z domu lekarza, ale jest zależna od tego, jakie korzyści ona generuje, czy są to korzyści związane z jakością życia, czy z chorobowością, czy ze śmiertelnością. W związku z tym zdefiniujmy dostęp do technologii oparty na tych efektach zdrowotnych czy efektach organizacyjnych dla systemu ochrony zdrowia, które generuje. W dzisiejszym systemie ochrony zdrowia na to nie ma miejsca i dlatego musimy zrobić zmiany.

Tu bardzo chciałabym podziękować Michałowi Czarnuchowi zajmującemu się life sciences z Kancelarii Rymarz Zdort Maruta, który pozwolił mi pokazać swój slajd definiujący, ile ustaw powinniśmy w tej chwili przeanalizować pod kątem zmian. W związku z tym, jak widzicie państwo, czas nas nagli, bo przeanalizowanie tych zmian prawnych zajmie nam troszeczkę czasu. Dlatego bardzo ważne jest to, żeby spojrzeć na nowy system cyfryzacji w systemie ochrony zdrowia holistycznie.

Ja myślę, iż nie mamy czasu w dyskusję, kto powinien przejąć rolę lidera. Myślę, iż musimy połączyć siły. I tak samo jak dzisiaj mamy chyba pierwsze wspólne posiedzenie Komisji Zdrowia z Komisją Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, tak powinniśmy myśleć o systemie ochrony zdrowia jako o cyfrowo-zdrowotnym albo bardziej cyfrowo-prewencyjnym, cyfrowo-profilaktycznym, szukać oszczędności w systemie tam, gdzie te oszczędności można generować, czyli nie dla pacjentów, ale dla zdrowych, żeby nie byli pacjentami.

Dlatego bardzo dziękuję prezesowi Naczelnej Izby lekarskiej Łukaszowi Jankowskiemu, jak również moim kolegom z NIL, z grupy innowatorów, za chęć podjęcia tego wyzwania i wsparcia prac legislacyjnych grupą roboczą, która by mogła metodologię oceny sztucznej inteligencji w Polsce stworzyć. Bardzo ważne jest to, iż to musimy zrobić w Polsce. Nie możemy korzystać z rozwiązań zagranicznych, ponieważ dane Polaków są danymi polskimi. Bardzo musimy skoncentrować uwagę na tym, jakie dane są generowane w systemie dziś i jakie chcemy generować w przyszłości. To są dane naszych pacjentów i będą to dane nasze. W związku z tym sztuczna inteligencja jest tylko tak dobra, jak dane, którymi operuje. Bardzo ważne jest to, żebyśmy zaczęli generować dostęp do danych dla deweloperów technologii, ale również dla nas, pacjentów, po to, żeby algorytmy uczyły się na naszych danych, po to, żeby te predykcyjne modele były odpowiedniej wrażliwości i czułości.

Dlatego myślę, iż taka grupa robocza, która ustali metodologię i te pilotaże, będzie pomocna. Zostawiam to pod dyskusję oczywiście i mam nadzieję, iż nie tylko ja, ale i inne ośrodki akademickie włączą się w tę pracę, żeby nadrobić ten czas, bo jak powiedziałem na początku, to czego nam brakuje na dzisiaj we wdrożeniu, to jest czas, ale również musimy wyznaczyć metodologię, jak ten stracony czas liczyć. Bardzo dziękuję za uwagę.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję pani profesor. Bardzo dziękuję za rozpoczęcie tej dyskusji po przedstawicielach ministerstwa i panu ministrze. Zgłaszają się parlamentarzyści. Po kolei. Najpierw pani poseł Polak, bardzo proszę.

Poseł Elżbieta Anna Polak (KO):

Bardzo dziękuję za podjęcie tego tematu, ale też dziękuję za tę prezentację, ponieważ właśnie w tej sprawie chciałam zabrać głos, tak więc nie będę musiała tyle mówić. Sztuczna inteligencja, proszę państwa, wchodzi szybciej do medycyny i do ochrony zdrowia niż zauważa to niestety Narodowy Fundusz Zdrowia. Dlatego wycena tych świadczeń jest absolutnie potrzebna.

W regionie lubuskim jest realizowany nie tylko ten projekt, o którym pan minister powiedział, ponieważ dzięki funduszom europejskim inteligentne wsparcie w medycynie z wykorzystaniem narzędzi cyfrowych jest naszą inteligentną specjalizacją, można powiedzieć. Pierwszy taki projekt, pamiętam, dzięki środkom EWT był realizowany cyfrowy rejestr raka, kolejny, e-radiologia, no i teraz ten ostatni w Gorzowie Wielkopolskim, cyfrowy lekarz, ale – sprawdziłam przed chwilą – wciąż bez kontraktu. Niestety, zrobiliśmy pilotaż już nie z funduszy europejskich, ale z własnych środków.

Jest potężny deficyt lekarzy w ogóle, ale specjalistów ratownictwa medycznego szczególnie. A tutaj, dzięki wykorzystaniu systemów innowacyjnych, jeden lekarz może obsłużyć kilka zespołów ratownictwa medycznego. Stąd też apel o podjęcie tych prac, które pani zaproponowała, żeby ta usługa medyczna mogła być refundowana i mogła być wyceniona, bo niestety wciąż nie jest. Wciąż te koszty nie są wycenione i nie są refundowane przez Narodowy Fundusz Zdrowia, a korzyści są wymierne. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję pani poseł. Prosił o głos pan przewodniczący, pan poseł Witold Czarnecki. Bardzo proszę, panie pośle.

Poseł Witold Wojciech Czarnecki (PiS):

Dziękuję bardzo. Panie przewodniczący, szanowni państwo, nie mam żadnych wątpliwości, iż sztuczna inteligencja, opierająca się w istocie na sieciach neuronowych, to rewolucja porównywalna z tą, jaką mieliśmy w latach 70., kiedy weszła w powszechne użycie metoda elementów skończonych w analizie konstrukcji. To też była rewolucja. Dzisiaj nikt sobie nie wyobraża analizy w dziedzinach technicznych bez metody elementów skończonych.

Deklaracje ze strony pana ministra, można powiedzieć są budujące, ale żeby one były skuteczne, muszą stać za tym jednak środki finansowe. Ja powiem o jednym przykładzie, bardzo ważnym, istotnym i też związanym ze sztuczną inteligencją i ze zdrowiem. Powiem o projekcie, który opracował mój zespół Uniwersytetu Zielonogórskiego, Uniwersyteckie Centrum Patentowe, które zostało powołane pod koniec rządu pana Mateusza Morawieckiego. To centrum patentowe, dysponując niewielkimi środkami, w ciągu krótkiego czasu wyszło na pierwsze miejsce w zgłaszaniu wniosków patentowych w Europejskim Urzędzie Patentowym. My zajęliśmy pierwsze miejsce, za nami wielka Akademia Górniczo-Hutnicza, potem Uniwersytet Warszawski.

Pracowaliśmy – to ostatni projekt tego centrum – wspólnie z profesorem Jerzym Szaflikiem, przy udziale profesorów Politechniki Warszawskiej, przy udziale profesorów Uniwersytetu Medycznego w Warszawie, nad urządzeniem, które wykorzystując sztuczną inteligencję zapobiegałoby rozwojowi jaskry. Jaskra to jest taki typ choroby, która się nie cofa, jak mi mówił profesor Szaflik.

Proszę państwa, co się okazało. Mimo, iż zajęliśmy tak świetne, bo pierwsze miejsce w kraju, ten rząd odebrał nam finansowanie i musieliśmy te projekty porzucić. To jest bardzo smutne, iż rzecz, która mogłaby być rewolucją w ochronie zdrowia, w leczeniu jaskry, musiała zostać przez nas odrzucona, bo naszego uniwersytetu nie stać na to, żeby finansować to centrum patentowe. A środki – ja prosiłem ministra Wieczorka i pana wiceministra Gzika, żeby nas wsparli, bo to jest absolutnie apolityczny projekt, a koszty niewielkie.

Pokazaliśmy w tym pilotażowym projekcie pana Mateusza Morawieckiego, iż rzeczywiście potrafimy coś. Ja myślałem, iż dostaniemy wsparcie. Niestety, nie dostaliśmy. Teraz mówię – to jest praktyka. Chciałbym, żeby deklaracje nie mijały się z praktyką. Mam nadzieję, iż rząd do tego dojdzie, ale żeby się nie mijały, to rząd musi dysponować środkami. W naszym przypadku to była bardzo niewielka kwota, bo to były zaledwie 2 mln zł, przy budżecie AGH to na pewno więcej, miliard może dwa. To są naprawdę niewielkie kwoty, ale już te prace, niestety, zostały przez nas porzucone. Być może do nich wrócimy, bo szkoda, żeby taki dobry projekt, żeby ta inwencja tych wybitnych inżynierów praktyków…

Oni się rozjechali. Zespół został rozwiązany, bo uniwersytet nie ma im za to płacić, bo to byli ludzie, którzy pracowali dla zasady, dla idei. Powiem, iż lider dostawał 4,5 tys. zł, żeby to sobie wyobrazili państwo. On za takie pieniądze zgodził się pracować. Oczywiście oprócz tego jest wybitnym informatykiem i mógł zajmować się również innymi rzeczami. Tak więc apeluję do ministra zdrowia i do ministra cyfryzacji, żeby jednak nie tylko deklarować pomoc, ale żeby ta pomoc miała kształt realny. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie pośle. Zgłosił się pan poseł Grzegorz Lorek. Bardzo proszę, panie pośle, oddaję głos.

Poseł Grzegorz Lorek (PiS):

Szanowny panie przewodniczący, Wysokie Komisje, ja od razu przejdę do bardziej skonkretyzowanego pytania, a mianowicie, jakie środki są przewidziane w resorcie zdrowia, w Narodowym Funduszu Zdrowia, na wdrożenie sztucznej inteligencji. Jakie środki są przeznaczone na projekty związane ze sztuczną inteligencją? Całkowicie zgadzam się, iż przed tym nie uciekniemy. Wręcz odwrotnie, powinniśmy nadawać ton służbie zdrowia, bo jest to bardzo ważne, żeby rozwój służby zdrowia postępował.

Jedna z przedmówczyń w swoim referacie mówiła o etyce. To jest bardzo ważna rzecz. Chciałbym więc zapytać, czy przy Ministerstwie Zdrowia jest powołana komisja etyki, która działa, która opiniuje projekty, która przedstawia swoje wnioski. Nie wyobrażam bowiem sobie sytuacji takiej, iż o życiu i zdrowiu pacjenta całkowicie będzie decydowała sztuczna inteligencja.

Ja tu przytoczę jedno zdanie z tej państwa informacji. „EmbroAid, który służy do oceny zarodka, automatyzuje prace i rekomenduje najbardziej obiecujący zarodek”. Szanowni państwo, dla mnie życie ludzkie jest najważniejsze i nie może być tak, iż sztuczna inteligencja będzie o tym decydować.

Pytanie jest więc takie do Ministerstwa Zdrowia, jak wygląda ocena. No i też to, co powiedziałem na wstępie, jakie środki finansowe są przewidziane na sztuczną inteligencję, zarówno na wdrożenie w NFZ, jak i Ministerstwie Zdrowia, i komisja etyki. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję. Później będę dawał głos. Panie pośle, dziękuję za ten głos. o ile mogę wykorzystać przywilej prowadzącego, serdecznie zapraszam pana posła. Odbyliśmy już jako podkomisja pierwszą dyskusję z uczelniami polskimi na temat etyki i moralności, o ile chodzi o algorytmy i sztuczną inteligencję. Bardzo pogłębiona dyskusja, dotycząca właśnie tego, jak do tego aspektu podejść. Ponieważ nie wyczerpaliśmy wtedy tak naprawdę tego tematu, podjęliśmy decyzję, iż jeszcze raz z dodatkowymi instytucjami czy dodatkowymi gośćmi taką dyskusję chcielibyśmy jako podkomisja stała przeprowadzić. Zatem serdecznie pana posła zapraszamy, bo uważamy, iż nie tylko w aspekcie ochrony zdrowia, ale i w każdym innym aspekcie kwestia dotycząca etyki czy moralności jest bardzo ważna.

Już dziś widzimy, jak działają algorytmy, które wykorzystują choćby dane z naszego telefonu i potrafią na przykład, wiedząc, iż mamy słabą baterię i jest późno w nocy, podnieść ceny niektórych usług w różnych aplikacjach. Nie chcę już więcej mówić, żeby nikt mnie później po sądach nie ciągał. To nie jest niezgodne z polskim prawem, ale odpowiedź na pytanie, czy etyczne, czy moralne, jest całkowicie inna. Zapraszam więc pana posła.

Po zadaniu pytań i głosach parlamentarzystów będę prosił o odpowiedzi. Pan poseł Cieszyński, bardzo proszę.

Poseł Janusz Cieszyński (PiS):

Bardzo dziękuję. Ja się bardzo cieszę, iż mamy dzisiaj na sali przedstawicieli i Ministerstwa Cyfryzacji, i Ministerstwa Zdrowia, dlatego iż to byłby dobry moment na to, żeby te dwa resorty podjęły realną, a nie tylko taką deklarowaną współpracę. O czym mówię? Mam na myśli konkretny przypadek.

29 stycznia pan premier Krzysztof Gawkowski powołał zespół PL/AI. W skład tego zespołu weszli eksperci z różnych dziedzin, z różnych firm, mający doświadczenie biznesowe, którzy zaproponowali konkretne rozwiązania wykorzystania sztucznej inteligencji w systemie ochrony zdrowia. Zespół przygotował raport. Z tym raportem każdy z państwa może się zapoznać na stronie internetowej Ministerstwa Cyfryzacji. To jest oficjalny raport, do którego każdy może zależeć.

Proszę państwa, ja chciałbym przytoczyć dwa fragmenty tego raportu, bo to jest naprawdę szokujące. „Wyniki pilotażu radiolog AI. Technologia sztucznej inteligencji może uratować życie. Wyniki naszych badań pilotażowych wskazują na możliwość znacznego zmniejszenia umieralności na raka piersi w Polsce. Obniżeniu umieralności na raka piersi o połowę, czyli do poziomu USA i Europy Zachodniej, uratowałoby 3200 kobiet rocznie i jest to możliwe w ciągu najbliższej dekady. Rekomendacje dla Ministerstwa Zdrowia zostały przekazane w dniu 27 maja, do Departamentu Innowacji” – tu jest pan dyrektor – „oraz Departamentu Lecznictwa, wskazanych przez panią minister Izabelę Leszczynę. Na ten moment” – to jest wrzesień tego roku – „nie otrzymaliśmy odpowiedzi”.

Podobnie bez odpowiedzi pozostała inna kwestia, dotycząca poprawy zgłoszalności na mammografię w ramach programu profilaktyki raka piersi. Firma zrealizowała działania automatyzujące zapraszanie kobiet na badania mammograficzne przy pomocy bota głosowego. Tysiąc zrealizowanych połączeń dało 400 zapisów po jednym połączeniu. To jest więcej, proszę państwa, niż wynosi statystycznie w Polsce zgłaszalność na badania mammograficzne. Pismo skierowano w tej sprawie do Ministerstwa Zdrowia 27 maja 2024 r. Do tej pory nie zostały w tej sprawie podjęte żadne działania.

Tak więc ja bardzo się cieszę, iż są deklaracje, iż będzie współpraca, iż będą konkretne działania, ale myślę – i tu mam prośbę o przekazanie tego do kierownictwa Ministerstwa Zdrowia – iż oczekiwania są dużo większe, bo pan premier Gawkowski wykonał pracę, ściągnął ekspertów, oni przygotowali konkretne rekomendacje, one zostały opublikowane, one zostały państwu przekazane i państwo tego po prostu nie wykorzystali. Moje pytanie jest więc takie, kiedy państwo te piłki, które wam są po prostu wystawiane, zaczniecie zbijać, dlatego iż tutaj naprawdę mamy możliwość osiągnięcia bardzo dobrych efektów. Jak pokazuje ten raport… Bo to nie jest raport teoretyczny, tylko to jest faktyczny pilotaż oparty na faktycznych danych, na pacjentach i pacjentkach, którym możliwe, iż udało się dzięki temu uratować życie. Tak więc moje pytanie do Ministerstwa Zdrowia jest takie, kiedy państwo udzielicie odpowiedzi, bo od 27 maja minęło już naprawdę bardzo dużo czasu. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie pośle. Bardzo proszę o zabranie głosu pana posła Czesława Hoca. Bardzo proszę, oddaję głos.

Poseł Czesław Hoc (PiS):

Dziękuję, panie przewodniczący. Oczywiście rozmawiamy o sztucznej inteligencji. Oczywiście jest to w aspekcie takiej nowoczesności wręcz rewolucja. Natomiast rok 97 to praktycznie była rewolucja, bo Deep Blue pokonał mistrza świata w szachach Garego Kasparowa. Od tego zaczęła się właśnie moda i też sukces sztucznej inteligencji. A jeżeli dodamy do tego, iż kilka dni temu nagrodę Nobla w dziedzinie fizyki otrzymali panowie Geoffrey Hinton i John Hopfield właśnie za sieć sztucznych neuronów, no to już widzimy, iż praktycznie sztuczna inteligencja wkracza w życie i szczerze mówiąc może zastępować nam 86 mld neuronów w mózgu, 86 mld astrocytów w mózgu i jeszcze 100 mln neuronów w przewodzie pokarmowym człowieka. Tak więc tutaj rzeczywiście rywalizacja następuje.

Jednak powiedziałbym tak. Z jednej strony pan poseł Czarnecki mówi, iż były osiągnięcia w leczeniu jaskry i nie wykorzystano tego, pomimo iż były dowody na to, iż to jest patent, a z drugiej strony, sięgamy po takie powiedziałbym bardzo niebezpieczne i bardzo nieetyczne, nieakceptowalne kwestie. jeżeli tutaj podajecie – uzupełnię to – iż sztuczna inteligencja będzie dokonywać automatyzacji pracy i rekomendować najbardziej obiecujące zarodki, jak również standaryzować proces oceny zarodków, to chcecie powiedzieć nam, lekarzom i wszystkim ludziom, iż to sztuczna inteligencja będzie oceniać zarodki do ewentualnej implantacji i implementacji.

To jest po prostu niesamowita rewolucja i to wręcz przerażające. jeżeli chcecie w taką drogę iść, to rzeczywiście jest to droga do bardzo niebezpiecznych rozwiązań, bo będziemy już dokonywać sztucznej selekcji zarodków. To jest sztuczna selekcja zarodków. Będziecie chcieli, żeby już była określona płeć, określony wygląd, wysokość itd. itd. To już jest bardzo niebezpieczne.

Czyli, krótko mówiąc, rzeczywiście sztuczna inteligencja jest obiecująca, atrakcyjna, ale musimy zwrócić uwagę przede wszystkim na dane wrażliwe. Wiadomo, jak ustrzec się przed danymi wrażliwymi. jeżeli wejdziemy w aspekt zdrowotny pacjenta, uzyskamy jego sylwetkę, jego genom i praktycznie wszystkie kwestie prozdrowotne, to człowiek będzie wydany nie tylko na pastwę niejako tej sztucznej inteligencji, ale już praktycznie można z nim zrobić wszystko. To jest pierwsza sprawa.

Druga, własność intelektualna i tajemnica handlowa. Tu też trzeba popatrzeć na to, jak ta własność intelektualna może być w każdym calu naruszana, tajemnica handlowa również, w sytuacji ekstremalnej a jednocześnie dyskryminującej, bo są pewne grupy społeczne, które może inaczej reagują na kwestie środowiskowe, społeczne, kulturowe itd. Jest to więc bardzo niebezpieczna ścieżka.

Czyli, podsumowując, sztuczna inteligencja tak, bo rzeczywiście jest wiele korzyści. Natomiast bardzo, bardzo ostrożnie i tak racjonalnie, pragmatycznie, żeby zawsze rozum człowieka kontrolował maszynę i to uczenie maszynowe, ten deep learning i te wszystkie inne kwestie muszą być pod kontrolą albo powinny być pod kontrolą człowieka. To człowiek stworzył maszynę, to człowiek stworzył komputer i nie może ten komputer wyjść spoza kontroli i nadzoru człowieka. To takie przemyślenia.

A jeszcze na koniec. jeżeli Elon Musk w styczniu 2024 r. wszczepił chip do mózgu sparaliżowanego człowieka, który myślami uruchamia myszkę i praktycznie myślami powoduje wykonywanie pewnych ruchów, to już jest rzeczywiście wejście w tematy takie bardzo przyszłościowe, które jednak powinny być pod stałą kontrolą i nadzorem. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję, panie pośle, za ten głos. Ja chciałbym tylko powiedzieć, iż niemal na każdym posiedzeniu podkomisji, o ile rozmawiamy o każdym aspekcie sztucznej inteligencji zawsze pojawia się jedno bardzo konkretne zdanie czy jeden bardzo konkretny warunek, iż na końcu zawsze jest człowiek, i to człowiek pełni pełną kontrolę. Kiedy mówimy też o przygotowaniu regulacji prawnych, mówimy o tym tak, aby całą tę technologię tak złapać w regulacje prawne, żeby ona była bezpieczna dla człowieka i służyła nam, a nie my jej. Chciałbym więc pana posła uspokoić, o ile chodzi o tę kwestię. Bardzo dziękuję za ten głos.

Przekazuję głos pani poseł Krystynie Skowrońskiej. Bardzo proszę, pani poseł.

Poseł Krystyna Skowrońska (KO):

Szanowni państwo przewodniczący, wydaje mi się, iż dyskusja dzisiaj jest niezwykle ważna. I tak jak 40 lat temu mieliśmy do czynienia z informatyzacją, która wydawała się rzeczą przełomową, tak dzisiaj ze sztuczną inteligencją.

Chciałabym zapytać, jak wygląda ten projekt interdyscyplinarny, który próbuje prowadzić Ministerstwo Cyfryzacji. Jak państwo próbujecie zbudować strategię taką interdyscyplinarną, o której mówimy dzisiaj w pewnym wycinku? Mówimy o wycinku ochrona zdrowia, ale wydaje się, iż taka strategia interdyscyplinarna w resorcie powinna zostać przygotowana. Na jakim etapie ona jest? To po pierwsze.

Po drugie, mam ogromną prośbę. Kiedy będziecie państwo jako resort gotowi, komisja cyfryzacji z panem posłem Napieralskim, żeby to była szersza informacja dla zainteresowanych. Niewątpliwie nowa, ważna rzecz i to, jak możemy to wykorzystać.

Przy tym badaniu, przy tej strategii takiej interdyscyplinarnej, rozumiemy, iż wszystkie zadania, wszystkie możliwości wykorzystania sztucznej inteligencji. A jeżeli chodzi o takie celowane, sektorowe, to mam konkretne pytania. Czy po stronie państwa wskazano, w jakim zakresie wdrożenie sztucznej inteligencji w zdrowiu może przynieść nam dodatkowo oszczędności? I ile, w zakresie wydatków albo w efektywności, leczeniu – to, o czym mówiono.

Myślę, iż informacja, która była przedstawiona wcześniej, jest szalenie ważna. Na dzisiaj chciałabym, abyśmy po wypowiedzi pana posła Napieralskiego, iż najważniejszy jest człowiek, nie próbowali na samym początku stawiać sobie takiej bariery, o której mówił pan poseł Hoc, aby nie mówić o selekcji zarodków, bo potem sprowadzamy tę dyskusję do takiego znaczenia bardzo pejoratywnego, a my byśmy chcieli wykorzystać to dla rozwoju.

I jeszcze konkretna rzecz. To do resortu zdrowia i o ile nie dzisiaj, to poproszę o udzielenie odpowiedzi na piśmie. Jakie korzyści będą dla funduszu przy korzystaniu dzisiaj z tych rozwiązań vide zmiany dotyczące finansowania takich procedur, które moglibyśmy stworzyć przy użyciu sztucznej inteligencji, aby można było przeznaczyć więcej środków na leczenie? To jest przedostatnie pytanie.

I ostatnie pytanie, do resortu zdrowia. Na ile środki europejskie, KPO czy inne, będą wykorzystane w dziedzinie zdrowie vide cyfryzacja, a na ile inne projekty? Będę wdzięczna za udzielenie odpowiedzi na piśmie.

Dziękuję bardzo, bo to jest interesująca dyskusja. Każdy z nas ma inny punkt widzenia na ten temat, który dzisiaj jest przedmiotem posiedzenia Komisji, ale na pewno warto o tym rozmawiać. To musi być synergia na zasadzie współpracy – świetne rozwiązania, które wypracuje Komisja, podkomisja we współpracy z resortem. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję pani poseł. o ile pozwolicie jeszcze, takim liderem, o ile chodzi o dyskusję w rządzie, o przygotowanie wszystkich przepisów dotyczących wdrożenia aktu i w ogóle sztucznej inteligencji, jest pan minister Standerski, który jest tutaj obecny.

Chciałbym też powiedzieć, iż planujemy pogłębioną dyskusję, szerszą niż tylko w ramach podkomisji i komisji tutaj w parlamencie. Oczywiście wszystkich państwa zapraszamy na taką pogłębioną dyskusję. Tak jak pani poseł zauważyła, ta rewolucja dotycząca sztucznej inteligencji jest oczywiście o wiele większa, bardziej nieprzewidywalna niż rewolucja odkrycia czy wynalezienia Internetu, czy komputerów. Bardzo dziękuję pani poseł.

Pani przewodnicząca Marcelina Zawisza. Bardzo proszę, pani przewodnicząca.

Poseł Marcelina Zawisza (Lewica):

Dziękuję bardzo. Od razu może dodam na początku, panie przewodniczący, iż pewnie poruszam tematy, które już były poruszane na posiedzeniu podkomisji. Tak czy siak pozwolę sobie to zrobić. Ponieważ nie jestem członkinią podkomisji, jestem członkinią komisji cyfryzacji, mam wrażenie, iż to są rzeczy, które powinny tutaj paść w związku z tym, iż jest to też posiedzenie Komisji Zdrowia. Mam bowiem wrażenie, iż potrzebujemy, z jednej strony, oczywiście jakiegoś takiego technoentuzjazmu, ale z drugiej strony, również technorealizmu.

To znaczy w sytuacji, w której mówimy o bardzo wrażliwych danych i o nowoczesnych technologiach, warto po prostu uczyć się na błędach, które już zostały popełnione i o których wiemy, iż one są. Na przykład, żeby projektować systemy zwracając dużą uwagę na kwestie sprawiedliwości społecznej, bo dobrze wiemy, iż w Polsce mamy problemy z nierównościami w zdrowiu. Wynikają one często nie tylko z zasobności portfela, ale przede wszystkim z kapitału kulturowego. Chodzi o to, żeby po prostu nie replikować i nie zwiększać tych problemów związanych właśnie z kwestiami niedostępności ochrony zdrowia.

Przykładem może być to, co się wydarzyło w Stanach Zjednoczonych, jeżeli chodzi na przykład o diagnozowanie czerniaka. To jest kwestia tego, iż inaczej jest on diagnozowany, dużo lepiej, u osób, które mają białą skórę, a u innych, z ciemną karnacją, już dużo, dużo gorzej. Oczywiście ten problem w Polsce będzie występował w dużo mniejszym natężeniu, ale choćby w Polsce będzie miało to praktyczny wymiar, bo chodzi o zbiory danych, na których uczą się modele AI.

Problem jest taki, iż są pacjenci, którzy umykają. Na przykład ci, którzy w ogóle nie docierają do lekarza, osoby starsze, które będą wykluczone z tych technologii, to są te zbiory danych, które po prostu będą uciekać. Tak samo z grupami defaworyzowanymi, jak kobiety, LGBT+, osoby z otyłością, czyli te osoby, które po prostu z różnych powodów, w różnych obszarach rzadziej trafiają do lekarza. Ale tak samo, jeżeli chodzi o mężczyzn na wstępnym etapie diagnozowania, ponieważ oni, jak wiadomo, najczęściej trafiają już na późnym etapie, gdy ta choroba jest daleko posunięta. W związku z tym te zbiory danych będą musiały brać pod uwagę problemy wynikające po prostu z braku dostępności.

Wydaje mi się, iż ważne jest też zwracanie uwagi na jakość. Mówiliśmy tutaj o radiologach i o wykorzystaniu technologii do ulepszenia tych procesów. Same środowiska mówią, żeby pamiętać o tym, jaki to może mieć wpływ na personel medyczny, jeżeli chodzi właśnie o przekwalifikowanie wynikające z bezrobocia technologicznego, ale także o tej kontroli jakości pracy, by ocena badań obrazowych… Wiem, iż są przedstawiciele izby lekarskiej na sali, więc od razu dodam bardzo jasno, iż nie zakładam, iż tak będzie, ale biorąc pod uwagę, iż jeżeli pójdziemy w tym kierunku i osób, które będą wykonywać te prace, będzie mniej, to mogą być zmuszone z racji presji czasu do klikania po prostu OK na coś, co będzie realnie oceniane przez sztuczną inteligencję i będzie miało te błędy wynikające z tego działania sztucznej inteligencji.

Kolejna kwestia. Ona wydaje mi się kluczowa i mam nadzieję, iż jednak poświęcimy tutaj więcej czasu w tę kwestię. To znaczy, kto ma rozwijać sztuczną inteligencję i kto ma mieć dostęp do tych danych, bo to jest najważniejsze w kontekście danych medycznych.

I najbardziej wrażliwa rzecz, którą możemy sobie wyobrazić, bo wyobrażam sobie sytuację, w której na przykład jakieś wielkie korporacje, po to, żeby lepiej targetować reklamę, pobierają nasze dane medyczne, ponieważ mają do nich dostęp, bo państwo im ten dostęp dało, do tego, żeby na przykład osoby, które miały w rodzinie osoby z chorobą alkoholową targetować na alkohol, o czym mówiliśmy na poprzednim posiedzeniu Komisji… To znaczy, wyobrażam sobie po prostu największą nieprzyzwoitość po stronie tych korporacji, ponieważ wiem, co już teraz robią. W tym sensie musimy największy nacisk kłaść na ochronę danych osobowych, szczególnie właśnie tak wrażliwych, jak kwestie medyczne. Dlatego wydaje mi się, iż to powinno być pod ścisłą kontrolą państwa i ten sektor absolutnie i koniecznie musi pozostać w obszarze publicznym.

Mam pytanie do ministerstw, bo ostatnio mieliśmy do czynienia z bardzo kiepskimi ruchami przy IDEAS NCBR, szczęśliwie oczywiście zakończone powołaniem państwowego instytutu. To jest dobra wiadomość. Niepokojąca jest też sytuacja w Centrum e-Zdrowia, ale jak rozumiem, będziemy o tym mówić w drugiej części albo już na kolejnym posiedzeniu Komisji. Wiem, iż trwa tam jakiś paraliż. Później chciałabym odnieść się do konkretnych problemów, które tam są, ale wydaje mi się, iż po prostu musimy dbać o instytucje publiczne, dbać o to, żeby miały finansowanie.

Podbiję więc te głosy, które padały, iż jest dobre rozwiązanie. Są propozycje, jak to realizować, jak usprawnić różne procedury, zarówno mające na celu zachęcenie do pójścia na badania diagnostyczne, usprawniające cały proces, oszczędzające de facto publiczne pieniądze również. W związku z tym inwestycja w takie jednostki i w takie działania to jest coś, co powinniśmy promować patrząc właśnie z perspektywy bezpieczeństwa danych i przyszłości. To jest też kwestia, która nie powinna nam umknąć, bo to powinno być na tym samym poziomie co bezpieczeństwo lekowe, co suwerenność lekowa.

Mówiliśmy o tym wielokrotnie na posiedzeniach Komisji Zdrowia, iż to bezpieczeństwo lekowe musi być w rękach naszych producentów. Czy to będą producenci publiczni całkowicie, czy to będą producenci, których państwo będzie wspierać, ale tutaj, na miejscu, będą budować technologię. Dokładnie tak samo powinniśmy myśleć o sztucznej inteligencji oraz o technologiach cyfrowych. To znaczy, to muszą być jednostki, które są nasze, nad którymi państwo ma kontrolę właśnie z wyżej wymienionych powodów.

Tak samo jak mamy suwerenność lekową, tak dokładnie pod tym samym kątem musimy patrzeć na możliwość kontroli i reagować na różne rzeczy, które będą się pojawiać. A iż złe rzeczy będą się pojawiać, to wiemy, bo już widzimy różne, niezbyt przyjemne wykorzystywanie technologii, na przykład receptomatów. Myślę, iż kilka lat temu nikt by tego nie wymyślił, a one powstały. W związku z tym musimy wyprzedzać również te rzeczy, które mogą się wydarzyć oraz mieć możliwość szybkiej reakcji na te, które właśnie się dzieją. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję pani przewodnicząca. Proszę teraz o zabranie głosu pana posła Bolesława Piechę. Bardzo proszę.

Poseł Bolesław Piecha (PiS):

Dziękuję bardzo. Ja pewnie nie tak długo i nie tak rzeczowo chciałbym podzielić się pewną bardzo trudną dla mnie sytuacją. Ja mam ponad 45 lat prawo wykonywania zawodu i coś mi się wydaje, iż sztuczna inteligencja niedługo to prawo mi odbierze albo będzie je w jakiś sposób certyfikowała.

To jest tak, iż oczywiście są entuzjaści sztucznej inteligencji i są sceptycy. Ja należę do sceptyków. To znaczy, generalnie jak w tych „Dzisiejszych czasach” – to chyba film Chaplina – stoję na straconej pozycji, bo ta maszyna z tym wszystkim na taśmie, która się przesuwała, mnie wchłonie. Natomiast pytanie jest po prostu takie, czy w ogóle ktoś jest w stanie kreować jakąś rzeczywistość sztucznej inteligencji. Ja tego nie wiem, bo nikt mi na to nie odpowiedział. Ja sądzę, iż ona na potężnej bazie, megabazie danych, kreuje jednak swoją własną rzeczywistość. Tam znajdują się różne dane do analizy i ona wyciąga jakieś algorytmiczne wnioski.

Było powiedziane, iż jest kwestia ulepszenia diagnostyki. Ja rozumiem, no to jest po prostu algorytm postępowania. I ten algorytm postępowania adekwatnie wykluczy lekarza, bo o ile lekarz temu algorytmowi się sprzeciwi, to będzie miał ogromne kłopoty. Myślę, iż w przyszłości będzie z tym ciężko.

Drugie, to jest coś, co zawsze lekarze chcieli, ja też. To jest standaryzacja leczenia. Sztuczna inteligencja wyciągnie standard leczenia i nic mi do tego. Dzisiaj taki standard leczenia jest adekwatnie prawie w onkologii. Tam nie ma lekarzy, który stosują aspirynę czy witaminę C – nie witaminę C jako witaminę, tylko jako lek, bo tak się to reklamuje. Też stosują w różnych programach. To jest druga sprawa.

Natomiast, czego się obawiam. To są pewne aspekty etyczne i o tym już była mowa dość często. One nie są bez znaczenia, ale może dla mnie 70-letniego człowieka, a nie dla kogoś, entuzjasty, który ma 25 lat. Jednak te aspekty etyczne są. Też coś się tam powtórzy, bo Spartanie mieli chyba tę skałę Tarpejską. Tamtejsza etyka też była wykorzystywana w sposób taki, a nie inny.

Druga sprawa to jest to, co nazywa się efektywnością. Czyli, czy efekt zdrowotny będzie na pierwszym miejscu, czy na pierwszym miejscu będzie efekt finansowy. Ja nie mam najmniejszych złudzeń, iż nie będzie takiej sytuacji w służbie zdrowia, za mojego życia na pewno, a sądzę, iż i za większości państwa życia, iż współczesne technologie medyczne i chęć człowieka przedłużenia życia i komfortu życia o 1, 2, 3 dni, już nie mówię o latach czy miesiącach, będzie bardzo duża, w związku z czym koszty będą się zwiększać czy nam się podoba, czy nie. W związku z tym, jest pytanie, czy ta sztuczna inteligencja gdzieś tam sama z siebie wykreuje coś, co będzie dla niej ważne, czyli efekt zdrowotny czy efekt ekonomiczny przy ograniczonym dostępie do środków. Takie będą, to możemy zakładać. Nie sądzę, żebyśmy mieli do dyspozycji nieograniczoną ilość środków.

I ostatnia rzecz, chyba najtrudniejsza – to już jest dla ustawodawcy – odpowiedzialność. Kto będzie odpowiadał za te standardy? To, iż błędy będą się zdarzać, jest oczywiste. Dzisiaj są błędy lekarskie. My przyjęliśmy ustawę, iż w przypadku błędów lekarskich, o ile ktoś nie zgłasza roszczeń sądowych, to a priori jest fundusz, który te odszkodowania pokrywa bez dochodzenia, czy dany lekarz zawinił, czy nie zawinił. Oczywiście poza kryteriami karnymi, iż nie był pod wpływem alkoholu albo nie działał w jakichś specjalnych sprawach. To jest jasne.

To są dla mnie pytania bardzo trudne. Chętnie bym posłuchał entuzjastów, jak jest z kwestią odpowiedzialności, jak jest z kwestią etyki i co w medycynie się wybierze, czy standard, który poprawi zdrowotność, czy niestety efekt ekonomiczny. Odkąd siedzę w tym Sejmie, a siedzę ponad 20 lat, nie było żadnego roku, nie było żadnego posiedzenia Komisji Zdrowia, żeby nie podkreślano, iż pieniędzy jest mało. Nigdy nie było za dużo… Czesław, ty nie byłeś pierwszych 5 lat. Wtedy też było mało. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie pośle. Pan przewodniczący Adrian Zandberg. Bardzo proszę, panie pośle. Oddaję głos.

Poseł Adrian Zandberg (Lewica):

Być może dlatego, panie ministrze, iż przez ten cały czas mieliśmy zaniżony poziom nakładów na publiczną ochronę zdrowia względem PKB i to był wspólny grzech kolejnych ekip rządzących. Być może dlatego było ich za mało. Ja chciałbym o dwóch rzeczach.

Pierwsza sprawa, to jest coś, co już zasygnalizowała przed chwilą posłanka Marcelina Zawisza, a co wydaje mi się tutaj absolutnie kluczowe. W naszym przypadku problem nierówności, o ile chodzi o zbiory danych, nie będzie mieć wymiaru, tak jak po drugiej stronie wielkiej kałuży, dotyczącego przede wszystkim koloru skóry, natomiast będzie mieć wymiar klasowy.

Mamy bardzo jasne dane mówiące o tym, iż mamy w Polsce zupełnie inne wzorce korzystania z opieki medycznej zależnie od klasy społecznej. To naprawdę nie jest to przypadek, iż ludzie na Wilanowie żyją dłużej, niż w niektórych częściach Pragi Północ. To się odbija na tych danych, które są zbierane przez system ochrony zdrowia i będzie się odbijało w oczywisty sposób na tym, co mechanizmy uczenia maszynowego i bardziej wyrafinowane formy z tych zbiorów danych będą produkować.

Ja dlatego, szczerze mówiąc, strzygę z niepokojem uszami, kiedy słyszę, to tak miłe wielu sercom na tej sali zaklęcia, o partnerstwie prywatno-publicznym, bo mam poczucie, iż one bardzo często oznaczają założenie ciche, iż eksportujemy istotną część odpowiedzialności do sektora prywatnego, zakładając, iż sektor publiczny nie posiada, nie będzie posiadać i nie ma ambicji, żeby posiadać kompetencje, żeby tę realną odpowiedzialność wziąć. Moim zdaniem, to w tej przestrzeni jest absolutnie niebezpieczna ścieżka. A to, o czym powinniśmy rozmawiać, moim zdaniem, to o naszej umiejętności zbierania takiej kompetencji w sektorze publicznym i tworzenia realnie sprawczych centrów a nie formalnego łamane przez fikcyjnego nadzoru.

Chcę też odnieść się do tego, co tutaj świeci nam przed oczami od minut 30, czyli do tej dosyć techno-optymistycznej odpowiedzi na pytanie, iż w dobie transformacji potrzebna jest nam częściowa deregulacja, ale jednocześnie przyjęcie wymagań bezpieczeństwa. Mam poczucie, iż to pytanie kilka znaczy. A kiedy widzę pytanie, które kilka znaczy, to obawiam się odpowiedzi, które na to pytanie padają, bo one – takie jest doświadczenie funkcjonowania polskiego państwa – w ośmiu przypadkach na dziesięć, są odpowiedzią – wycofajmy się z tej odpowiedzialności.

Uważam, iż w tej przestrzeni nie ma miejsca na wycofanie się z odpowiedzialności państwa. Wycofanie się przez państwo z tej odpowiedzialności na dłuższą metę będzie owocować tymi zagrożeniami, o których mówiła posłanka Zawisza, zwłaszcza w przypadku eksportu tych danych na drugą stronę wielkiej kałuży. Może też mieć potencjalnie daleko idące skutki, o ile chodzi o praktyczne funkcjonowanie tych systemów wtedy, kiedy one się rozwijają na podstawie takich a nie innych zbiorów danych, idąc po najmniejszej linii oporu i najzyskowniejszej linii oporu, o ile po prostu tę odpowiedzialność przeniesiemy na sektor prywatny. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję. Proszę. Tylko proszę się przedstawić i przejdziemy zaraz do odpowiedzi.

Prezes Naczelnej Rady Lekarskiej Łukasz Jankowski:

Bardzo dziękuję za głos. Łukasz Jankowski, Naczelna Izba Lekarska. Ja chciałbym trochę odpowiedzieć na te wątpliwości, o których państwo mówili…

Przewodniczący poseł Grzegorz Napieralski (KO):

Czy mogę mieć do pana taką prośbę, propozycję? Przepraszam. Zróbmy tak. Ja bym na początku oddał głos panu ministrowi i panu dyrektorowi na odpowiedź, i przeszedłbym do pana. Dobrze? Żeby zachować kolejność. Wybaczy pan?

Prezes NRL Łukasz Jankowski:

Tak, oczywiście. Nie mam nic do gadania tutaj jako gość, tak więc muszę się zgodzić oczywiście, chociaż chciałem Kodeks Etyki Lekarskiej przedstawić. On na te wątpliwości trochę odpowiada, ale zdążymy.

Przewodniczący poseł Grzegorz Napieralski (KO):

Tak będzie. Później jeszcze będzie strona społeczna, bo prezes Kanownik też się zgłosił, więc nie będziemy ograniczali tej dyskusji. Panie ministrze, oddaję głos. Później pan, dyrektorze. Bardzo proszę.

Sekretarz stanu w MC Dariusz Standerski:

Bardzo dziękuję. W zakresie pytań skierowanych w obszarze cyfryzacji, pani przewodnicząca Skowrońska pytała o kwestie strategii, rozwiązań interdyscyplinarnych. 28 października zostaną przedstawione szczegółowe założenia strategii cyfryzacji. Po pierwszej turze konsultacji strategii cyfryzacji zostanie przedstawiony również projekt nowej polityki sztucznej inteligencji.

W zakresie szacowania oszczędności to adekwatność Ministerstwa Zdrowia. Ministerstwo Cyfryzacji nie ma danych dotyczących wpływu systemu sztucznej inteligencji na budżet, na przykład Narodowego Funduszu Zdrowia.

W kontekście pytania, stanowiska pani przewodniczącej Zawiszy, w akcie o sztucznej inteligencji, w art. 77 organy ochrony praw podstawowych będą miały uprawnienia do uzyskania pełnej dokumentacji dotyczącej systemów sztucznej inteligencji, między innymi w zakresie wykonywania ich mandatu przestrzegania prawa do niedyskryminacji. W momencie, kiedy organ ochrony praw podstawowych, na przykład rzecznik praw obywatelskich, po uzyskaniu pełnego dostępu do dokumentacji stwierdzi, iż doszło do dyskryminacji ze względu na jakąkolwiek cechę, może wystąpić do nadzoru rynku z wnioskiem o kontrolę i wyciągnięcie odpowiednich skutków przewidzianych w akcie o sztucznej inteligencji wobec takiego podmiotu. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie ministrze. Panie dyrektorze, bardzo proszę.

Dyrektor departamentu MZ Wojciech Demediuk:

Dziękuję. Dużo pytań do Ministerstwa Zdrowia. Ja spróbuję je w jakiś sposób połączyć. Takie pytania, na które najprościej można odpowiedzieć, to są te, które są związane z tym, jakie środki na sztuczną inteligencję planujemy w KPO i jakie w ogóle środki na cyfryzację obszaru zdrowia planujemy. To są rzeczy, które są do odpowiedzi bardzo konkretnej i od razu.

Otóż, w zakresie inwestycji D1.1.2 planujemy w obszarze zdrowia wydać 4 330 000 tys. zł, z czego na rozwiązania, które są związane ze sztuczną inteligencją 1 260 000 tys. zł. Oprócz tego planujemy jeszcze wydać pewne kwoty, które są związane z narzędziami do analizy stanu zdrowia pacjenta, niekoniecznie opartymi na algorytmach samouczących się, ale bazujących na tych danych, które zbieramy na platformie P1 oraz takich, które być może będą uzupełniane pewnymi danymi, które pacjent, chcąc przeanalizować swój stan zdrowia, będzie mógł podać. Wyobrażam sobie podobne rozwiązania jak Profilaktyka 40+, w którym na bazie tego, co system wie o pacjencie oraz na bazie tego, co pacjent sam zechce powiedzieć, dostanie pewne wskazówki dotyczące zdrowia.

To są konkretne kwoty wynikające z ostatniej rewizji KPO w tym zakresie i realizacji wskaźników D21G i D22G. To są wskaźniki, które mówią o tym – podmioty lecznicze o znaczeniu ogólnokrajowym lub regionalnym wyposażone w narzędzia oparte na sztucznej inteligencji, w narzędzie wspomagające decyzje lekarza. Mówimy więc tutaj o pewnej tylko części sztucznej inteligencji. Zaraz powiem, dlaczego, bo były pytania dotyczące tego, czy bardziej będziemy patrzyli na jakość, czy bardziej będziemy patrzyli na koszty. Wydaje się, iż to dzisiaj nie jest nasz dylemat. Drugi wskaźnik, D22G, to są pacjenci objęci narzędziem wspomagającym analizę stanu zdrowia pacjenta i to są te dodatkowe kwoty, które zamierzamy realizować.

Wracając do pytań, bo były 3 pytania dotyczące KPO. Wykluczenie ekonomiczne, o którym było tutaj wspominane. jeżeli chodzi o zakres, który zamierzamy realizować jako Ministerstwo Zdrowia i te długofalowe prace – bo tak jak mówiłem wcześniej, te krótkofalowe, do połowy 2026 r. – będziemy bazować na nauczonych algorytmach, dlatego iż mówimy tutaj nie o rozwiązaniach, które wspierają pracę lekarzy w tym sensie, iż ułatwiają ich pracę, sporządzają same notatki, robią jakieś dodatkowe rzeczy, tylko mówimy o wsparciu decyzji, czyli tak naprawdę działalności diagnostycznej.

Wszystkie urządzenia diagnostyczne wymagają w Polsce certyfikacji. Proces certyfikacji trwa niestety 2 lata. Jednak patrząc w przyszłość, całość KPO, tak jak mamy ją zdefiniowaną, służy do tego, żeby zbierać dane dotyczące zdrowia Polaków i niezależnie od tego, w jaki sposób i do jakiego lekarza ten pacjent się uda.

Oczywiście, o ile pacjent nie uda się do lekarza, to nie zostanie zaraportowane ani zdarzenie medyczne, ani nie powstanie elektroniczna dokumentacja medyczna. Nie będziemy, więc mieli danych dotyczących pacjentów, którzy się nie leczą, ale będziemy mieli dane dotyczące wszystkich pacjentów, którzy się leczą. I to są działania niezależne od tego, czy to jest prywatna służba zdrowia, czy to jest służba zdrowia finansowana ze środków Narodowego Funduszu Zdrowia. Zatem wydaje mi się, iż egalitaryzm w tym zakresie jest zapewniony na poziomie takim, na jakim go możemy zapewnić systemowo.

Wracając do pytań, było pytanie o ocenę badań obrazowych versus lekarze. Na dzisiaj nie ma takich planów, żeby maszyna zastąpiła człowieka. Badania obrazowe wspomagają na dzisiaj decyzji lekarza. Z prowadzonych badań skuteczności pewnych algorytmów, głównie tych w zakresie badań obrazowych, można zobaczyć, iż są to narzędzia, które są bardzo pomocne. Jednak, choćby o ile mamy w zakresie mammografii dzisiaj dwóch radiologów czytających obraz w niektórych krajach europejskich, to żaden z państw nie odważył się na to, żeby jednego z lekarzy czytających zastąpić maszyną. Natomiast maszyna potrafi rozpoznać pewne drobne zmiany, które często oko zmęczonego radiologa może pominąć.

Te obszary są dla nas bardzo ważne i to jest ten obszar, który jest również istotny w zakresie KPO. Wydaje się, iż najważniejszy jest w zakresie triażu i pomimo iż w KPO mamy wpisane to, iż mówimy o szpitalach czy podmiotach leczniczych o znaczeniu regionalnym lub ogólnokrajowym, to po konsultacjach z konsultantem krajowym do spraw radiologii wydaje się, iż największe potrzeby dzisiaj są nie w tych największych szpitalach, tylko w tych szpitalach mniejszych. Dlatego konkurs w tym zakresie będziemy kierować do sieci szpitali, w których jest prawie 580 szpitali.

Główne potrzeby, jakie widzimy, to są potrzeby właśnie w tych małych szpitalach, gdzie na przykład radiolog jest gdzieś w szpitalu, ale niekoniecznie jest na SOR. Przyjmowany jest pacjent z udarem, w przypadku którego na zasadzie triażu takie algorytmy będą w stanie wskazać, iż to jest pacjent, którym należy zająć się możliwie jak najszybciej i odnaleźć radiologa, który na pewno jest gdzieś na terenie szpitala, ale być może niekoniecznie w tym czasie na SOR.

W większych podmiotach leczniczych ten temat jest już częściowo rozwiązany i takie algorytmy i takie rozwiązania są. W tym kierunku będziemy iść. Czyli na dzisiaj nie mamy takich wątpliwości, iż algorytm zastąpi lekarza.

Jeżeli chodzi o kwestię, kto ma rozwijać sztuczną inteligencję i kto ma mieć dostęp do danych, no to na dzisiaj sytuacja wygląda tak, iż ci, którzy mają dostęp do danych, uczą swoje algorytmy i jakby tego nie potrafimy zmienić. To, na co patrzymy jako organ administracji – mówimy o tym, iż chcemy gromadzić te dane i te dane będą gromadzone dla wszystkich niezależnie od tego, jak są robione te badania. A wspomniana już dzisiaj European Health Data Space, czyli europejska przestrzeń danych o zdrowiu, będzie definiowała a adekwatnie już definiuje – rozporządzenie powinno pojawić się na przełomie roku – w jaki sposób będzie zapewniony dostęp do danych medycznych. I dostęp do danych medycznych będzie dla wszystkich podmiotu, również obywatela Unii Europejskiej, po przekazaniu odpowiednich wniosków. Powstanie więc do tego wręcz urząd, który będzie musiał te dane dystrybuować, który będzie musiał je anonimizować. Na to jest oczywiście jeszcze trochę czasu, bo ze 2 lata i vacatio legis. Dla EHDS-u to 2 lata i później jeszcze 2 lata na wdrożenie tego wtórnego obiegu.

Pan minister mówił o transgraniczności. Ja tutaj mówię o drugiej części, czyli tak naprawdę o dostępie do zanonimizowanych danych medycznych. Ci, którzy otrzymają taki dostęp do danych, będą rozwijali sztuczną inteligencję.

Jeżeli chodzi o korzyści, oszczędności, jakie może przynieść sztuczna inteligencja w zdrowiu, odpowiedź jest taka: nie potrafimy tego zmierzyć. Nie wiemy tego jeszcze. To jest temat, który jest dla nas bardzo nowy. Na dzisiaj są dwa aspekty sprawy. Jeden z nich jest związany ze skutecznością leczenia, z podniesieniem jakości, z szybkością diagnozy, która skutkuje na koniec stanem zdrowia lub życiem pacjenta i na tym się koncentrujemy.

To są głównie te narzędzia do analizy obrazów. W dużej mierze narzędzia oparte na dużych modelach językowych, czyli takich, które wspomagają sporządzanie notatek, opisów itd., które nie są wyrobami medycznymi, albo boty, które ograniczają koszty. Na dzisiaj ograniczają koszty po stronie podmiotów świadczących działalność leczniczą.

NFZ na dzisiaj nie poszukuje żadnych oszczędności w tym zakresie, ale wiemy, iż środowiska lekarskie mówią o tym, iż niektóre z procedur są niedoszacowane, więc w dłuższej perspektywie wszystkie inne działania oparte na sztucznej inteligencji, które są w stanie pomóc lepiej zorganizować się podmiotom leczniczym, na pewno będą miały wpływ na koszty. Na dzisiaj nie jest to naszym celem. To jest też po części odpowiedź na pytanie o korzyści dla NFZ wynikające z korzystania z rozwiązań, jakie niesie sztuczna inteligencja. To odpowiem już teraz, iż dzisiaj jeszcze nikt nie potrafi tego policzyć.

Jeżeli chodzi o bardzo konkretne pytania pana przewodniczącego Cieszyńskiego, to ja sprawdzę to. Zapisałem sobie te dwie daty pism – z 27 maja pierwsze i drugie – ale chciałbym odpowiedzieć na to pytanie niezależnie od tych pism.

Pierwszy temat dotyczył jakby rekomendacji związanych z zastosowaniem sztucznej inteligencji w zdrowiu w zakresie analizy obrazów. Spotkania, które odbyły się z konsultantem krajowym w tym zakresie, wskazały, w jakich kierunkach będziemy szli. Te kierunki przekładamy w pierwszej kolejności na te działania z KPO i tutaj nie mamy żadnych wątpliwości.

Jeżeli chodzi o mammografię i użycie voicebotów do tego, żeby można było zachęcić pacjentki, to wydaje mi się, iż ten mechanizm, tak jak on zadziałał, zadziałał prawidłowo. Wycenione procedury w zakresie działań profilaktycznych w zakresie mammografii działają w sposób taki, iż firmy albo podmioty lecznicze, mówiąc szerzej, które są w tym zakresie zakontraktowane i które przystąpiły do tych działań, dokładają wszelkich starań do zachęty pacjentek do udziału w badaniach. I to, iż firmy ograniczając swoje koszty i maksymalizując przychody używają takich botów, to jest prawidłowe działanie.

W zakresie komisji etyki – tutaj pewnie będzie odpowiedź z Naczelnej Izby Lekarskiej – my nie oceniamy etycznie narzędzi. Narzędzia są, tak jak mówiłem, oparte na sztucznej inteligencji. Ja bym je podzielił na takie dwie grupy. Grupa pierwsza, to są narzędzia, które wspomagają decyzji lekarzy i te jako takie muszą być certyfikowane jako produkt medyczny. To oznacza, iż sprawdzona jest ich skuteczność działania. Inne, pozostałe, które nie są produktami medycznymi, wspierają pracę lekarzy, organizację pracy podmiotu leczniczego itd. i raczej mają się nijak do kwestii etyki.

Jeżeli chodzi o kwestię selekcji zarodków czy oceny dojrzałości pęcherzyków, bo było tutaj parę pytań na ten temat, z punktu widzenia sztucznej inteligencji jest to taka sama analiza obrazowa jak inne analizy obrazowe, jakie mamy w urządzeniach. choćby w urządzeniach, które już teraz wydają się dość proste, typu USG, gdzie potrafimy zmierzyć rozmiar jakiegoś organu. Zatem to, iż robi to urządzenie, które jest być może trochę bardziej zaawansowane technologicznie niż urządzenia, które robiliśmy do tej pory, adekwatnie nie zmienia sytuacji. My w Ministerstwie Zdrowia traktujemy je dokładnie tak samo, a ten przykład pojawił się nie z powodów takich, żeby wywołać tu dyskusję, tylko z powodów takich, iż to są ostatnie zgłaszane do Ministerstwa Zdrowia rozwiązania, które są w trakcie opracowywania albo właśnie zakończyło się ich opracowywanie. My prowadząc mapę innowacji wszystkie takie informacje, które do nas trafiają, zbieramy i propagujemy.

Efekt zdrowotny versus efekt ekonomiczny, na to odpowiedziałem. Tak więc bardzo dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie dyrektorze. To przechodzimy do Naczelnej Izby Lekarskiej. Bardzo proszę. Przepraszam, iż tak trochę…

Prezes NRL Łukasz Jankowski:

Bardzo dziękuję i przepraszam, iż tak się wyrywałem do głosu. Tutaj ze strony państwa padło kilka wątpliwości, na które my, być może nieudolnie, ale już poszukujemy odpowiedzi od pewnego czasu, bo nasze środowisko podchodzi z dużym entuzjazmem do nowości technologicznych i do sztucznej inteligencji, ale jednocześnie z odpowiedzialnością a czasem choćby z obawą, do czego ta sztuczna inteligencja może nas doprowadzić. Dlatego my już w maju zwołaliśmy Nadzwyczajny Krajowy Zjazd Lekarzy. Prawie pół tysiąca delegatów z całej Polski znowelizowało Kodeks Etyki Lekarskiej. To jest nasz branżowy akt prawny, który sprawia, iż każdy lekarz w Polsce musi się do tych zapisów stosować.

W nowym kodeksie etyki – a ostatnia nowelizacja była 20 lat temu – znalazł się taki zapis. Ja państwu odczytam. Art. 12 „Lekarz może w postępowaniu diagnostycznym, leczniczym lub zapobiegawczym korzystać z algorytmów sztucznej inteligencji przy spełnieniu następujących warunków: poinformowania pacjenta, iż przy stawianiu diagnozy lub w procesie terapeutycznym będzie wykorzystana sztuczna inteligencja: uzyskania świadomej zgody pacjenta na zastosowanie sztucznej inteligencji w procesie diagnostycznym lub terapeutycznym; zastosowania algorytmów, które są dopuszczone do użytku medycznego i posiadają odpowiednie certyfikaty”. I punkt ostatni, chyba najważniejszy z punktu widzenia również odpowiedzialności dyscyplinarnej „ostateczną decyzję diagnostyczną i terapeutyczną zawsze podejmuje lekarz”.

Zjazd pochylał się nad tym zawsze. Tutaj każde słowo – państwo to możecie sobie wyobrazić, gdy ponad 400 delegatów lekarzy jest na sali – było analizowane. …Zawsze podejmuje lekarz. Od 1 stycznia 2025 r. ten kodeks wejdzie w życie, co oznacza, iż każdy lekarz w Polsce, który użyje algorytmu sztucznej inteligencji i nie poinformuje o tym pacjenta, będzie podlegał odpowiedzialności dyscyplinarnej.

W związku z tym zdajemy sobie również sprawę z tego, iż wraz z rozwojem technologii być może trzeba będzie ten zapis poprawiać, być może go łagodzić. Może on jest zbyt konserwatywny, być może wymaga komentarzy, ale na dzisiaj to jest obowiązujący dla nas akt prawny, zgodnie z którym będą kierowane wnioski do rzeczników odpowiedzialności zawodowej. To jest nasze przygotowanie, takie środowiskowe, próba uregulowania tej kwestii z naszej strony.

My powołaliśmy również sieć lekarzy innowatorów NIL IN. Już od 2,5 roku staramy się zebrać użytkowników końcowych, bo tak o sobie myślimy, iż to lekarze będą użytkownikami końcowymi wielu, o ile nie większości tych systemów. Wśród tych osób są lekarze innowatorzy, ale też jest duża grupa lekarzy, którzy chcą po prostu uczestniczyć w zmianie i są zwyczajnie ciekawi tego, w jakim kierunku ta zmiana się potoczy.

Rozpoczęliśmy współpracę z Agencją Oceny Technologii Medycznych i Taryfikacji, o ile chodzi o naukę pilotaży i wdrażania nowoczesnych technologii, bo AOTMiT jest tutaj ważnym partnerem. Jednocześnie cały czas przyznaję, iż w tych oddolnych staraniach i współpracy z różnymi instytucjami brakuje nam takiego wsparcia, o ile chodzi właśnie o zmiany rangi ustawowej – to, co pokazała pani profesor. Myślę, iż dlatego Naczelna Izba Lekarska znalazła się na tych slajdach, iż mamy poczucie, iż oddolnie dużo już się udało. Są ludzie zaangażowani, są pierwsze nasze branżowe akty prawne, jest silna wola do tego, żeby oswoić trochę tę sztuczną inteligencję, no i jest gotowość do współpracy.

Myślę, iż o ile ta gotowość zostanie wykorzystana, to bardzo chętnie będziemy wspierać inne instytucje publiczne naszą wiedzą, a to lekarze jako użytkownicy końcowi dobrze walidują, czy jakiś algorytm jest użyteczny, czy też nie. o ile to się nie stanie, to my dalej będziemy próbować oddolnie poprzez szkolenia, poprzez właśnie promowanie innowacyjnych lekarzy, zmieniać tę otaczającą rzeczywistość. Tyle z mojej strony. Etycznie jesteśmy zabezpieczeni od 1 stycznia nowym kodeksem.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję za ten głos i bardzo dziękuję za to wystąpienie. Michał Kanownik. Tak, widzę panią też i za chwilę oddam głos, ale teraz pan prezes. Bardzo proszę.

Prezes Związku Cyfrowa Polska Michał Kanownik:

Dziękuję bardzo. Postaram się krótko, bo dyskusja, jak widać, bardzo ożywiona i długa. To pokazuje, jak istotny to temat. Dziękuję, pani przewodnicząca, iż znalazł się czas na takie wspólne posiedzenie, bo o tej technologii nie warto rozmawiać wyłącznie w zakresie cyfryzacji, ale warto patrzeć na to szeroko, w korelacji z różnymi dziedzinami naszego życia.

Po drugie, dziękuję pani poseł Skowrońskiej, która powiedziała bardzo istotną rzecz w tej dyskusji, moim zdaniem, żebyśmy tej dyskusji nie zaczynali od czarnowidztwa i od wskazywania tych najgorszych elementów, które mogą budzić strach, obawy w społeczeństwie wobec tej technologii. Raczej musimy skupiać na tym, żeby odpowiedzialnie dyskutować o blaskach i cieniach technologii, żeby przygotować wszystkie możliwe strony naszego życia do efektywnego i bezpiecznego wykorzystania technologii z pożytkiem dla nas wszystkich.

Pozwolą państwo, iż nie będę skupiać się na tych elementach medycznych, bo tu lekarze są na sali, więc będą dużo bardziej merytoryczni, natomiast chciałbym zwrócić uwagę na 3 elementy. Po pierwsze, co też pani profesor powiedziała w swojej prezentacji wstępnej, już dzisiaj z całą pewnością to nie budzi najmniejszej wątpliwości, iż pierwszą korzyścią z technologii w służbie zdrowia jest optymalizacja czasu i kosztów obsługi różnych procedur. Odnośnie do tego chyba nikt nie ma wątpliwości ani etycznych, ani moralnych, iż to powinno być gwałtownie wdrażane, bo tu będą szybkie efekty finansowe.

Drugi element, do Ministerstwa Zdrowia. Pan dyrektor mówił, chwaląc Naczelną Izbę Lekarską za powołanie tej Grupy Roboczej ds. Sztucznej Inteligencji. Natomiast mam pytanie, czy taka grupa robocza nie powinna powstać raczej w resorcie… Tym powinniśmy chwalić się, żeby tam te prace były i koordynować te prace pomiędzy poszczególnymi grupami interesariuszy, którzy swój wkład dają. Jednak wydaje mi się, iż ministerstwo powinno skoordynować te prace w zakresie grup roboczych w różnych instytucjach. O to bym apelował i prosiłbym o rozważenie takiej możliwości, bo to będzie bardzo efektywna platforma do współpracy.

Odnośnie do pracy tej grupy roboczej w samym ministerstwie nasuwają się przynajmniej dwa aspekty, na które chciałem zwrócić uwagę szczególną. Po pierwsze, kooperacja nauki z branżą technologiczną. Branża tworzy rozwiązania, nauka z całą pewnością ma ogromny potencjał do tworzenia nowych rozwiązań, ale samodzielnie nie jest w stanie tych rozwiązań ani zastosować, ani wdrożyć w życie. Warto stworzyć platformę i jakieś zdrowe warunki współpracy nauki polskiej z branżą cyfrową tak, żeby właśnie tu, w Polsce, powstawały rozwiązania z zakresu tuteuriencji, którą można w branży medycznej stosować. Z całą pewnością potencjał tutaj mamy ogromny.

W związku z tym apel do Ministerstwa Zdrowia, czy w ramach tej grupy roboczej nie warto opracować pewnych standardów współpracy placówek medycznych z biznesem. W tej chwili bardzo wiele podmiotów na rynku polskim szuka partnerów w branży medycznej do stosowania różnych rozwiązań sztucznej inteligencji. Częściowo te placówki medyczne nie mają pojęcia, czy ten podmiot jest wiarygodny, czy nie. Łatwo mogą nadziać się na podmiot, który żeruje na danych i próbuje stworzyć sobie dobry biznes, tani, z dostępem do danych medycznych Polaków. Warto stworzyć pewne standardy, żeby placówki zdrowia wiedziały, jak taką współpracę nawiązywać, jak pilnować interesów swoich pacjentów.

Kolejne pytanie do ministra zdrowia odnośnie do wdrażania europejskiego rozporządzenia o przestrzeni danych medycznych. A adekwatnie pytanie bardziej szczegółowe, jak ten harmonogram pracy będzie wyglądał. Jest to bowiem bardzo istotny akt, który determinuje rozwój tej technologii i jej stosowania, gdyż technologia sztucznej inteligencji będzie tak mądra, jak mądre dane, które posłużą do jej budowania.

To co ministerstwo potwierdziło, również ta demokratyzacja dostępu do danych jest bardzo istotna, ale tu też muszą być te ramy jasne, także na poziomie europejskim, gdzie jesteśmy z tym wdrażaniem, jaki jest harmonogram, kiedy możemy spodziewać konkretów w tym zakresie. Z całą pewnością dla branży medycznej i dla branży cyfrowej będzie to bardzo, bardzo istotne.

I ostatnia rzecz, już bardziej do Ministerstwa Cyfryzacji, ale tutaj trudno rozdzielić tę granicę między ministerstwem pierwszym i drugim. Po pierwsze, pan minister Standerski wspomniał już, iż lada tydzień poznamy projekt strategii cyfryzacji państwa oraz nową politykę sztucznej inteligencji. Warto, żeby też Ministerstwo Zdrowia w korelacji z tymi dokumentami pracowało nad strategiami rozwoju wykorzystania tej technologii właśnie w służbie zdrowia. Te dokumenty resortu cyfryzacji powinny być takimi parasolami, pod którymi poszczególne, pozostałe resorty będą mogły tworzyć swoje branżowe strategie rozwoju technologii.

I ostatnia absolutnie kwestia jest już zupełnie niemedyczna, tj. wykorzystanie tego potencjału, który technologia daje dla rozwoju polskich przedsiębiorstw. Dzisiaj mamy bardzo wiele przykładów polskich firm, które tę technologię stosują tworząc nowe produkty, usługi cyfrowe oparte na sztucznej inteligencji. Myślę, iż warto wspólnie z resortami zdrowia i cyfryzacji, pewnie z resortem rozwoju technologii również, stworzyć program, który będzie wspierał te polskie firmy, które takie produkty mają i oferują, żeby wspierać je w rozwoju tych produktów i szukać rynków zbytu na polskie rozwiązania cyfrowe w zakresie sztucznej inteligencji w służbie zdrowia nie tylko w Polsce, ale również na rynku europejskim, być może globalnym. Mam nadzieję, iż polityka sztucznej inteligencji, którą resort cyfryzacji przygotowuje, będzie taką platformą i ten temat również uda się zagospodarować, żebyśmy wykorzystali technologię absolutnie pozytywnie, dla dobra nie tylko służby zdrowia, pacjentów, ale także polskiego biznesu.

Dziękuję bardzo. Panie przewodniczący, widzę, iż potrzeba tej dyskusji, jak widać po czasie, który poświęcamy na to, jest dużo większa niż to jedno posiedzenie Komisji. Mam więc nadzieję, iż będzie kontynuowana w różnych gremiach. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Dziękuję bardzo. To na pewno, panie prezesie. Ja mam taką propozycję, żeby te pytania, które były od pana Michała Kanownika, ponieważ mamy już naprawdę mało czasu, były przekazywane do ministerstwa a odpowiedź była na piśmie albo na jakimś spotkaniu. Jeżeliby tak było można, panie dyrektorze.

Jeszcze oddaję głos. Bardzo proszę.

Ekspert Pracodawców RP Ligia Kornowska:

Dzień dobry. Szanowny panie przewodniczący, szanowna Komisjo, nazywam się Lidia Kornowska. Jestem dyrektor zarządzającą Polskiej Federacji Szpitali zrzeszającej ponad 550 podmiotów leczniczych w Polsce, a także liderką Koalicji AI i innowacji w zdrowiu, która istnieje już od sześciu lat, w zasadzie siódmy rok nam leci, zrzesza ponad 140 różnych organizacji od firm technologicznych i farmaceutycznych, przez uniwersytety medyczne, organizacje pacjenckie i świadczeniodawców.

Cieszę się mogę powiedzieć, iż już 2 lata temu stworzyliśmy tzw. białą księgę AI w praktyce klinicznej, która to księga informuje podmioty lecznicze, w jaki sposób prawnie, legalnie, skutecznie i bezpiecznie stosować algorytmy sztucznej inteligencji w zdrowiu. Biała księga zresztą była współtworzona przy udziale Ministerstwa Zdrowia, Ministerstwa Cyfryzacji, Naczelnej Izby Lekarskiej, Biura Rzecznika Praw Pacjenta i jeszcze kilku ważnych organizacji.

Bardzo bym chciała zwrócić uwagę to, iż w tej chwili stosowanie algorytmów sztucznej inteligencji w ochronie zdrowia jest legalne, możliwe i odbywa się już w polskim sektorze ochrony zdrowia. Według statystyk Centrum e-Zdrowia, na koniec zeszłego roku prawie 7% szpitali świadomie stosowało algorytmy AI do diagnozy i leczenia pacjenta, 3/4 z tych algorytmów było wykorzystywane w obszarze radiologii. Natomiast ta liczba w ogóle może być niedoszacowana jeszcze, bo większość w tej chwili, jeżeli nie wszystkie duże wyroby medyczne, takie jak tomografy komputerowe czy rezonanse magnetyczne, są wsparte algorytmami sztucznej inteligencji, niekoniecznie zawsze do sugestii diagnozy, ale na przykład do poprawy jakości obrazu, którą widzi radiolog.

Jeśli chodzi o liczbę certyfikowanych algorytmów AI, to jeżeli używamy algorytm sztucznej inteligencji w medycynie do diagnozy i leczenia pacjenta, taki algorytm absolutnie musi być certyfikowanym wyrobem medycznym. Taka certyfikacja gwarantuje nam, iż my znamy czułość i swoistość tego algorytmu i wiemy, iż możemy go stosować. Takich algorytmów na koniec zeszłego roku na Stany Zjednoczone i Unię Europejską było około 1,5 tys. Warto wspomnieć, iż w 2015 r. było ich dwadzieścia parę, tak więc wzrost jest wykładniczy.

Może odniosłabym się też do części prezentacji, za którą bardzo dziękuję, ponieważ teraz gdy mamy certyfikowany algorytm AI, to możemy go używać. To jest stan prawny na całą Unię Europejską.

Jeśli my jako Polska będziemy wdrażać specjalne ścieżki prawne walidacji takich algorytmów, które nie są wymagane w innych krajach Unii Europejskiej, to może sprawić, iż Polska sama siebie wytnie w wyścigu AI-owym w kontekście Unii Europejskiej. Możemy natomiast zrobić coś podobnego, co zrobiła Wielka Brytania w swoich praktykach, które zostały stworzone przez NHS, gdzie ocenia się, oprócz tego, czy algorytm jest certyfikowanym wyrobem medycznym oczywiście, na jakich danych został wytworzony i na jakich danych został zwalidowany.

Tutaj był bardzo fajny case. Moja przedmówczyni opowiadała o algorytmach dermatologicznych, bo faktycznie jest tak, iż dla różnych typów skóry te algorytmy mają różną czułość i swoistość, ale rozwiązaniem tego problemu jest ocena badań naukowych, na podstawie których były walidowane czy certyfikowane te algorytmy i ocena, dla jakich typów skóry, Fitzpatricka na przykład, czułość i swoistość wynosi tyle i tyle. Wtedy po prostu te algorytmy będziemy stosować dla tych grup pacjentów, dla których jesteśmy pewni, iż ta czułość i swoistość jest odpowiednio wysoka.

Jeszcze bym chciała powiedzieć o tym, iż z informacji, które posiadam, wynika, iż na poziomie Komisji Europejskiej ma powstać grupa robocza, która będzie sektorową, zdrowotną grupą roboczą. Będzie wypracowywać wspólne rekomendacje dotyczące tego, jak spełniać regulacje AI Act, a także Medical Device Regulation, czyli tej regulacji, która nam reguluje kwestię certyfikacji wyrobów medycznych. No i bardzo liczę na to, iż Polska będzie bardzo aktywnym członkiem tej grupy i również będziemy mieć aktywny głos w kontekście tworzenia tych rekomendacji, szczególnie w obliczu faktu, iż biała księga, którą stworzyliśmy, była pierwszym tego typu dokumentem w Unii Europejskiej. Została wysłana do Komisji Europejskiej, do DG Connect, DG Santé i była wypromowana w kilku krajach. Tak więc to jest też przykład, iż Polska ma projekt, w którym jest liderem na rynku Unii Europejskiej.

Warto jeszcze wspomnieć, iż największą potrzebą obecnie, jeżeli chodzi o zwiększenie użycia certyfikowanych algorytmów AI do diagnozy i leczenia w polskich szpitalach, czy polskich podmiotach leczniczych, jest utworzenie ścieżki finansowania tych algorytmów ze środków publicznych. Żeby jednak w ogóle objąć takim finansowaniem algorytm, musimy mieć standardy oceny efektywności kosztowej takiej technologii. Takie standardy najpewniej powinny zostać wytworzone w ramach AOTMiT-u. My też jako koalicja w tym zakresie już podejmujemy działania.

No i ostatnia sprawa. Mam nadzieję, iż to przez niedopatrzenie, ale na slajdzie trochę mi zabrakło informacji o współpracy ze świadczeniodawcami, czyli tymi podmiotami, które realnie już wdrażają algorytmy AI, organizacjami pacjenckimi, czyli głównymi zainteresowanymi, no i oczywiście podmiotami, które są twórcami certyfikowanych algorytmów AI, bo oni po prostu mają dużą wiedzę, w jaki sposób ten rynek teraz wygląda i jak to w praktyce można wdrażać. Tak więc w imieniu koalicji AI i innowacji w zdrowiu, jak zwykle bardzo zachęcamy do współpracy. Chętnie pomożemy. Dziękuję bardzo.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję. Też jesteśmy oczywiście otwarci. Dziękuję za ten głos, za tę prezentację i faktycznie zapomniałem na początku powiedzieć o tym, bo już nieraz rozmawialiśmy. Proszę wybaczyć, ale to po prostu…

Szanowni państwo chciałbym podziękować za ten punkt i go zakończyć, bo mamy jeszcze drugi punkt, przypominam. Ale chciałbym tylko podziękować w imieniu naszej podkomisji, dlatego iż jak widać, kwestia dotycząca ochrony zdrowia jest dla nas bardzo istotna. Długość tego spotkania dzisiaj też to pokazała. Ja bym chciał nie tyle zaapelować, ile powiedzieć, iż myślę, iż będziemy kontynuować tę dyskusję, bo ten sektor, ten segment dotyczący sztucznej inteligencji, jest bardzo ważny.

Faktycznie trochę takie dwa światy nam się zderzają. Z jednej strony, wiemy dokładnie, iż o ile dobrze przygotujemy te algorytmy czy dobrze zbudujemy tę sztuczną inteligencję, nakarmimy ją, czy wyuczymy – jak zwał tak zwał, różnie teraz się mówi o tym – o ile ją dobrze przygotujemy, to naprawdę nam – choćby odnośnie do tego, o czym mówiła pani przewodnicząca Zawisza – może pomóc. Pomóc, żeby nie było wykluczenia społecznego dla żadnej z osób, np., o ile chodzi o choroby onkologiczne, o ile będziemy mieli dobry algorytm i tak naprawdę dobry mechanizm wykrywania raka choćby płuc czy jakiś innych chorób onkologicznych.

Wydaje mi się więc, iż trzeba tę dyskusję kontynuować. Też zachęcam do udziału w tej konferencji, którą będziemy chcieli zrobić w Sejmie, dużej konferencji dotyczącej sztucznej inteligencji. Poinformujemy oczywiście o dacie i miejscu, sali, gdzie to będzie się odbywało.

Ten punkt uznaję za wyczerpany i zamknięty. Przychodzimy do drugiego punktu. Będę prosił i ministerstwa, i wszystkich o już bardzo zwięzłe wypowiedzi.

Pkt 2 – rozpatrzenie informacji na temat postępów we wdrażaniu e-rejestracji do lekarza. Przestawia minister zdrowia. Bardzo proszę.

Dyrektor departamentu MZ Wojciech Demediuk:

Spróbuję najkrócej, jak potrafię. Postępy we wdrożeniu e-rejestracji. Wdrożenie centralnej e-rejestracji planujemy w dwóch etapach. Pierwszy, który w tej chwili trwa, to jest wdrożenie pilotażowe. Ono ma na celu to, żeby zweryfikować funkcjonalność centralnej e-rejestracji, która, jak przypomnę, do 2022 r. dużym nakładem sił i środków została przygotowana. Wierzymy w to, iż rozwiąże sporo problemów, takich jak dostęp do informacji w jednym miejscu, dotyczące tego, gdzie i jakie są zapisy, jaki jest czas oczekiwania. Skróci przynajmniej te najdłuższe czasy oczekiwania, zredukuje albo pomoże zredukować bardzo istotny problem nieodwołanych wizyt, które blokują miejsca dla pacjentów, którzy w tym czasie mogliby być.

Według informacji, które były zebrane przy okazji inauguracji już trzeciej odsłony akcji „Odwołuję. Nie blokuję”, w niektórych z podmiotów, w niektórych szpitalach choćby do 30% planowanych zabiegów nie dochodzi do skutku, bo jest nieodwoływanych. Wyobrażam więc to sobie tak, iż przez kilka miesięcy jest pełna obsada w szpitalu i nikogo tam nie ma. Tak dzieje się z różnych powodów i dlatego to robimy. Pewnie tych, którzy nie chcą odwoływać, trudno nam będzie namówić, ale tych, którzy nie mogą odwołać, bo jest trudno, bo trzeba zadzwonić, chcemy objąć opieką.

No i też mamy trochę nietransparentne na dzisiaj systemy kolejkowania. Centralna e-rejestracja również adresuje te problemy.

Minister zdrowia 6 sierpnia rozpoczął program pilotażowy; 26 sierpnia – już krótko – na podstawie decyzji Narodowego Funduszu Zdrowia został rozpoczęty nabór do pilotażu. Cały proces rozpoczęcia tego pilotażu jest dość skomplikowany, dlatego iż polega na tym, iż najpierw należy złożyć wniosek. Potem ten wniosek jest oceniany. Na dzisiaj poziom odrzutu takich wniosków, które nie spełniają wymagań formalnych, wynosi 10–11%. Po ocenie wniosku dochodzi do podpisania umowy. Podpisanie umowy to choćby nie pozostało połowa tych starań, bo placówka medyczna musi zintegrować swoje systemy z systemem centralnej e-rejestracji, z platformą P1, a następnie musi przygotować zasilenie wolnymi i zajętymi terminami wizyt i dopiero później rozpoczyna umawianie.

Za chwilę o szczegółach, w jaki sposób to się odbywa, ale bardzo krótko w liczbach. Według stanu na ten poniedziałek, to jest 7 października, mieliśmy podpisanych 46 umów. Było 25 wniosków, które już zostały zaakceptowane, czyli przeszły ocenę i jest w tej chwili w trakcie podpisywania umowy, 8 wniosków w ocenie. Czyli to jest łącznie 79 podmiotów leczniczych, które składają na różne obszary, bo są takie podmioty, które składają na obszar związany z pierwszorazowymi wizytami kardiologicznymi, ale również w zakresie profilaktyki – mammografii i cytologii. Do tej pory 9 wniosków zostało odrzuconych z przyczyn formalnych.

Jak to się przekłada na liczbę dostępnych terminów? Przypominając poprzednią dyskusję o centralnej e-rejestracji, mówiliśmy tutaj, w tej sali, iż pilotaż poprzedni się nie udał, nie w rozumieniu takim, iż system centralny e-rejestracji został źle przygotowany, tylko dlatego, iż nie udało się tego tak naprawdę sprawdzić, bo chętnych było bardzo mało. A było ich bardzo mało dlatego, iż nie było specjalnych zachęt do tego, żeby podmioty lecznicze się zintegrowały z platformą, a prowadzenie dwóch kalendarzy, jednego w systemie gabinet.gov, a drugiego we własnym i przepisywania, uspójnienia albo jeszcze jakichś zeszytów, faktycznie spowodowało to, iż tych było bardzo mało.

Na dzisiaj, na bazie tych wniosków, które są nieodrzucone, opierając się na średniomiesięcznej liczbie świadczeń świadczonych przez te podmioty w ostatnim kwartale, mamy około 44 tys. miesięcznych terminów na kardiologię, co stanowi 4,2% wszystkich terminów, które mamy w ramach NFZ-u, 24,5 tys. terminów dla mammografii, co stanowi już 11% i 21 tys. terminów dla cytologii, to około 1%. Dzisiaj jesteśmy na takim etapie zaawansowania.

Pojawiły się już pierwsze terminy umówień dla dwóch pierwszych obszarów. Czyli zarówno dla mammografii, jak i dla kardiologii. No i oczywiście, jak to w pilotażu bywa, pilotaż służy temu, żeby sprawdzić poza systemem również całość organizacji.

Pilotaż jest trudny, bo to jest sprawdzenie tego, jak działa system e-rejestracji, ale to jest również sprawdzenie, jak działa cały system, a przez cały system rozumiemy systemy szpitalne lub systemy gabinetowe zinterfejsowane z platformą P1, ale również ludzi, którzy w tym pracują, czyli zmianę zachowań, sposobu podejścia do umawiania pacjentów w rejestracjach w podmiotach leczniczych. A na koniec trudność, którą jest zmiana przyzwyczajeń pacjentów, i to nie dlatego, iż my jakoś specjalnie centralną e-rejestracją zamierzamy coś zmienić, a to, w jaki sposób będzie to realizowane. My po prostu dokładamy kolejny kanał.

Natomiast duża zmiana, którą również będziemy badać i oceniać w tym pilocie to jest to, iż w pilotażu nie będziemy umawiać pacjentów na bardzo odległe terminy, dlatego iż wszystkie zwalniane terminy – a to jest główna zaleta centralnej e-rejestracji – chcemy wykorzystać szybko. Zatem, gdy umówimy pacjenta na za 6 czy 8 miesięcy, to on po prostu przyjdzie za 6 czy 8 miesięcy, a o ile umówimy go na terminy, które są dostępne do 45 dni, a adekwatnie dzisiaj do 40 dni, bo parametr jest wstawiany, ustaliliśmy na 40 dni… A pacjentom, którzy musieliby dłużej czekać, powiemy, iż muszą zaczekać i dostaną terminy od nas na 40 dni przed tym, jak one się zwolnią. To z punktu widzenia pacjentów jest dość duża zmiana, bo ci, którzy muszą zaczekać, nie dostaną konkretnej informacji, ale za to dostaną możliwość szybszej wizyty. Tak więc w tym miejscu na dzisiaj jesteśmy.

Następny plan związany z naszym działaniem jest taki, iż pilot jest zaplanowany do połowy przyszłego roku. W pilocie są zachęty dla tych podmiotów leczniczych, które zechcą dołączyć do tego pilotażu. Dużo większe naciski są na sam efekt podłączenia się do platformy P1 i zmiany swoich systemów gabinetowych. Ten poziom, o którym mówiłem dzisiaj – mamy jeszcze przestrzeń na dołączenie do pilotażu drugiej takiej liczby podmiotów, biorąc pod uwagę budżet, który mamy na ten rok, ale nabór będzie do samego końca pilotażu.

Planujemy, iż pilotaż przejdzie płynnie w rozwiązanie docelowe. To rozwiązanie docelowe, czyli tak zwany roll-out na cały kraj, będzie dotyczył tych samych świadczeń medycznych, których dotyczy w tej chwili, a w następnej kolejności zakres będzie rozszerzany na podstawie rozporządzeń.

Wymagana jest do tego zmiana ustawy o systemie informacji w ochronie zdrowia, którą w tej chwili procedujem. Zakończyliśmy uzgodnienia wewnętrzne – następnie to wpisanie do harmonogramów prac rządu. Myślimy, iż do konsultacji społecznych i uzgodnień międzyresortowych będzie dostępna za 6–7 tygodni.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję panie dyrektorze. Otwieram dyskusję. Bardzo proszę, pan poseł Cieszyński.

Poseł Janusz Cieszyński (PiS):

Szanowni państwo, dziękuję bardzo za tę prezentację. Natomiast postanowiłem zweryfikować słowa pana dyrektora. Uzyskałem metodą operacyjną skierowanie do kardiologa i sprawdziłem, gdzie można się zapisać. Zacząłem od Warszawy, no bo tu jesteśmy. W promieniu 50 km ani jednego slotu.

Obok mnie siedzi przewodniczący Napieralski, więc musieliśmy sprawdzić Szczecin. Ani jednego slotu. Później widzę, iż jest pani poseł Skowrońska, no to patrzę, Mielec. Także ani jednego z slotu w promieniu 50 km.

Poseł Krystyna Skowrońska (KO):

Ale w promieniu 60 już by był.

Poseł Janusz Cieszyński (PiS):

Niestety, system nie umożliwia sprawdzenia na więcej niż 50. Pani poseł, no nie umożliwia. Tak to działa. Tak więc, szanowni państwo, trzeba oddać sprawiedliwość, bo nie ma w tych miastach, które wymieniłem, ale nie ma też w Łodzi, Wrocławiu, Gdańsku. Jest w Lublinie. Proszę państwa, dlaczego o tym mówię… Słucham?

Poseł Krystyna Skowrońska (KO):

Bo nie ma kardiologii.

Poseł Janusz Cieszyński (PiS):

Ja rozumiem, ale pacjenci pewnie są…

Poseł Krystyna Skowrońska (KO):

Ale najbliższy jest szpital Rzeszów…

Poseł Janusz Cieszyński (PiS):

Nie ma AOS-u w Mielcu? Coś jest. Na pewno pani załatwiła, a jeżeli nie, to w tej kadencji.

Szanowni państwo, ale już mówiąc zupełnie poważnie, ten pilotaż, podobnie jak poprzedni, bo to trzeba uczciwie powiedzieć, na razie nie działa. To po prostu jeszcze nie działa, jest dalece za wcześnie, żeby wyciągać jakiekolwiek wnioski. Zapowiadano, iż to będzie na 100 dni rządu. No to wiadomo, jak się skończyło. Zapowiadano, iż będzie w kwietniu obowiązek do wszystkich specjalizacji. To już możemy dzisiaj przewidzieć, jak to się skończy.

Ale żeby nie było, iż ja tylko krytykuję, chciałbym powiedzieć, proszę państwa, iż na to potrzeba czasu i to dużo więcej czasu niż początkowo sobie ministerstwo założyło. Tak więc ja mam wielką prośbę o to, żeby przygotować realny harmonogram tych działań, tak żebyśmy potem mogli realnie ocenić jako Komisje, jako Sejm, jak to wyszło.

Było wiadomo, jeżeli chodzi o te terminy, które były podawane na początku, iż to nie wyjdzie. To jest prawdopodobnie najbardziej skomplikowany projekt, o ile chodzi o cyfryzację w ochronie zdrowia w ogóle. E-rejestracja jest dużo bardziej skomplikowana niż e-recepty, e-skierowania i wszystko, co do tej pory zostało zrobione. Tak więc życzę wiele wytrwałości, ale bardzo proszę o przygotowanie realnego harmonogramu tych prac. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Dziękuję bardzo. Bardzo proszę, od razu oddam głos. Proszę tylko się przedstawić.

Ekspert Naczelnej Rady Lekarskiej Krzysztof Zdobylak:

Krzysztof Zdobylak, ekspert Naczelnej Rady Lekarskiej do spraw transformacji systemu ochrony zdrowia. Bardzo się cieszę, iż możemy dzisiaj porozmawiać o tej e-rejestracji. Jest to szczególnie istotny temat w kontekście obecnej sytuacji finansowej i problemu z dostępem do świadczeń. Ograniczenie wszelkiego waste’u w tym systemie jest szczególnie istotne teraz, dlatego wydaje się, iż ważność tego projektu rośnie choćby ostatnimi czasy. Miałbym natomiast kilka pytań, żeby dokładnie zrozumieć, na jakim etapie jesteśmy i jakie są te pierwsze wyniki.

Rozumiem, iż zostało podpisanych 40 umów, czyli to jest ten trzeci z sześciu kroków. A ile z tych placówek już rozpoczęło umawianie pacjentów? Rozumiem, iż w dwóch zakresach, ale czy to są dwie placówki, czy więcej.

Czy dobrze wnioskuję, iż okres od podpisania do rozpoczęcia umawiania to jest około miesiąc? Czy przewidują państwo, iż czasem ten termin będzie dłuższy i jaki jest wzorcowy harmonogram? Ile w takim razie miesięcy pełnego funkcjonowania pilotażu oczekują państwo, żeby móc ocenić sprawność działania tego systemu?

Pan dyrektor wspomniał też o czynniku ludzkim i zmianie przyzwyczajeń. To jest bardzo istotne, bo przy każdej takiej de facto transformacji cyfrowej ważne jest, żeby skupić się nie tylko na systemie informatycznym, ale także na dostępnej infrastrukturze i kompetencjach ludzkich i pacjentów, i tych osób, które obsługują ten system. Chciałbym więc zapytać, czy w ramach tego pilotażu są też przewidziane jakieś działania podnoszące kompetencje cyfrowe i uczące specyficznie obsługi tego systemu, zarówno osoby zajmujące się rejestracją, jak i pacjentów.

Jak rozumiem, jeszcze drugie tyle podmiotów będzie w pilotażu, natomiast zawsze w takich działaniach bardzo istotna jest też analiza taka troszkę z drugiej strony, tych, którzy nie przystąpili do pilotażu. Jakie są główne bariery, które oni wskazują? Jakie są powody braku chęci udziału? Czy jest za szybko, czy chcą poczekać i zobaczyć jak innym się to uda, czy też może są problemy po stronie infrastruktury, zasobów ludzkich, procesów, danych?

Tutaj wspomniano w jednym miejscu, zresztą zgodnie z prawdą, iż są placówki, które przez cały czas prowadzą zapisy w zeszycie i choćby jeżeli zmieni się stan prawny, to obawiam się, iż realne doprowadzenie tych placówek do sytuacji, gdzie 100% zapisów będą prowadzić w centralnym systemie, nie będzie takie proste. Jakie działania państwo przewidują w tym zakresie, żeby kompleksowo ten problem rozwiązać? Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Bardzo dziękuję. Ja mam do pana taką prośbę. Czy możemy to przygotować panu pisemnie? Tak… No tak, mówię o wszystkich, ale padły pytania z konkretnej strony, więc nie chciałbym, żeby to wyglądało po prostu jakoś buńczucznie i nieelegancko z naszej strony.

Bardzo przepraszamy, ale dzisiaj ta dyskusja o sztucznej inteligencji wydłużyła nam bardzo czas, a są też inne posiedzenia komisji, więc jeżeli byłaby taka zgoda… Patrzę na pana dyrektora, ale też możemy na to liczyć, żebyśmy taką odpowiedź przygotowali. Sekretariaty są oczywiście gotowe pomóc, żeby te wszystkie pytania, które zadał pan z Naczelnej Izby Lekarskiej, przekazać do ministerstwa. Tak byśmy to zrobili. Dobrze?

Ekspert NRL Krzysztof Zdobylak:

Oczywiście. Dziękuję.

Przewodniczący poseł Grzegorz Napieralski (KO):

Ponieważ nie ma więcej zgłoszeń, wyczerpaliśmy porządek dzisiejszych wspólnych obrad Komisji Zdrowia oraz Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii. Bardzo dziękuję. Nie było spraw bieżących w porządku obrad, panie przewodniczący. Bardzo dziękuję, iż wytrzymali państwo. Dobrego wieczoru i do zobaczenia.

Zamykam wspólne posiedzenie Komisji.