Wersja publikowana w formacie PDF
- Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii /nr 46/
- Komisja Zdrowia /nr 76/
- Poseł Tadeusz Chrzan /PiS/
- Dyrektor Departamentu e-Zdrowia Ministerstwa Zdrowia Wojciech Demediuk
- Prezes Agencji Badań Medycznych Wojciech Fendler
- Poseł Elżbieta Gelert /KO/
- Przewodnicząca poseł Marta Golbik /KO/
- Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka
- Poseł Czesław Hoc /PiS/
- Adiunkt na Wydziale Socjologii Uniwersytetu Warszawskiego dr hab. Mikołaj Jasiński
- Sekretarz stanu w Ministerstwie Zdrowia Wojciech Konieczny
- Wiceprezes Krajowej Rady Fizjoterapeutów Agnieszka Krawętkowska
- Poseł Ewa Leniart /PiS/
- Poseł Grzegorz Napieralski /KO/
- Poseł Łukasz Osmalak /Polska2050-TD/
- Poseł Elżbieta Anna Polak /KO/
- Poseł Katarzyna Sójka /PiS/
- Poseł Józefa Szczurek-Żelazko /PiS/
– rozpatrzenie informacji na temat strategii dostępu i zarządzania danymi medycznymi dla celów naukowych w ramach European Health Data Space.
W posiedzeniu udział wzięli: Michał Gramatyka sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikami, Wojciech Konieczny sekretarz stanu w Ministerstwie Zdrowia wraz ze współpracownikami, Marzanna Bieńkowska zastępca dyrektora Departamentu Współpracy w Biurze Rzecznika Praw Pacjenta wraz ze współpracownikami, Wojciech Fendler prezes Agencji Badań Medycznych wraz ze współpracownikami, Agnieszka Krawętkowska wiceprezes Krajowej Rady Fizjoterapeutów, Andrzej Tytuła wiceprezes Naczelnej Rady Pielęgniarek i Położnych, Michał Żuchniewski kierownik Działu Cyfryzacji Krajowej Izby Fizjoterapeutów, Łukasz Sosnowski partner operacyjny Sieci Lekarzy Innowatorów Naczelnej Izby Lekarskiej, Ewa Jankowska, Agnieszka Krzyżanowska oraz Patryk Turzański eksperci Pracodawców RP, Monika Sobczyk ekspert Związku Przedsiębiorców i Pracodawców, dr hab. Jan Kozak p.o. dyrektor Instytutu Technik Innowacyjnych EMAG – Sieć Badawcza Łukasiewicz, Tomasz Kopacz ekspert Związku Pracodawców Technologii Cyfrowych Lewiatan, Dominik Dobek dyrektor programowy Związku Cyfrowa Polska, Marek Wleklik ekspert Izby Gospodarczej „Farmacja Polska”, dr hab. inż. Joanna Jaworek-Korjakowska dyrektor Centrum Doskonałości Sztucznej Inteligencji Akademii Górniczo-Hutniczej im. Stanisława Staszica w Krakowie, dr hab. Agnieszka Chłoń-Domińczak prorektor ds. nauki Szkoły Głównej Handlowej, dr hab. Mikołaj Jasiński adiunkt na Wydziale Socjologii Uniwersytetu Warszawskiego, Ida Bartoń, Maksymilian Imbierowicz, Julia Kobrzyńska, Aleksander Rej oraz Paulina Żańczak przedstawiciele Samorządu Studentów Wydziału Nauk Politycznych i Studiów Międzynarodowych Uniwersytetu Warszawskiego oraz Aleksander Łabanowski asystent przewodniczącej Komisji Zdrowia.
W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Jakub Konecki, Magdalena Krzymowska, Małgorzata Siedlecka-Nowak, Jakub Stefański oraz Monika Żołnierowicz-Kasprzyk – z sekretariatów Komisji w Biurze Komisji Sejmowych.
Przewodnicząca poseł Marta Golbik (KO):
Szanowni państwo, otwieram wspólne posiedzenie Komisji Cyfryzacji oraz Komisji Zdrowia. Witam członków Komisji i zaproszonych gości. Stwierdzam kworum.Porządek dzisiejszego posiedzenia przyjętego przez prezydia Komisji przewiduje rozpatrzenie informacji na temat strategii dostępu i zarządzania danymi medycznymi dla celów naukowych w ramach European Health Data Space. Informację przedstawiają: minister zdrowia oraz prezes Agencji Badań Medycznych.
Przystępujemy do realizacji porządku dziennego. Informuję, iż materiały Ministerstwa Zdrowia zostały wysłane do państwa posłów na maile i zamieszczone w folderze SDI na iPadach. Dostępne są również w formie papierowej. Natomiast informacja ze strony ABM będzie przedstawiona w formie prezentacji.
Bardzo proszę przedstawicieli Ministerstwa Zdrowia i Agencji Badań Medycznych o przedstawienie informacji. Pytanie – w jakiej kolejności? Rozumiem, iż pan minister Konieczny pierwszy, tak? Bardzo proszę.
Sekretarz stanu w Ministerstwie Zdrowia Wojciech Konieczny:
Dzień dobry. Pani przewodnicząca, szanowni państwo, oczywiście strategia dostępu i zarządzania danymi medycznymi w ramach struktur Unii Europejskiej jest zadaniem, które stopniowo się rozwija. Dąży do tego, aby przepływ tej informacji był dużo łatwiejszy i jednocześnie bezpieczniejszy, aby były korzyści płynące dla poszczególnych państw oraz dla całej Unii Europejskiej. Sprawa jest wprowadzana stopniowo. Nie jest tak, iż wszystkie rozwiązania będą wprowadzone jednego dnia. Natomiast pewne dane medyczne będą pojawiały się sukcesywnie, oczywiście z odpowiednimi obostrzeniami, zastrzeżeniami, o których dzisiaj będziemy mówić.Najważniejsze jest to, iż istnieje rozporządzenie w sprawie europejskiej przestrzeni danych dotyczących zdrowia.
Europejska przestrzeń danych dotyczących zdrowia to wspólne europejskie ramy umożliwiające zarządzanie elektronicznymi danymi dotyczącymi zdrowia w Unii Europejskiej. Celem rozporządzenia jest m.in. poprawa dostępu pacjentów do ich danych dotyczących zdrowia, ułatwienie przepływu danych w kontekście transgranicznym i udostępnienie danych w celach związanych z opieką zdrowotną. To tzw. pierwotne wykorzystywanie danych.
Ponadto rozporządzenie ma na celu umożliwienie wtórnego wykorzystywania danych dotyczących zdrowia na potrzeby m.in. badań naukowych, kształtowania polityki zdrowotnej, reagowania na zagrożenia zdrowotne.
Wtórne wykorzystywanie danych dotyczących zdrowia to przetwarzanie elektronicznych danych dotyczących zdrowia do celów ściśle określonych w rozporządzeniu, innych niż pierwotne cele, do których je zgromadzono, wytworzono. Tymi celami są m.in. interes publiczny, kształtowanie polityki i działań regulacyjnych, statystyka, działalność edukacyjna czy też badania naukowe.
Posiadacze danych dotyczących zdrowia będą musieli udostępniać różne kategorie danych elektronicznych w tym m.in. dane pochodzące z elektronicznej dokumentacji medycznej, dane dotyczące czynników mających wpływ na zdrowie, dane dotyczące patogenów mających wpływ na zdrowie ludzi, dane administracyjne dotyczące opieki zdrowotnej lub też z zakresu genetyki człowieka, epigenomiki i genomiki.
Pierwsza część danych do wtórnego wykorzystania zostanie udostępniona w marcu 2029 r., a druga część w marcu 2031 r. Takie są przynajmniej założenia i do tego się przygotowujemy.
W państwach członkowskich UE powstaną organy ds. dostępu do danych dotyczących zdrowia. Po otrzymaniu wniosków o dostęp do danych lub zapytań o dane, organ do spraw dostępu będzie mógł wydać decyzję o udostępnieniu danych. Wówczas organ zwróci się do posiadaczy danych o ich przekazanie. Dane będą następnie umieszczane w bezpiecznym środowisku przetwarzania. Całość procesu pozyskiwania i wykorzystywania danych będzie podlegać nadzorowi, w tym monitorowaniu przez krajowe i unijne organy nadzorcze ds. ochrony danych osobowych. Organy ds. dostępu do danych mogą pobierać opłaty mające na celu pokrycie kosztów administracyjnych związanych z udostępnieniem danych. To rekompensata kosztów poniesionych w związku z zestawieniem i przygotowaniem danych.
Rozporządzenie przewiduje również sankcje, w tym administracyjne kary pieniężne nakładane przez organy ds. dostępu za naruszenie przepisów dotyczących wtórnego wykorzystywania danych, w szczególności za niedozwolone lub niezgodne z przeznaczeniem użycie danych.
Pacjent będzie mógł skorzystać z prawa do wyłączenia swoich danych z wtórnego wykorzystywania w dowolnym momencie i bez podawania powodu. Korzystanie z tego prawa jest odwoływalne. Państwa członkowskie mają prawo do utworzenia wyjątku od prawa do wyłączenia danych w szczególnych przypadkach.
Infrastruktura dane zdrowotne Unii Europejskiej i krajowe produkty kontaktowe ds. wtórnego wykorzystywania – jak to będzie wyglądać? W celu wsparcia i ułatwienia transgranicznego dostępu do elektronicznych danych dotyczących zdrowia na poziomie unijnym, utworzona zostanie specjalna infrastruktura łącząca posiadaczy danych i poszczególne kraje i te urzędy ds. wtórnego wykorzystywania danych.
Dzięki EPDZ i cyfryzacji dokumentacji medycznej rozpocznie się nowa era badań naukowych i ochrony zdrowia publicznego. Przy zastosowaniu odpowiednich zabezpieczeń, badacze i naukowcy będą mogli uzyskać dostęp do danych w celu opracowania nowych terapii, leków, procedur oraz technologii medycznych. Jednocześnie bezpieczeństwo danych pozostanie priorytetem. Rozporządzenie określa zabronione sposoby wykorzystywania danych, zakazując ich użycia na przykład do podejmowania decyzji niekorzystnych dla jakiejkolwiek osoby.
Ponadto przed udostępnieniem na cele wtórne, dane pacjentów będą podlegać pseudonimizacji lub anonimizacji.
Przygotowania do wdrożenia EPDZ w Polsce. Rozporządzenie określa jedynie ramy prawne. To Polska musi zidentyfikować potencjalne luki w ustawodawstwie krajowym lub jego sprzeczność z przepisami rozporządzenia. W Ministerstwie Zdrowia realizowane są w tej chwili prace analityczne nad tekstem rozporządzenia w tym m.in. identyfikacja instytucji odpowiedzialnych za wdrożenie nowych przepisów, określenie potrzeb w zakresie zmian legislacyjnych i organizacyjnych w polskim porządku prawnym i w systemie ochrony zdrowia.
Ministerstwo Zdrowia planuje ponadto przeanalizować potencjał już działających instytucji oraz ich doświadczenia w kontekście wtórnego przetwarzania danych. Jedną z takich instytucji jest Agencja Badań Medycznych. Doświadczenia w zakresie magazynowania danych medycznych w ramach Regionalnych Centrów Medycyny Cyfrowej są przykładem potencjału, który z powodzeniem można wykorzystać w kontekście wdrażania EPDZ. Ministerstwo planuje współpracować z Agencją w zakresie zarządzania zbiorami danych, anonimizacji czy procedur bezpieczeństwa tak, aby praca nad implementacją rozporządzenia w kontekście wtórnego wykorzystania danych była jak najefektywniejsza.
Proszę państwa, myślę, iż w tej chwili, zgodnie z zapowiedzią pani przewodniczącej, mogę oddać głos przedstawicielom Agencji Badań Medycznych, którzy pod postacią prezentacji pokażą szczegóły i będziemy odpowiadać na ewentualne pytania. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękujemy za to wprowadzenie, panie ministrze.W takim razie przekazuję głos Agencji Badań Medycznych, chyba iż pan minister Gramatyka chciałby wcześniej zabrać głos.
Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:
Bardzo dziękuję. Oczywiście przede wszystkim bardzo dziękuję za zaproszenie.Ta sytuacja czy ta prezentacja, którą państwo za chwilę zobaczą, to jest przykład na to, jak można zidentyfikować pewne aktywa i pewne atuty, które mamy rozrzucone w różnych obszarach działalności państwa.
W porozumieniu z Agencją Badań Medycznych udało się ustalić, iż w zasadzie dysponujemy na dziś systemami i zasobami, które można wykorzystać do wszystkich tych operacji na danych, o których przed chwilą mówił do państwa pan minister Konieczny, iż w zasadzie kilka nas dzieli od tego, żeby już dzisiaj uruchomić system, który jest gotowy i zasoby, które też są przygotowane, i wskazać jednostki naukowo-badawcze, które mogłyby tym wszystkim zarządzać. Wystarczy lekki tuning legislacyjny odpowiedniej ustawy – i to już się dzieje w Ministerstwie Cyfryzacji – i wystarczy oczywiście wyobraźnia i zaangażowanie Agencji Badań Medycznych, która odpowiada za całe to zamieszanie. Zamieszanie oczywiście w pozytywnym aspekcie.
Warto wspomnieć, iż mamy na sali obecnego dyrektora jednego z Instytutów Sieci Badawczej Łukasiewicz w Polsce, pana profesora Jana Kozaka. To jest dyrektor instytutu, który dzisiaj nazywa się Łukasiewicz-EMAG. Ta nazwa pochodzi jeszcze ze starych górniczych czasów, ale już za chwilę będzie się nazywał instytutem cyberbezpieczeństwa i sztucznej inteligencji. Będzie jednym z elementów, w którym Polska Sieć Badawcza Łukasiewicz będzie rozwijać swoje kompetencje w tym zakresie. Jego obecność jest dość istotna, dlatego iż EMAG był wykonawcą systemu, o którym pewnie później będziemy rozmawiać.
To w zasadzie tyle tytułem lekkiego wprowadzenia. Dziękuję.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję, panie ministrze. W takim razie przekazuję głos przedstawicielowi Agencji Badań Medycznych oraz…Pan prezes jest z nami, tak?Prezes Agencji Badań Medycznych Wojciech Fendler:
Tak.Przewodnicząca poseł Marta Golbik (KO):
I prezentacji.Prezes ABM Wojciech Fendler:
Szanowni państwo, bardzo dziękuję za zaproszenie. Tak jak pan minister powiedział, to jest rzeczywiście synergia działań wielu instytucji. My ze swojej strony mamy pewne najważniejsze zasoby, o których zaraz powiem, natomiast faktem jest, iż to jest rzeczywiście duży wysiłek połączonego działania programistów, lekarzy, naukowców.Przewodnicząca poseł Marta Golbik (KO):
Panie prezesie, ja przeproszę na chwilkę. Bardzo proszę salę o wyciszenie rozmów.Dziękuję i bardzo proszę, panie prezesie.
Prezes ABM Wojciech Fendler:
Tak jak rozpoczęliśmy, EHDS, czyli Europejska Przestrzeń Danych Medycznych obliguje nas do wykorzystania potencjału danych. Polska chyba nie do końca zdaje sobie sprawę z tego, jak dużymi zasobami dysponujemy. o ile spojrzymy na publikacje wiodące w czasopismach naukowych, to niewielka Skandynawia, taka Dania, Szwecja czy Norwegia publikują w wiodących czasopismach dane epidemiologiczne, na których my później bazujemy swoje strategie. Mimo to, iż jesteśmy kilka razy więksi i pomimo tego, iż nasze dane są centralizowane, gromadzone w bardzo dobry sposób i w kilku obszarach mamy bardzo wysoki poziom digitalizacji tych zasobów i tych narzędzi, to nie potrafimy z tego skorzystać. I musimy zacząć, dlatego iż EHDS jest nieuchronny, wszedł w życie, musimy się dostosować. Mamy tutaj pomysł i kilka metod, którymi chcemy przetrzeć szlaki, po to żeby sprawdzić, czy faktycznie nas na to stać. I wydaje się, iż tak.Agencja Badań Medycznych w tym momencie chce wykorzystać zasoby kluczowe, czyli to, co nazywa się Regionalnymi Centrami Medycyny Cyfrowej – o tym jeszcze za chwilkę powiem, ale to jest taka wisienka na torcie całego zamieszania – po to, żeby być w stanie udostępniać dla naukowców, do wydolnych jednostek naukowych w jednostkach zarówno medycznych, jak i ogólnonaukowych dane, które pozwolą prowadzić badania naukowe na wysokim poziomie, wykorzystując olbrzymi potencjał informacji, które zbieramy. Na razie to jest bardzo trudne, zaraz powiem dlaczego. I wreszcie, o ile uda nam się to zrobić, to te mechanizmy, które wytworzymy, pozwolą nie tylko efektywnie działać naukowcom, ale także kreować racjonalną, opartą o dane politykę zdrowotną państwa i udostępniać te dane na potrzeby biznesu, co zwiększy również bezpieczeństwo pacjentów, dlatego iż pokaże, czego tak naprawdę nam brakuje, gdzie są przestrzenie do poprawy, gdzie być może pewnych środków jest za dużo, a gdzie zbyt mało.
To nie jest też tak, iż my odkrywamy koło na nowo. Naukowcy sobie radzą i prowadzą dane w takim procesie naukowym, który wszyscy znamy z naszej edukacji. Zbieramy dane, procesujemy je, przetwarzamy, analizujemy. Problem w tym, iż to wszystko jest prowadzone równolegle i zwykle jest wysiłkiem doktorantów, studentów, badaczy, którzy te dane pobierają indywidualnie z różnych repozytoriów i każdy z tych projektów tak naprawdę jest unikalny. Chodzi o to, żeby ustrukturalizować tę żmudną część i sprawić, iż będzie maksymalnie zinformatyzowana i maksymalnie dostępna, maksymalnie otwarta i naukowcy będą mogli skupić się na tym, co robią najlepiej, czyli właśnie na stawianiu pewnych istotnych pytań badawczych, uzyskiwaniu odpowiedzi i wdrażaniu ich w życie.
My radzimy sobie z tym na wiele sposobów. Takim przykładem, który rozwiązał Uniwersytet Medyczny w Białymstoku, było pokazanie, jak można powiązać zachorowania na choroby układu krążenia z zanieczyszczeniem środowiska. Gdzieś podskórnie wiemy, iż najlepiej nam się oddycha, o ile tych drobnych cząsteczek PPM jest w powietrzu mniej i wszyscy wiemy, iż pewnie jest to zdrowsze i dlatego staramy się elektryfikować, staramy się stawiać na czystą energię, ale można było to zrobić systemowo. Można było pokazać – i to zrobił właśnie UMB w Białymstoku – i nałożyć na siebie liczbę zachorowań na choroby układu krążenia ostrych incydentów wieńcowych z danymi meteorologicznymi zbieranymi w różnych regionach.
Niby proste, ale bardzo skomplikowane, dlatego iż wymagało to integracji z kilku źródeł, uzyskania różnych pozwoleń, uzyskania kolejnych zgód, nałożenia na siebie chronologicznie tych kolejnych znalezisk i wykazania tego, co my podskórnie czuliśmy. Okazało się, iż pokazuje bardzo dokładnie, gdzie i w jakim momencie nakładają się na siebie sezonowe zachorowania z zanieczyszczeniem środowiska. Czyli coś, co po pierwsze, jest istotnym zjawiskiem naukowym opublikowanym w wiodącym czasopiśmie z zakresu public health, ale też pokazujące tę sytuację tu i teraz i pozwalające monitorować, czy na przykład starania pod kątem oczyszczania środowiska czy zmniejszenia emisji, czy zmniejszenia ilości tych PPM w powietrzu, przełożą się na poprawę bezpieczeństwa zdrowotnego.
Takich danych potrzebujemy. To są dane, które są w zasięgu naszych naukowców, tylko iż w tym momencie są to izolowane projekty, które badacze robią dużym wysiłkiem. Tak jak widzicie, mapa dostępności była bardzo niewielka. Białystok sięgał do tych regionów, do których mógł, bo mieli dobre dane. Gdyby te dane były z całego kraju, gdyby dane można było zintegrować na przykład z nami z resztą Unii Europejskiej, wiedzielibyśmy, jak się mamy również do innych krajów. Wiedzielibyśmy więcej. W tym momencie oni bazowali na wysiłku takim, jaki byli w stanie manualnie przeprowadzić i zebrać dane tylko z konkretnych regionów, które być może nie były do końca reprezentatywne. Niemniej bardzo ważne dane, bardzo istotne.
Tego typu działania, czyli tworzenie map trendów ryzyka zdrowotnego, wykrywanie lokalnych wzorców zagrożeń, optymalizacja rozmieszczenia zasobów, to jest wszystko w naszym zasięgu. Potrzebujemy dobrej platformy, która obejmie kraj na tyle skutecznie, iż pozwoli wyciągać takie wnioski dla większości regionów w obiektywny sposób i jednocześnie odciąży naukowców z tego właśnie ciężaru zbierania danych. Będą mogli skupić się na danych, które faktycznie są zbierane systemowo, obiektywnie przez instytucje, które są do tego powołane. Takich danych potrzebujemy.
Ministerstwo Zdrowia, jak wiecie, prowadzi również programy lekowe, które zapewniają pacjentom dostęp do zaawansowanych, skomplikowanych, często bardzo długich terapii. To jest istotny ułamek budżetu NFZ. Te programy lekowe często są jedyną szansą poza badaniami klinicznymi na dostęp do terapii zaawansowanych, ratujących życie. Problem jaki mamy jest taki, iż monitorowanie tych programów lekowych wymaga monitorowania nie tylko w miejscach, gdzie są prowadzone, ale tak naprawdę śledzenia losów pacjenta przez cały system. Czyli to, iż wyleczymy pacjenta z choroby nowotworowej, to jest sukces, ale chcemy wiedzieć, iż na przykład pacjent chwilę później nie umrze z powodu powikłań leczenia albo będzie żył równie długo bez powikłań nefrologicznych, kardiologicznych czy pulmonologicznych, tak jak inni pacjenci, którzy tej choroby nie przeżyli. Żeby coś takiego zrobić, musimy zintegrować dane centralne z ośrodków specjalistycznych z danymi systemowymi. Tego aktualnie zrobić się nie da. NFZ ma to w swoich zadaniach, natomiast technologicznie rozwiązanie jest bardzo trudne. Agencja Badań Medycznych ma możliwość prawną, żeby to robić, ale znowu brakowało narzędzia technologicznego, które pozwalałoby śledzić losy właśnie pacjentów, tych osób, które przeżyją, przejdą przez terapię w ramach programów lekowych czy badań klinicznych, żeby zobaczyć odległe faktyczne punkty końcowe – czy my tak naprawdę pomagamy, czy tak naprawdę oferujemy bardzo drogą terapię, która skutkuje wpisaniem pacjenta w dobrym stanie ze szpitala, ale niekoniecznie dłuższym życiem. Tego typu dane, znowu, są w zasięgu możliwości, ale brakowało technologicznego rozwiązania. A bez tego nie pójdziemy dalej, bo optymalizacja i wybór tego, na które programy lekowe postawić, które jak zoptymalizować, gdzie potrzeba badań klinicznych, w których momentach możemy rozszerzyć wskazania, w których miejscach powinniśmy śledzić powikłania, czy dołożyć dodatkowe monitorowanie bezpieczeństwa to jest wszystko, co na razie opiera się o dane zagraniczne, o dane producentów leków, o dane rejestracyjne, nie tak naprawdę o faktyczne monitorowanie losów pacjentów w systemie polskim. Tak iż znowu, to jest coś, co jest w zasięgu możliwości, ale było niewykonalne.
Dzięki temu zakładamy, iż dalsza optymalizacja tego istotnego programu – bo na programy lekowe wydajemy blisko 13 mld zł, oszczędzając co nieco oczywiście – wymaga rzetelnych danych. I sposób pozyskania ich właśnie dzięki platformy analitycznej jest jedną metodą. EHDS, o czym wspominano dzisiaj, to też jest...
Wiceprezes Krajowej Rady Fizjoterapeutów Agnieszka Krawętkowska:
Przepraszam bardzo. Przepraszam czy my państwu posłom z PiS nie przeszkadzamy tutaj na tej Komisji?Poseł Tadeusz Chrzan (PiS):
W żadnym wypadku, proszę pani.Wiceprezes Krajowej Rady Fizjoterapeutów Agnieszka Krawętkowska:
Mam takie wrażenie, iż przeszkadzamy.Poseł Tadeusz Chrzan (PiS):
Na pewno nie. Nie. Spokojnie.Wiceprezes Krajowej Rady Fizjoterapeutów Agnieszka Krawętkowska:
Dziękuję bardzo. Ja słyszę tylko państwa. Przepraszam bardzo.Prezes ABM Wojciech Fendler:
Ja mogę wrócić. jeżeli chodzi o EHDS, to już też padło dzisiaj, to nie jest tylko nauka, to jest też biznes, to też jest to, co jest nieuchronne, mianowicie udostępnianie danych naukowych do celów przemysłowych, do celów takiego wywiadu gospodarczego, czyli uzyskania informacji, które są istotne w znaczeniu gospodarczym. To jest coś, co jest nieuchronne, to nie jest złe. Chodzi o takie sytuacje ile szczepionek dla dzieci albo ile konkretnych leków przeciwwirusowych czy innych zamówić w razie pandemii. I my systemowo posiadamy takie informacje, ale monitorowanie w czasie rzeczywistym i weryfikacja, czy na przykład trzy mln szczepionek, które daliśmy, to jest milion pacjentów zaszczepionych trzy razy, czy to są trzy mln zaszczepionych jeden raz. To jest coś, co było nieosiągalne. A w oparciu o to regulujemy na rynku liczbę dostaw, zamówień, zabezpieczenia w krytyczne technologie, w krytyczne leki, których potrzebujemy. Znowu, takich informacji potrzebujemy i to jest w systemie, a było nieosiągalne.Dlatego potrzebujemy wzmocnić również ten obszar i uzyskać jakieś narzędzie, a tym narzędziem może być m.in. wykorzystanie ZPA do celów medycznych w taki sposób, żeby tymi zasobami w taki sposób zarządzać i udostępnić informacje Ministerstwu Zdrowia, ale też stworzyć pewnego rodzaju platformę uczciwego, transparentnego dostępu do danych medycznych dla przedsiębiorców, którzy chcą ten system wzmacniać, którzy ten system również tworzą.
Co my tak naprawdę chcemy zrobić? Przede wszystkim chcemy postawić na polskich naukowców. To wąskie gardło, czyli to zbieranie danych, o ile zostanie w pewien sposób udrożnione, to mamy naprawdę wiele dobrych ośrodków epidemiologicznych, wielu dobrych statystyków, wielu dobrych programistów, którzy są w stanie w oparciu o te dane wytworzyć bardzo cenne dowody naukowe publikowane w skali świata, ale przede wszystkim istotne z punktu widzenia zdrowia i życia pacjentów. Taki crowdsourcing wiedzy, tych umiejętności spowoduje, iż będziemy w stanie faktycznie wyprzedzić w pewien sposób te czteroletnie harmonogramy EHDS, troszeczkę uciekając do przodu. Dlatego my to nazywamy pewnym pilotażem, czyli wykorzystaniem zintegrowanych danych medycznych dzięki platformy analitycznej przy wsparciu czy przy udziale Agencji Badań Medycznych i Ministerstwa Zdrowia, po to żeby zobaczyć, czy nas jako kraj stać na to naukowo, intelektualnie, żeby efektywnie integrować, analizować te dane i wdrażać wyniki badań. Równolegle będą prowadzone działania standardowe, o których pan minister mówił, czyli przygotowanie danych do wymian transgranicznych, tego pierwotnego wykorzystania i stworzenia katalogu podmiotów. Natomiast to możemy zrobić już teraz, dlatego chcemy troszkę wyprzedzić ten EHDS.
I ten najważniejszy zasób, który pojawił się na początku, a który teraz zgrabnie, klamrowo domykamy, to są centra medycyny cyfrowej. To jest coś takiego, co rozpoczęło się dwa lata temu. W całym kraju zostało utworzonych 19 takich centrów, które są podbiciem technologicznym i digitalizującym. Centra kliniczne przy szpitalach klinicznych, przy instytutach badawczych, przy szpitalach regionalnych wysokiego szczebla, które integrują i digitalizują zasoby, których wcześniej nie było w systemie. Tworzą hurtownie zaawansowanych i bardzo głębokich danych klinicznych, danych histopatologicznych, danych obrazowych z różnego rodzaju z badań radiologicznych i innych po to, żeby w jeden sposób i w jednym standardzie danych, które zostały wypracowane, umożliwić naukowcom wymianę tych informacji pomiędzy centrami medycyny cyfrowej, ale również udostępnić ten katalog na zewnątrz.
Nasze założenie jest takie, iż poprzez wykorzystanie ZPA do integracji danych pochodzących z RCMC z danymi systemowymi będziemy w stanie zobaczyć, jak dobrze leczeni pacjenci, w oparciu o szczegółowe dane kliniczne w ramach tych 19 centrów medycyny cyfrowej, czy 31 szpitali, które tworzą, w jaki sposób przekładać to na losy pacjentów i w jaki sposób te dane można zintegrować z danymi zbieranymi przez inne instytucje publiczne, inne rejestry, inne źródła danych, kreatywnie analizowane przez naukowców po to, żeby wytworzyć wiedzę, którą będziemy w stanie wykorzystać systemowo i naukowo.
To są te główne cele Agencji Badań Medycznych, które chcemy wdrożyć dzięki ZPA i uważam, iż w tym momencie to jest rzeczywiście szczęśliwe znalezisko, bardzo solidna synergia działań i chyba naukowo stać nas na to, żeby w czymś w Europie być pierwszym, a EHDS jest takim przykładem, gdzie rzeczywiście mamy na to szansę. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję. Pan minister Gramatyka chciałby jeszcze zabrać głos.Sekretarz stanu w MC Michał Gramatyka:
Tak, dlatego iż ta synergia, o której mówi pan profesor, to jest absolutnie coś niesamowitego, bo proszę sobie wyobrazić, iż Agencja Badań Medycznych jest aktywem Ministerstwa Zdrowia, czy jest w obszarze działania Ministerstwa Zdrowia. Ten system, o którym pan profesor przed chwilą mówił, jest w Ministerstwie Cyfryzacji, natomiast wykonał go instytut badawczy, który jest w obszarze działania ministerstwa nauki. Spotykają się tutaj trzy resorty i przez zupełny przypadek, dlatego iż do tej sytuacji naprawdę doszło przez zupełny przypadek, staraniem głównie pana przewodniczącego podkomisji cyfryzacyjnej zajmującej się algorytmami i sztuczną inteligencją, czyli pana posła Napieralskiego, który złapał te wszystkie sznurki, połączył je i pokazał, iż można wypracować właśnie takie synergie.Jak można powtórnie wykorzystać dane, to w zasadzie życie pokazuje nam na każdym kroku. Polecam wszystkim książkę pod tytułem „Big Data” niejakiego Schoenbergera, który pisze o tym, jak to się w ogóle zaczęło, iż człowiek zaczął dostrzegać potęgę odnajdywania nieoczywistych korelacji pomiędzy danymi, które już raz były przetwarzane i mogą być przetwarzane kolejny raz, a potem jeszcze kolejny i kolejny. To jest naprawdę skarb, który mamy na stole i w ogóle bardzo się cieszę, iż debatujemy o tym w Sejmie na połączonych komisjach. Bardzo dziękuję.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję, panie ministrze. Dziękujemy też posłowi Napieralskiemu oczywiście, zwłaszcza iż tak dużo mówimy o działaniach międzyresortowych. To jest faktycznie istotne.Szanowni państwo, otwieram dyskusję. Bardzo proszę o zgłaszanie się do pytań.
Poseł Elżbieta Gelert (KO):
Pierwszy to był poseł…Przewodnicząca poseł Marta Golbik (KO):
Ktoś już z Komisji Cyfryzacji?Poseł Elżbieta Gelert (KO):
Ula, obok pan poseł chciał zabrać głos.Przewodnicząca poseł Marta Golbik (KO):
Pan poseł, tak.Poseł Elżbieta Gelert (KO):
Bardzo proszę.Przewodnicząca poseł Marta Golbik (KO):
Pani przewodnicząca Gelert twierdzi, iż pan poseł się zgłosił.Poseł Łukasz Osmalak (Polska2050-TD):
Ja tylko machałem do asystenta, iż tutaj jestem. Przepraszam bardzo.Przewodnicząca poseł Marta Golbik (KO):
Bardzo proszę. To w takim razie czekamy na zgłoszenia. Czy są jakieś?Bardzo proszę, przewodniczący Napieralski. Proszę bardzo.
Poseł Grzegorz Napieralski (KO):
Na początku chciałbym serdecznie podziękować panu ministrowi za dobre słowa. Nie wiem, czy zasłużone, ale bardzo dziękuję. Chciałem tylko podziękować panu ministrowi i panu prezesowi, bo tak naprawdę chyba pierwszy raz od kiedy jestem w parlamencie, zaczynamy coś robić szybciej, niż to się dzieje w Europie czy na świecie i zaczynamy na to spoglądać.Ktoś kiedyś powiedział na naszej Komisji, iż taka najbardziej pewna wojna, która nas będzie czekała, to wojna o dane i coś w tym jest. Nie chciałbym negatywnie mówić, chcę raczej pozytywnie. Szczególnie o ile chodzi o system ochrony zdrowia, dane będą bardzo ważne. Czym lepiej będziemy zarządzać tymi danymi i mieli do nich lepszy dostęp, tym bardziej pomożemy naszym rodakom, Polkom i Polakom, bo to jest bardzo ważne.
Tak patrzę teraz na ministra Koniecznego i myślę, iż powinniśmy zrobić wszystko, żeby znaleźć pieniądze na takie działania. Już abstrahując, gdzie to się będzie znajdowało – czy w ministerstwie, czy w Agencji – musimy gdzieś i tak obracać tymi danymi, mówiąc kolokwialnie. Po prostu muszą się znaleźć pieniądze. o ile nie znajdziemy na to pieniędzy, nie będziemy tego budować, to po prostu przegramy ten wyścig.
Na naszej podkomisji rozmawiamy tak naprawdę o tym, co sztuczna inteligencja może zrobić w systemie ochrony zdrowia. Przede wszystkim może bardzo ułatwić dostęp do procedur medycznych, bardzo przyspieszyć diagnostykę, szczególnie o ile chodzi te bardzo groźne choroby. Może naprawdę zrobić bardzo wiele dobrego, a szczególnie przynieść nam oszczędności w całym systemie ochrony zdrowia. Myślę, iż to, co pokazał pan prezes, jest interesujące i warto o tym dyskutować, bo to jest nasza przyszłość.
I moje marzenie po tej Komisji jest takie, żebyśmy nie zakończyli tylko na pięknej prezentacji i krótkiej dyskusji, ale żebyśmy faktycznie zaczęli coś z tym robić. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Dziękuję. Szanowni państwo, nie widzę więcej zgłoszeń. Rozumiem…Poseł Elżbieta Anna Polak (KO):
Jeszcze tylko ja.Przewodnicząca poseł Marta Golbik (KO):
Bardzo proszę.Poseł Elżbieta Anna Polak (KO):
Ja mam pytanie do pana prezesa Agencji Badań Medycznych. Czy planujecie jakieś konkursy, nabory? Macie środki finansowe właśnie w celu zapewnienia bezpiecznego wykorzystania danych medycznych, a ewentualnie wykorzystania inteligentnego wsparcia z wykorzystaniem narzędzi informatycznych do zastosowania takich bezpiecznych systemów w jednostkach ochrony zdrowia, w szpitalach?Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję i poseł Hoc. Jeszcze chwilkę.Poseł Czesław Hoc (PiS):
Dziękuję bardzo. Nawiążę do ostatnich słów pana posła Napieralskiego. Chodzi o konkrety i o wdrożenie. Czytamy tutaj harmonogram wdrożenia. To są takie dość odległe terminy, bo do 2031 r. dopiero będzie przekazywanie przez posiadaczy danych do organów itd. W tym czasie możemy dużo mówić, natomiast możemy mieć też mało konkretów.I przede wszystkim finanse. A więc pierwsze pytanie: ile dostaliście środków z KPO na tego rodzaju przedsięwzięcia? Albowiem dostaliśmy już te środki, spełniliśmy pewne kamienie milowe, a więc powinniśmy wręcz mieć duże możliwości, jeżeli chodzi o finanse.
Drugie pytanie, jeżeli chodzi o zdalne monitorowanie pacjentów, a więc kiedy wdrożycie albo czy już wdrożyliście pewne systemy zdalnego monitorowania pacjentów w aspekcie pomiaru ciśnienia tętniczego, tętna, poziomu glukozy itd. i czy macie zbiorcze dane i już tym zawiadujecie? Bo jeżeli tak idziemy do przodu, to musimy już mieć pewne symulacje albo też pewne konkrety.
Po drugie: jak uważacie, czy sztuczna inteligencja to rzeczywiście będzie rewolucja albo czy już jest rewolucją w medycynie cyfrowej? Czy to jest to samo według was? A jednocześnie, czy nie widzicie pewnego niebezpieczeństwa w aspekcie zabezpieczenia danych wrażliwych naszych pacjentów, znaczy obywateli?
To jest bardzo wrażliwa kwestia, tym bardziej właśnie w aspekcie cyfryzacji i różnego rodzaju cyberprzestępstw itd. Teraz są pewne takie nowe formy wdrażania czy też wchodzenia w aspekt śledzenia czy też różnego rodzaju podawania nieprawdziwych wiadomości. Czy jesteście do tego odpowiednio zabezpieczeni? Czy macie programy? I taka prawdziwa weryfikacja.
Jeszcze jedna kwestia – telemedycyny. jeżeli jesteśmy już tak cyfrowo zaawansowani, to czy na przykład inteligentne gadżety, urządzenia medyczne tzw. inteligentne gadżety medyczne, które są urządzeniami noszonymi, a więc kardiowertery-defibrylatory, rozruszniki serca, układy stymulujące itd, czy też inne kwestie na przykład te FreeStyle do pomiaru poziomu glukozy – czy jesteście tutaj wiarygodni, czy jesteście konkretnie do tego dostosowani? Wiem, iż można robić ładne plany i mieć wizję, ale konkrety. Pacjent nie będzie czekał na to, czy ktoś będzie robił projekt za 2-3 lata, ale będzie chciał tu i teraz, w sensie zabezpieczenia swojego zdrowia i życia.
Krótko mówiąc, czy jesteście przygotowani na sztuczną inteligencję? Z jednej strony to jest rewolucja, ale z drugiej strony wiemy, iż rewolucja pożera własne dzieci. Ta sztuczna inteligencja może czynić cuda w obrazowaniu, diagnostyce obrazowej, bo rzeczywiście może być dobrodziejstwem opisywanie RTG, mammografii, PET czy tomografii komputerowej, czy rezonansu, ale z drugiej strony może wprowadzać pewne błędy tzw. halucynacji botów, a więc można wprowadzić pewne niedobre informacje i pacjent może się czuć wręcz instruowany przez sztuczną inteligencję, co wcale nie musi być prawdą. Wtedy jest rozjazd rzeczywistości z różnymi zagrożeniami.
Czyli ładnie mówicie, pięknie referujecie, tylko cały czas będziemy czujni i będziemy czekać na konkretne rozwiązania i konkretne weryfikacje tych dat, które podajecie, tym bardziej iż i tak te daty są dość odległe. Dziękuję.
Przewodnicząca poseł Marta Golbik (KO):
Dziękuję. Posłanka Leniart.Poseł Ewa Leniart (PiS):
Państwo przewodniczący, Wysokie Komisje, szanowni panowie ministrowie, szanowni państwo, chciałabym zapytać o efekty gromadzenia tychże danych i skutki ich przetwarzania, zwłaszcza tego wtórnego wykorzystywania danych dla pacjentów. Co tak naprawdę uzyska pacjent, bo oczywiście umiem czytać i znalazłam informacje, iż usprawnienie zapewnienia opieki, optymalizację leczenia i świadczenia opieki zdrowotnej. Natomiast rozumiem, iż są już doświadczenia i te skutki już w tej chwili są widoczne dla pacjenta i można je zdefiniować w jeden albo przynajmniej w jednoznaczny sposób.Czy istnieje możliwość odmowy wykorzystania danych przez pacjenta, czy też nie? Jak będzie potraktowany pacjent, który nie zgodzi się na to, aby jego dane wrażliwe były wykorzystywane? Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Dziękuję. Czy są jeszcze jakieś pytania? Nie widzę, w takim razie bardzo proszę o udzielenie odpowiedzi. Pan minister Konieczny, bardzo proszę.Sekretarz stanu w MZ Wojciech Konieczny:
Dziękuję. Proszę państwa, pytania są szerokie, ponieważ dzisiaj rozważamy pewną część całego procesu cyfryzacji medycyny i zbierania danych, dzielenia się tymi danymi i bezpieczeństwa tych danych. I to jest jeden zakres.Drugi zakres – do czego się może przydać cyfryzacja medycyny, do czego może się przydać sztuczna inteligencja, jakie są zagrożenia.
Pytania są szerokie, ale jak rozumiem, jest zainteresowanie Komisji, w związku z czym będziemy odpowiadać.
Proszę państwa, czy istnieje możliwość odmowy dostępu do danych medycznych? To zależy o jakich danych mówimy i czy mówimy tylko o danych, które dzisiaj są zbierane też w formie nazwijmy to papierowej czy analogowej, czy cyfrowej. Jak rozumiem chodzi o to, o czym dzisiaj rozmawiamy i tutaj była podana informacja, iż pacjent może zastrzec ten dostęp do swoich danych, one mogą być anonimizowane i również oczywiście są przestrzenie, w których pewne dane tego pacjenta będą niezastrzegalne. To są rzeczy dotyczące zdrowia publicznego i bez konkretnych danych, ale pewne elementy tych informacji będą w posiadaniu tego systemu cały czas.
Teraz – czy na EHDS idą pieniądze z KPO? Nie idą. I tutaj à propos też tego, co pan przewodniczący nadmienił o kosztach, o finansowaniu, raz, iż cyfryzacji, dwa, iż instytucji jak na przykład Centrum e-Zdrowia czy różnych innych instytucji, to tutaj istnieje pewne zagrożenie, o którym warto powiedzieć, iż jeżeli nie będziemy pozyskiwać finansowania z zewnątrz, to to finansowanie będzie się odbywało w ramach tych 7%, które są przeznaczone w ustawie nakładowej i można powiedzieć, iż w tym przypadku to będą przepływy pieniężne z innych obszarów, na które jak wiadomo brakuje. Zresztą podobnie jak będziecie państwo jutro głosować nad składką zdrowotną, to należy sobie uświadomić, iż ten niedobór będzie pokryty w ramach tej ustawy, więc nie będzie dodatkowych pieniędzy. W związku z tym to jest sytuacja, która myślę, iż nawiązuje do tego, co pan przewodniczący mówił. Tak, istnieją zagrożenia, iż zamiast dodatkowych pieniędzy na rozwój cyfrowy, może to być pokrywane z tych nakładów, które są do 7% i oczywiście jest dobrze, o ile udaje nam się pozyskać te pieniądze z innych źródeł.
Czy AI będzie rewolucją w medycynie cyfrowej? Oczywiście, iż tak. I tutaj częściowo pan poseł sobie odpowiedział na to pytanie, gdzie ta rewolucja najszybciej postępuje. W tych obszarach, które i tak są ucyfrowione, czyli w obszarach diagnostyki najnowocześniejszej jest to duże odciążenie dla systemu opieki zdrowotnej, dla personelu. I myślę, iż należy upatrywać również szanse w tym, iż personel, który będzie odciążony od takich standardowych, statystycznych działań, gdyż wykona to za niego sztuczna inteligencja, będzie miał po prostu więcej czasu dla pacjenta na kontakt fizyczny, na badanie, na rozmowę, na zaopiekowanie się, na to wszystko, na co pacjenci oczekują. Tak iż z jednej strony jest to zagrożenie pewną dehumanizacją medycyny, kiedy posuniemy się za daleko – na razie o tym nie mówmy, bo to są rzeczy, które będą postępować za 5, 10, 15, 20 lat – ale upatrywałbym szans w tym, iż w tej chwili jesteśmy na takim etapie, iż wiele tych zadań wynikających z potrzeb cyfrowych wykonuje człowiek i traci na to bardzo dużo czasu i nie ma czasu dla pacjenta, mówiąc tak najbardziej skrótowo. jeżeli to wykona sztuczna inteligencja, o ile będzie zajmowała się wieloma aspektami, to po prostu pozostanie więcej czasu dla personelu na inne obowiązki. W związku z czym są tutaj i zagrożenia i szanse. To będzie zależało od tego, jak konkretnie wykorzystamy to narzędzie, jakim jest sztuczna inteligencja.
Były poruszone daty – dlaczego takie daty? Te daty są tak, nazwijmy to, odległe, chociaż wydaje nam się, iż one nie są tak bardzo odległe, ale wynika to stąd, iż to ma być system europejski. To znaczy bardzo dziękuję również za to, iż pojawiły się głosy, iż próbujemy iść szybciej, iż będziemy przodować, liderować, ale system ma sens, jeżeli będzie zbierał informacje zewsząd, skąd ma zbierać i połączy się ze sobą. Stąd takie są terminy, aby wszystkie kraje dostosowały swoje prawodawstwo, finanse, oczywiście możliwości kadrowe, możliwości sprzętowe, programowe, wszystko co jest niezbędne do tego, żeby wprowadzić ten system. Stąd te terminy. Można powiedzieć, iż moglibyśmy to zrobić wcześniej. Załóżmy, iż tak, aczkolwiek nie do końca. Po co, skoro mamy się zintegrować z siecią europejską, a ona nie będzie gotowa? Te terminy po prostu takie są, one są przyjęte realne dla całej Europy.
Co do niebezpieczeństwa utraty danych wrażliwych, to proszę państwa tak, dzisiaj też jest takie niebezpieczeństwo, ono będzie postępować. W sensie, iż w miarę przesuwania się danych do systemów informatycznych, oczywiście będą również próby ich pozyskiwania w jakiś sposób i ten proces będzie występował. Na pewno będziemy temu zapobiegać i trzeba to zrobić na początku przy budowaniu systemu, aby on był jak najbardziej odporny na przyszłe zagrożenia, aby nie był zbyt otwarty i o tym oczywiście się myśli i to się czyni.
Były również pytania dotyczące tego, w jaki sposób monitorujemy nadciśnienie tętnicze, cukrzycę itd. To są inne zadania i one są finansowane z KPO, tutaj mamy takie możliwości.
Tak jak mówię, bardzo szerokie pytania dotyczące zupełnie innych aspektów będących pod wspólnym mianownikiem cyfryzacja, ale obszary są zupełnie odmienne, więc może przekażę głos panu dyrektorowi Demediukowi, aby odpowiedział na te pytania. Również o te efekty, skutki przekazywania danych, jakie mamy możliwości, co się już zadziało, bo to jest nieco odmienna tematyka od tego, co było podstawą naszego dzisiejszego spotkania. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję. Proszę bardzo.Dyrektor Departamentu e-Zdrowia Ministerstwa Zdrowia Wojciech Demediuk:
Dzień dobry. Szanowni państwo, otóż próbując odpowiedzieć najbardziej w punkt, prowadzimy w Ministerstwie Zdrowia i realizujemy przez Centrum e-Zdrowia zadania związane z wdrożeniem narzędzi do telemedycyny. Narzędziem, którego działanie rozpoczęliśmy w 2020 r. przy okazji pandemii była domowa opieka medyczna, w której pierwszym narzędziem, które było podłączone i istniała możliwość zbierania danych było monitorowanie zdrowia pacjentów poprzez odczyt zdalny elektroniczny z pulsoksymetrów. I w międzyczasie przeprowadziliśmy sporo pilotaży różnych narzędzi, opasek itd.To, co w tej chwili robimy i to, o czym pan minister wspomniał, to jest to, iż w ramach inwestycji D1.1.2 w KPO budujemy w tej chwili docelowe rozwiązanie, które rozszerza te zakresy, czyli jakby implementuje wszystkie możliwe techniczne i przetestowane do tej pory rozwiązania. Dwa, umożliwia zbieranie informacji i komunikację między lekarzem a pacjentem w szerszym zakresie, nazwijmy to trochę bardziej analogowym, ale równie ważnym, czyli takim, gdzie informacje z pomiaru ciśnienia mogą być zapisywane i przekazywane do lekarzy przez pacjentów, o ile na przykład te urządzenia nie są w jakiś sposób zintegrowane.
I to oczywiście, odpowiadając też przy okazji na drugie pytanie, zależy od zgody pacjenta. o ile pacjent zechce przekazywać takie rzeczy, to będzie je przekazywał, o ile będzie chciał korzystać z różnego rodzaju refundowanych narzędzi, to wtedy takie dane będą przekazywane i jest to zawsze za zgodą pacjenta.
Planujemy też wdrożenie takich rozwiązań, które z innych urządzeń typu zegarki będą mogły prowadzić odczyty, pod warunkiem iż pacjent wyrazi zgodę i my będziemy się wtedy mogli dostać do platform Google czy Apple, po to, żebyśmy byli w stanie pozyskiwać takie dane, ale zawsze jest to za zgodą pacjenta. Często może się to odbywać w taki sposób, iż o ile lekarz zaleci albo poprosi pacjenta i pacjent zechce udostępnić swoje dane na przykład dotyczące swojej aktywności fizycznej, to będą mogły być udostępniane, ale jest to za zgodą pacjenta.
Co do skutków dla pacjentów, to tutaj mamy możliwości odmowy. Rozporządzenie EHDS przewiduje wprost możliwość odmowy przez pacjenta przetwarzania swoich danych i nieudostępniania ich do celów badawczych. Z naszego punktu widzenia powiedziałbym, iż niestety, ponieważ te dane, które są przetworzone, udostępnione są do badań zawsze w postaci zanonimizowanej lub pseudoanonimizowanej. Taka możliwość jednak istnieje. Ona dotyczy również pierwotnego obiegu danych. Dzisiaj system jest zorganizowany w taki sposób, iż dostęp do danych pacjentów, do elektronicznych dokumentów medycznych mają pacjenci i lekarze podstawowej opieki zdrowotnej oraz wszyscy lekarze, którym pacjenci udostępnią dostęp do swojej dokumentacji medycznej, ale domyślnie pracownicy służby zdrowia nie mają dostępu do dokumentacji pacjenta.
Ze względu na to, iż w różnych krajach europejskich jest różne podejście, rozporządzenie o europejskiej przestrzeni danych o zdrowiu zakłada co do zasady, iż te dane są dostępne dla służby zdrowia, chyba iż są lokalne inne uregulowania i pacjent ma prawo do zastrzeżenia danych, ma prawo do edycji swoich danych zdrowotnych, ma prawo do dopisywania swoich danych medycznych. Na przykład o ile sam bada ciśnienie i zechce udostępniać takie dane, to będzie mógł je udostępniać. Więc ten zakres jest dużo szerszy, natomiast każde z państw członkowskich ma obowiązek umożliwić w łatwy sposób pacjentowi czy obywatelowi dostęp do tych danych i zarządzanie tym prawem dostępu. To jest coś, co my po prostu będziemy musieli wprowadzić. Do tego obowiązuje nas rozporządzenie.
Jeżeli chodzi o cyberbezpieczeństwo, to wszyscy zdajemy sobie sprawę z tego, iż to jest bardzo gorący temat. Widzieliśmy też ostatnie ataki na szpital MSWiA. Dzisiaj wydaje się, iż Polska, pomimo iż jest najbardziej narażona na ataki, tak jak wynika z danych Ministerstwa Cyfryzacji, to przez fakt, iż większość tych danych jest centralnie zarządzana i jest przetwarzana na serwerach Centrum e-Zdrowia, w tym jednym punkcie trochę łatwiej niż w innych krajach, w których to są systemy rozproszone, możemy zadbać o bezpieczeństwo danych. Co wcale nie oznacza, iż część z tych danych, które się dublują i są w lokalnych systemach, nie jest narażona na kradzież. Bardzo dziękuję.
Przewodnicząca poseł Marta Golbik (KO):
Dziękuję. I poproszę o zabranie głosu pana ministra Gramatykę.Sekretarz stanu w MC Michał Gramatyka:
W zasadzie wiele z tych pytań, zaadresowanych w szczególności w wypowiedzi pana posła Hoca zostało już wyjaśnionych, ale to była bardzo cenna wypowiedź, dlatego iż pan poseł stawia generalnie takie egzystencjalne pytania dotyczące w ogóle algorytmów i AI, nie tylko w kontekście przetwarzania danych medycznych, ale w ogóle w zakresie funkcjonowania tych nowości. Czy AI zmieni nasze życie? Ono je zmienia w zasadzie każdego dnia. W jakim zakresie i w jakim stopniu to będzie się działo, w zasadzie zależy tylko od nas. Jesteśmy odpowiedzialni za wdrażanie do polskiego prawa dyrektyw europejskich, które Unia Europejska jako pierwszy taki międzynarodowy organizm zdecydowała się uregulować wiele aspektów funkcjonowania algorytmów, więc za chwilę pojawi się w polskim prawie AI Act, za chwilę pojawi się Data Act i tam również będą przepisy, które normują powtórne wykorzystywanie danych.To co jest istotne w kontekście platformy, o której mówi pan profesor, mam na myśli szefa Agencji Badań Medycznych, jest to, iż na tej platformie dane będą przetwarzane po uprzedniej anonimizacji, iż one będą oderwane od pacjenta i w ogóle nie będzie istniała możliwość identyfikacji pacjenta na podstawie tych danych, dlatego iż ta anonimizacja jest na tyle skuteczna, iż po prostu nie ma możliwości takiej inżynierii wstecznej, żeby na podstawie tych danych dotrzeć do konkretnej osoby. Te dane są wystawiane w zasadzie nie dla pacjentów, to znaczy nie bezpośrednio dla dobra pacjentów, ale dlatego, żeby naukowcy mieli na czym pracować, żeby oni mogli szukać tych danych.
Poseł Grzegorz Napieralski (KO):
Czyli dla dobra pacjentów, panie ministrze.Sekretarz stanu w MC Michał Gramatyka:
Tak, tak. W dalekim horyzoncie oczywiście zaskutkuje to dobrem pacjentów, bo będziemy w stanie wynajdywać korelacje. Dzisiaj na przykład wszyscy się zastanawiają jak w długim horyzoncie skutkują leki na odchudzanie, te które są dość modne, zdaje się, iż nazywają się semiglutydy. Nie jestem lekarzem, tylko prawnikiem, więc może pomyliłem nazwę. Nikt z nas tego nie wie. Nie ma jeszcze wiarygodnych badań na ten temat, a przyjęcie takiej rzeczywistości, w której te dane znajdują się na platformie, one są zanonimizowane, umożliwiają przetwarzanie na wszystkich możliwych kierunkach, daje nadzieję na to, iż ktoś takie badania przeprowadzi. Super, iż dzieje się to właśnie w Polsce i super, iż właśnie my zaczynamy, a zupełnym przypadkiem albo staraniem od osób odpowiedzialnych za cyfryzację w poprzedniej kadencji mamy do tego narzędzia. I to są dobrze pomyślane i dobrze wykonane narzędzia i po prostu pokazujemy, w jaki sposób te narzędzia wykorzystać. Bardzo dziękuję.Przewodnicząca poseł Marta Golbik (KO):
Dziękuję i bardzo proszę pana prezesa Agencji Badań Medycznych.Prezes ABM Wojciech Fendler:
Ja w zakresie swoich kompetencji. Agencja Badań Medycznych w tym momencie organizuje konkurs, który nazywa się TRANSMED, czyli medycyna translacyjna, czyli takie odkrycia badawcze, które można zastosować przy łóżku pacjenta. W ramach tego konkursu możliwe jest badanie wyrobów medycznych bazujących m.in. na AI albo jakiejś kreatywnej analizie danych pod kątem technologii diagnostyki. To jest pierwszy punkt. Natomiast wyroby i technologie, które są certyfikowane już można badać w ramach konkursu na niekomercyjne badania kliniczne czy eksperymenty badawcze, który będzie ogłoszony w trzecim kwartale tego roku. Prawdopodobnie z horyzontem czasu w składanie tych wniosków gdzieś do grudnia. Tak iż taką ofertę mamy na razie.Jeśli chodzi o finansowanie tego, to są zakontraktowane środki z 2023 r. Ten konkurs miał lokację rzędu 600 mln. Natomiast ta strona analityczna w obrębie Agencji jest finansowana z funduszu rezerwowego, którym Agencja dysponuje. Tak iż ta infrastruktura jest. Na to nie mieliśmy środków unijnych, tak iż to nie jest z KPO. Natomiast ze środków KPO, których konkurs Agencja operowała, mamy na przykład rozstrzygnięte projekty, które wykorzystują AI w diagnostyce genetycznej na przykład projekt badaczy z Pomorskiego Uniwersytetu Medycznego, gdzie wykorzystują diagnostykę genetyczną wspartą AI do diagnostyki. Takie narzędzia i takie rzeczy już się dzieją w Polsce, jak najbardziej. My w nich partycypujemy, cieszymy się i raportujemy sukces naszych badaczy.
Jeśli chodzi natomiast o technikalia i to, w jaki sposób te odkrycia mogą się przysłużyć pacjentom, to szczęśliwe mamy na sali twórców tej platformy właśnie: panią profesor Chłoń-Domińczak i pana profesora Mikołaja Jasińskiego oraz dyrektora Kozaka z EMAG, historycznej nazwy jak rozumiem, którzy o ile mógłbym prosić to ewentualnie… Bo wiem, iż przykład w trakcie tworzenia platformy, o której pan profesor mówił, zakładał właśnie wykorzystanie medyczne. o ile mogę teraz przekazać głos, to usłyszymy od twórcy, co zawsze jest lepsze w bezpośrednim przekazie.
Przewodnicząca poseł Marta Golbik (KO):
Dobrze, to ja przekażę. Króciutko poprosimy o wypowiedzi.Adiunkt na Wydziale Socjologii Uniwersytetu Warszawskiego dr hab. Mikołaj Jasiński:
Dziękuję bardzo. Tak, Zintegrowana Platforma Analityczna, notabene projekt, który był realizowany jako element koncepcji strategii informatyzacji państwa, sformułowanej jeszcze za czasów ministra Boniego dodam, a więc szczęśliwie udało się to przeprowadzić. Ten projekt zakładał m.in. poza wytworzeniem dzięki staraniom Instytutowi EMAG infrastruktury informatycznej również testowe przeprowadzenie sześciu badań. Jedno z tych badań to właśnie była analiza efektywności terapii i faktycznych kosztów terapii, co bezpośrednio przekłada się na to, o czym mówił pan minister, czyli właśnie na doskonalenie terapii konkretnych, celowanych, związanych z konkretnymi chorobami.Jeżeli wyobrazimy sobie powiedzmy dwie terapie A i B. Terapia A, która jest tania i powoduje, iż pacjent wychodzi ze szpitala, ale potem po krótkim czasie nie jest w stanie wykonywać pracy, ląduje jako rencista. On jest de facto niewidoczny dla systemu ochrony zdrowia. Ten człowiek pobiera pieniądze z budżetu państwa, jest człowiekiem cierpiącym. I za jakiś czas, pewnie dość krótki, może się okazać, iż umrze. I wyobraźmy sobie terapię B, która jest drogą terapią, ale powoduje, iż dany człowiek wraca na rynek pracy, jest szczęśliwy, może budować swoją przyszłość. Powiem brutalnie, z punktu widzenia państwa również płaci podatki, ale przede wszystkim jest zdrowy.
Otóż w tej chwili zostało wytworzone narzędzie, które pozwoli na tego typu analizy, bardzo precyzyjne i wspierające Ministerstwo Zdrowia w podejmowaniu decyzji. Generalnie Zintegrowana Platforma Analityczna jest dedykowana twórcom polityk publicznych w różnych obszarach, począwszy od ochrony zdrowia, poprzez kwestie ekonomiczne, kończąc na edukacji, nauce i generalnie rzecz biorąc różnych zagadnieniach społecznych. Tych sześć badań koncentrowało się na bardzo szerokich, takich horyzontalnych problemach, które dzięki takiemu narzędziu da się bardzo skutecznie analizować. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Dziękuję bardzo. I poproszę jeszcze na zakończenie przewodniczącego Napieralskiego.Poseł Grzegorz Napieralski (KO):
Bardzo dziękuję, pani przewodnicząca. Ostatnio z panem posłem Czesławem Hocem często rozmawiamy i dyskutujemy na komisji na sali plenarnej, więc podtrzymamy tę tradycję, panie pośle. Ja tylko chciałem trochę uspokoić te wszystkie obawy.Jednym z pierwszych posiedzeń podkomisji, którą robiliśmy, a później połączonych Komisji Zdrowia i Cyfryzacji, to była tak naprawdę dyskusja o tym aspekcie etycznym, ale szczególnie aspekcie bezpieczeństwa, o ile chodzi o dane medyczne, w ogóle o cały system ochrony zdrowia. To, co chyba jest najbliższe naszemu sercu, to nasze zdrowie i zdrowie naszych bliskich, więc z największą uwagą musimy podchodzić do tego, co będziemy robić w tym obszarze.
Ale tak z drugiej strony chciałem też powiedzieć panu posłowi, iż takie rzeczy podobne do tych, które chce zrobić Agencja Badań Medycznych czy Ministerstwo Zdrowia, to też już się dzieją, bo na spotkaniu rektorów medycznych uczelni, które miało miejsce w Szczecinie, też pojawił się podobny projekt, który chcą zrobić już sami naukowcy, widząc dzisiaj potrzebę zbierania tych danych, pracy nad tymi danymi. Myślę więc, iż skoro mamy dzisiaj taki potencjał, mamy chętnych ludzi do tego, żeby to zrobić, to warto to robić. Panie pośle, efektem tego, o czym rozmawialiśmy przed Komisją jest to, iż będzie specjalne posiedzenie podkomisji w Szczecinie z przedstawicielami uczelni medycznych, żeby o tym porozmawiać.
Ja jestem zwolennikiem w każdym aspekcie wypychania danych jak najszerzej, bo tylko na tym tak naprawdę możemy budować naszą gospodarkę, i nie tylko, i iść do przodu. Ale z drugiej strony zgadzam się, to mówił też minister Gramatyka i zgadzam się z tą wypowiedzią, iż absolutnie musi to się równać z bezpieczeństwem.
Natomiast jaki jest interes, czy co z tego ma pacjent czy pacjentka – ja to powtórzę, ja się wtrąciłem ministrowi Gramatyce – to czym więcej nasi naukowcy będą mieli takich danych i będą mogli je przeglądać, będą mogli je badać, będą mogli się nad nimi tak naprawdę pochylać, to tym lepsze będą tego efekty i tym więcej będziemy mogli później zaoferować pacjentom i pacjentkom.
Rozpętałem burzę, pani przewodnicząca. Dziękuję. Przepraszam.
Przewodnicząca poseł Marta Golbik (KO):
Chciałam kończyć, ale widzę jeszcze dwa zgłoszenia. Czy możemy krótko?Poseł Czesław Hoc (PiS):
Ja mogę krótko.Poseł Józefa Szczurek-Żelazko (PiS):
A jakie drugie? Ja nie.Poseł Czesław Hoc (PiS):
A jakie drugie? To ja jeszcze…Przewodnicząca poseł Marta Golbik (KO):
Jeszcze przewodnicząca Sójka podniosła rękę, tak?Poseł Czesław Hoc (PiS):
Dobrze. Oczywiście w takim tonie koncyliacyjnym i wręcz pełnym empatii, to ja powiem tylko tyle, iż to człowiek stworzył tę sztuczną inteligencję i to on powinien ją kontrolować. Z jednej strony wiadomo, pamiętacie 1997 r. Deep Blue pokonał arcymistrza Kasparowa, pokonał też arcymistrza w grze go, która jest o wiele bardziej skomplikowana i bardziej inteligentna niż szachy na przykład, ale z drugiej strony ChatGPT w Toruniu oblał egzamin z interny. Czyli niby jest taki mądry, a z drugiej strony oblał egzamin z interny. Chodzi tutaj tylko o to, żebyśmy prawidłowo postrzegali. To jest rewolucja…Poseł Grzegorz Napieralski (KO):
Tak, tak, panie pośle, tylko dzisiaj chodzi tak naprawdę o dane, tu nie rozmawiamy o sztucznej inteligencji. Tylko tyle.Poseł Czesław Hoc (PiS):
Aha, to dobrze. No to dane – wymieniamy się, ale mamy nadzieję tylko to, iż cały czas dyskutowaliśmy o konkretach, a na końcu pan minister powiedział, iż pieniędzy nie ma i nie będzie.Przewodnicząca poseł Marta Golbik (KO):
Obawiam się, iż moglibyśmy tak dyskutować w nieskończoność.Przewodnicząca Sójka, bardzo proszę.
Poseł Katarzyna Sójka (PiS):
Ja tylko krótko chciałam się dopytać, o co chodzi w tym zdaniu, iż „Jestem zwolennikiem wypychania danych”. Wypychania. Co to znaczy?Poseł Grzegorz Napieralski (KO):
Już mówię, już pani wytłumaczę, pani przewodnicząca. Otóż na przykład państwo jako państwo, jako ministerstwa, instytucje państwowe gromadzą bardzo różne dane. Tu w którejś wypowiedzi też było o tym, iż powtórne czy kolejne wykorzystanie różnych danych może nam bardzo mocno pomagać.Ja jestem zwolennikiem tego, żeby to wszystko, co gromadzą na przykład ministerstwa, agencje rządowe, Policja, czy inne instytucje, żeby te dane były wypychane za darmo na zewnątrz. Taki prosty przykład. Policja robi na przykład bardzo dokładne statystyki dotyczące bezpieczeństwa. Musi je robić. Żeby już nie mówić o zdrowiu, bo tutaj znowu z posłem Hocem wchodzilibyśmy w różnego rodzaju relacje, na przykład ktoś chciałby powtórnie wykorzystać te dane, na przykład ja, zbudować taką platformę wynajmu czy zakupu nieruchomości w Szczecinie, w Kołobrzegu u pana posła. Ja sobie biorę takie dane z Policji, które są dostępne, można je dostać za darmo i buduję specjalną aplikację i ta aplikacja przy zakupie mieszkania pokazuje mi na przykład, gdzie najbardziej bezpiecznie kupię mieszkanie w Kołobrzegu, gdzie jest najmniej przestępstw, najmniej kradzieży, bo ja to widzę tak naprawdę z danych Policji. I mogę sobie na takiej aplikacji na przykład zarabiać pieniądze i być z tego powodu szczęśliwym zarabiającym pieniądze, płacącym podatki i wzmacniającym polską gospodarkę.
A o ile już mówimy o zdrowiu, to ja jestem zwolennikiem tego, iż czym więcej tych danych dotyczących różnych chorób dojdzie do naszych naukowców…Bo pozostało taki problem, iż ja jako pacjent, który miał taką dosyć brutalną przygodę szpitalną, bo miałem podejrzenie o wylew albo o udar, a okazało się, iż miałem nieleczone nadciśnienie, ale ja jestem ze Szczecina, trafiłem do szpitala w Warszawie, bo trzeba było jak najszybciej. I całą pierwszą diagnostykę przeszedłem w Warszawie, ale potem już dalej leczyłem się gdzie indziej. Może kontrolowałem się, nie leczyłem, bo to złe słowo. I te dane są dzisiaj w dwóch różnych miejscach, ale dotyczą mnie i mojego przypadku. Rozumiem, iż on był bardziej skomplikowany, może mniej delikatny, niż jak ja go opisuję. Ale gdyby był bardziej skomplikowany, to dzisiaj dla jakiegoś naukowca mój przypadek mógłby być ciekawym casem, nie wiem jak to powiedzieć po polsku, do badania co można zrobić z taką chorobą, jak miał Napieralski, żeby ona się już później nie pojawiała albo żeby można było szybciej reagować, gdy pojawią się pierwsze objawy takiej choroby. I tyle.
Przewodnicząca poseł Marta Golbik (KO):
Dobrze. I kończąc minister Gramatyka jeszcze bardzo chciałby się… Do choroby Napieralskiego też? A, i jeszcze minister Konieczny. Oczywiście, bardzo proszę. Tylko muszą być nawiązania do choroby Napieralskiego.Sekretarz stanu w MC Michał Gramatyka:
Ja również do pani poseł Sojki. Sójki, przepraszam. Od przypadku do ogółu, znaczy, abstrahując od chorób pana przewodniczącego Napieralskiego, ale jedna z najlepszych ustaw, które przyjęto w poprzedniej kadencji Sejmu, to była ustawa o otwartych danych. To była ustawa, która spowodowała powstanie serwisu dane.gov.pl. Mamy na sali dyrektorkę Departamentu Zarządzania Danymi Ministerstwa Cyfryzacji panią Annę Gos, która zarządza całym tym zasobem. I to jest chyba też jeden z lepszych europejskich przykładów, gdzie administracja rządowa tworzy zasób, na którym można publikować dowolne dane. Nie tylko pochodzące od podmiotów publicznych. Podmioty publiczne mają obowiązek przekazywania danych na tę platformę i każdy może z tych danych korzystać do dowolnego celu, zawsze za darmo, zawsze na otwartej licencji. Ale ten zasób można wykorzystać również dla podmiotów prywatnych. W zasadzie można tam agregować wszelkie możliwe dane. One są udostępniane w otwartych formatach nadających się do przetwarzania, nadających się do szukania korelacji.To są naprawdę duże osiągnięcia w kontekście takiego myślenia, o jakim powiedział pan przewodniczący Napieralski, mówiąc o wypychaniu danych. Podobnie jak ja jest zwolennikiem otwartości wszelkich możliwych danych i gdzieś tam wspólnie nad tym pracujemy. Bardzo dziękuję.
Przewodnicząca poseł Marta Golbik (KO):
I minister Konieczny.Sekretarz stanu w MZ Wojciech Konieczny:
Dziękuję bardzo. Ja nawiązując nieco do zdarzenia pana przewodniczącego Napieralskiego, ponieważ jestem neurologiem, to nieco mnie to zaintrygowało. Prawdopodobnie doszło do przełomu nadciśnieniowego, w którym czasami są takie objawy mózgowe, ponieważ dochodzi do skurczu naczyń, jest pewna autoregulacja naczyń mózgowych i takie objawy występują.Natomiast tak na poważnie, proszę państwa, to nie jest tak, iż my nie mamy danych. Chciałbym tutaj trochę obronić całą medycynę. Medycyna jest oparta na danych, tylko one są inaczej zbierane. To zbieranie cyfrowe danych da inne narzędzia. Będą one łatwiejsze, będą one szybsze. Bo my wiemy, jak bardzo nadciśnienie predysponuje do wystąpienia udaru mózgu i u ilu pacjentów, w jakim wieku, czy mężczyźni, czy kobiety, czy się leczyli, jakimi lekami, które leki chronią lepiej, które gorzej, jak to się przekłada na inne schorzenia. Więc medycyna ma bardzo dużo wiedzy.
Tutaj to jest narzędzie. Ta cyfryzacja będzie narzędziem. Nie mówmy do końca, iż to będzie przełom, iż odkryjemy nowe choroby, odkryjemy nowe metody leczenia. Nie. Będziemy mieli dane, będziemy mieli lepiej zaopatrzone zdrowie publiczne, tę masowość dostępu do tych danych. I dlatego zależy nam na tym dostępie, o czym państwo mówicie.
Natomiast powiem na koniec jeden taki przykład, jakie to nie jest proste. Na przykład mamy dostęp do danych na temat samobójstw, o czym czasami tutaj rozmawialiśmy. I są dane Komendy Głównej Policji, które co miesiąc przekazuje, ile zakończonych tragicznie prób samobójczych zdarzyło się w Polsce. I to są dane co miesiąc. GUS potrzebuje dużo więcej czasu, aby zebrać te dane. Ale o co chodzi? Policja ma te dane, ale o ile zajeżdża na miejsce zdarzenia i tam jest ta próba samobójcza i się dokonała. Natomiast wiele prób samobójczych jest przy pomocy leków, jest przy pomocy innych metod, gdzie pacjent trafia prosto do szpitala bez Policji. Wówczas wie o tym prokuratura, ale to już nie jest w Policji, to już nie jest ten system. I teraz tworząc jeden system, to jest tylko taki drobny przykład, natomiast trzeba bardzo uważać, bo tu chcemy połączyć, a wychodzą nam inne dane. Inne dane, bo okazuje się, iż inne przypadki są kwalifikowane. Więc na etapie kwalifikacji do tego, czyli pozyskiwania tych danych, jest inny sposób pozyskiwania. W związku z tym są inne wyniki.
Dlatego myślę, iż to będzie droga i to będzie proces. I to nie będzie tak, iż za jednym razem wszystko się tak ładnie ułoży, ale na pewno będzie to coraz bardziej spójne i będziemy wykrywać i eliminować takie niekonsekwencje, o ile one będą istniały. Dziękuję bardzo.
Przewodnicząca poseł Marta Golbik (KO):
Bardzo dziękuję. Uważam, iż to była bardzo potrzebna dyskusja. Dziękuję panom ministrom.Stwierdzam zakończenie omawiania informacji. Na tym wyczerpaliśmy porządek dzienny posiedzenia. Zamykam wspólne posiedzenie Komisji.
« Powrótdo poprzedniej strony