Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii /nr 41/ (09-01-2025)

Komisja Cyfryzacji, Innowacyjności i Nowoczesnych Technologii, obradująca pod przewodnictwem posła Bartłomieja Pejo (Konfederacja), przewodniczącego Komisji, zrealizowała następujący porządek dzienny:

– rozpatrzenie informacji na temat prewencji i edukacji w obszarze cyberbezpieczeństwa oraz wzmacniania odporności Polski na zagrożenia cyfrowe;

– rozpatrzenie projektu planu pracy Komisji na okres od 1 stycznia do 30 czerwca 2025 r.;

– informacja na temat prac podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów w 2024 r.

W posiedzeniu udział wzięli: Michał Gramatyka sekretarz stanu w Ministerstwie Cyfryzacji wraz ze współpracownikami, Jacek Oko prezes Urzędu Komunikacji Elektronicznej wraz ze współpracownikami, Anna Rywczyńska kierowniczka Działu Profilaktyki Cyberzagrożeń i Martyna Różycka kierowniczka Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl Naukowej i Akademickiej Sieci Komputerowej ze współpracownikami, Paweł Kojs zastępca dyrektora ds. ekonomicznych i rozwoju Polskiej Akademii Nauk – Ogrodu Botanicznego wraz ze współpracownikami, Łukasz Mickiewicz wiceprzewodniczący Rady Krajowego Sekretariatu Łączności Niezależnego Samorządnego Związku Zawodowego „Solidarność”, Paweł Sokołowski członek Rady Polskiej Izby Informatyki i Telekomunikacji, Jacek Silski prezes Polskiej Izby Radiodyfuzji Cyfrowej wraz ze współpracownikami, Aleksandra Borecka młodszy specjalista ds. regulacji w Pracodawcach Rzeczypospolitej Polskiej, Michał Smagowicz wiceprezes THINKTANK, Robert Lisicki dyrektor Departamentu Pracy Konfederacji Lewiatan, Hubert Taładaj przewodniczący Zespołu Stałego ds. Młodzieżowych Rad Polskiej Rady Organizacji Młodzieżowych, Joanna Karczewska przedstawicielka Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej @ELKAPW, prof. ucz. dr hab. Marta Grabowska wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego, Mateusz Jarczyński asystent społeczny poseł Marty Stożek.

W posiedzeniu udział wzięli pracownicy Kancelarii Sejmu: Maciej Krawczyk i Magdalena Krzymowska – z sekretariatu Komisji w Biurze Komisji Sejmowych.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Dzień dobry. Witam wszystkich państwa.

Otwieram posiedzenie Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii.

Stwierdzam kworum.

Witam panie i panów posłów. Witam sekretarza stanu w Ministerstwie Cyfryzacji, pana Michała Gramatykę, wraz ze współpracownikami. Witam pana Jacka Oko, prezesa Urzędu Komunikacji Elektronicznej, wraz z zespołem. Witam przedstawicieli Naukowej i Akademickiej Sieci Komputerowej: panią Annę Rywczyńską, kierującą Działem Profilaktyki Cyberzagrożeń, panią Martynę Różycką, kierującą Działem Reagowania na Nielegalne Treści w Internecie, oraz pana Macieja Gronia, eksperta do spraw regulacji prawnych i współpracy naukowej. Witam przedstawicieli organizacji branżowych, społecznych i środowisk naukowych: Polskiego Towarzystwa Informatycznego, Polskiej Izby Radiodyfuzji Cyfrowej, Polskiej Izby Informatyki i Telekomunikacji, Związku Pracodawców Branży Internetowej, Konfederacji Lewiatan, Pracodawców RP, ThinkTank, NSZZ „Solidarność”, Polskiej Rady Organizacji Młodzieżowych, stowarzyszenia @ELKAPW oraz Centrum Europejskiego Uniwersytetu Warszawskiego. Witam wszystkich państwa bardzo serdecznie.

Z nowym rokiem proszę przyjąć najlepsze życzenia. Widzimy się po raz pierwszy w tym roku.

Szanowni państwo, porządek dzisiejszego posiedzenia przewiduje w punkcie pierwszym rozpatrzenie informacji na temat prewencji i edukacji w obszarze cyberbezpieczeństwa oraz wzmacniania odporności Polski na zagrożenia cyfrowe. W punkcie drugim rozpatrzymy projekt planu pracy Komisji na pierwsze półrocze 2025 r. Natomiast punkt trzeci porządku dziennego przewiduje przedstawienie przez przewodniczącego podkomisji stałej ds. sztucznej inteligencji i przejrzystości algorytmów cyfrowych, pana Grzegorza Napieralskiego, sprawozdania z działalności podkomisji. Czy są uwagi do porządku dziennego? Nie widzę.

Zatem przechodzimy do rozpatrzenia punktu pierwszego porządku dziennego. Bardzo proszę o przedstawienie informacji pana ministra Michała Gramatykę.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:

Dzień dobry państwu. Również dużo szczęścia w nowym roku, do siego roku.

Nie chcę powtarzać tych tez, które są w materiale. Ten materiał jest dość obszerny. o ile ktoś będzie potrzebował, to przygotowaliśmy wersję skróconą. To, co warto dziś powiedzieć, to jest kilka aspektów. To jest taki aspekt, od którego warto zaczynać każdą dyskusję na temat cyberbezpieczeństwa – iż cyberbezpieczeństwo zaczyna się i kończy na człowieku. Możemy wydać niezmierzone, nieskończone pieniądze na najlepsze możliwe systemy, ale w momencie, kiedy ludzie będą popełniać trywialne błędy, to te systemy przed niczym nas nie zabezpieczą. Kazus pana ministra Dworczyka, posłów, polityków, których mejle wypływały do domeny publicznej – padli po prostu ofiarą przestępstw. Niestety padli ofiarą przestępstw poprzez pewnego rodzaju lekkomyślność – ich samych jako użytkowników internetu, jak i osób najbliższych. To spowodowało, iż stało się możliwe przejęcie kontroli nad ich tożsamością i ujawnienie tego, co nigdy nie powinno być ujawnione.

Drugi aspekt to aspekt dotyczący Polski. Czekają nas wybory prezydenckie. To na pewno będzie czas wzmożonej uwagi z naszej strony. My jako państwo jesteśmy dobrze przygotowani do zabezpieczania tego procesu wyborczego. Ale to będzie też aspekt wzmożonej uwagi po stronie polityków. Przykład rumuński pokazał, iż w całkowicie legalny sposób można tak wytrenować algorytm, żeby ten algorytm służył jednemu i tylko jednemu spośród stawki kandydatów na prezydenta. Zważywszy na szaloną popularność w Rumunii konkretnego medium społecznościowego, czyli TikToka, spowodowało to wypaczenie wyniku wyborów w stopniu na tyle poważnym, iż rumuński sąd konstytucyjny zdecydował się unieważnić pierwszą turę tych wyborów. To nie jest nowa sytuacja, to jest sytuacja, z którą cyberprzestrzeń co jakiś czas ma do czynienia.

Nie dalej jak kilka minut temu na sali plenarnej wspominaliśmy sprawę Cambridge Analytica, czyli firmy, która wykorzystując całkowicie legalne mechanizmy kreowania treści na dużym portalu społecznościowym, sprofilowała 90 mln klientów. Wprawdzie w nielegalny sposób, ale dzięki temu udało się uzyskać wpływ na kilka istotnych rozstrzygnięć wyborczych – w Stanach Zjednoczonych, w Afryce, na Wyspach Brytyjskich i w zasadzie nie wiadomo, gdzie jeszcze. Po tamtej sprawie na Facebooku, bo akurat ta sprawa dotyczyła Facebooka, wprowadzono znaczne ograniczenia dotyczące prezentowania treści politycznych na portalu. Te ograniczenia funkcjonowały sobie dość dobrze przez kilka ostatnich lat.

Trzeci aspekt to aspekt geopolityczny. Świat zmienia się w sposób nieodwracalny – w mojej ocenie. Wczorajsze wystąpienie Marka Zuckerberga, w którym mówi o tym, jak będzie wyglądał Facebook przyszłości w kontekście kontroli tego, co jest fake newsem, a co nim nie jest, w kontekście zaprzestania wyciszania treści politycznych, w kontekście mniejszej uwagi na treści inspirowane kwestiami dotyczącymi płci, światopoglądu, kwestiami dotyczącymi imigrantów wskazuje na to, iż początkowo w Stanach Zjednoczonych, a potem też prawdopodobnie w pozostałej części świata Facebook zmieni się w taki sposób, w jaki zmienił się Twitter, znany dzisiaj jako X. Jakie są reperkusje takich zmian, to choćby dzisiaj trudno sobie wyobrazić. Wystarczy zajrzeć do tych czeluści portalu X, żeby zobaczyć, w jaki sposób są tam przekazywane treści, iż tam w zasadzie nie istnieje moderacja, iż każdy może pisać z dowolnego miejsca i z dowolnego nicka dokładnie to, co jakieś ciemne zakamarki umysłu podsuną mu pod palce. Taki świat może nas czekać. Jakimś zabezpieczeniem z tej strony jest DSA, Digital Services Act, który wdrażamy do polskiego systemu prawnego, który dotyczy treści nielegalnych.

W mojej ocenie rząd robi też dość dużo dobrych rzeczy, zarówno pisząc strategię cyfryzacji Polski na najbliższe lata, jak i podejmując kontrowersyjne i trudne, ale niezbędne tematy związane z zabezpieczeniem dostępu do internetu przez osoby małoletnie, z zabezpieczeniem ekspozycji dzieci na przykład na treści pornograficzne czy patostreamerskie. Dużym sukcesem tej grupy, która dzisiaj gości na posiedzeniu Komisji – a mamy tutaj najlepszych specjalistów i z Ministerstwa Cyfryzacji, i z Naukowej i Akademickiej Sieci Komputerowej, którzy codziennie zajmują się kwestiami cyberbezpieczeństwa, ochrony małoletnich – jest wpisanie do rejestru aktów legislacyjnych rządu ustawy antypornograficznej, gdzie rozpocznie się dyskusja o tym, jak chronić dzieci przed stykaniem się z internetową pornografią, czy i jak definiować patostreamy i czy te patostreamy również dołączyć do treści, z którymi nie chcielibyśmy, żeby stykali się najmłodsi.

To tyle tytułem wstępu. Myślę, iż dobrym pomysłem byłoby przeprowadzenie dyskusji. My jesteśmy do państwa dyspozycji. o ile któryś z elementów materiału, który państwo dostali, który przekazaliśmy Wysokiej Komisji, wymaga jakiegoś dodatkowego wyjaśnienia, to i ja, i moi współpracownicy również jesteśmy do państwa dyspozycji. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję, panie ministrze.

Czy ktoś z państwa posłów chciałby zabrać głos w tym punkcie? Czy ktoś z gości chciałby zabrać głos w tym punkcie? Bardzo proszę.

Przedstawicielka Stowarzyszenia Absolwentów Elektroniki na Politechnice Warszawskiej @ELKAPW Joanna Karczewska:

Dzień dobry. Nazywam się Joanna Karczewska. Jestem absolwentką Wydziału Elektroniki Politechniki Warszawskiej. Zajmuję się cyberbezpieczeństwem, bezpieczeństwem informacji i ochroną danych osobowych.

Moje podstawowe pytanie odnoszące się do kwestii ludzi – dlaczego nie jest realizowana rekomendacja Najwyższej Izby Kontroli stworzenia jednego, rządowego, wiarygodnego portalu o cyberbezpieczeństwie, gdzie każdy obywatel, od dyrektora do pomocy kuchennej w przedszkolu, mógłby zajrzeć i doczytać, na co zwrócić uwagę? To była rekomendacja wydana już w 2021 r. Do tej pory nie została zrealizowana. W materiale, który udostępniłam szanownym członkom Komisji, przedstawiłam osiem – powtarzam: osiem – różnych niezależnych badań dotyczących kwestii, skąd obywatele RP mogą pobierać informacje o cyberbezpieczeństwie. Osiem zupełnie niezależnych badań wykazało jedno – ludzie zostali sami. Nie wiedzą, gdzie pójść. NASK-owe czy ministerialne portale są gdzieś na szarym końcu. Ja sama byłam zatrwożona, jak zobaczyłam wyniki. o ile nie zrobimy podstawowej rzeczy, to co później mówić o górnolotnych ambicjach kreowania supercyberbezpieczeństwa?

Druga rzecz, na którą chciałabym uzyskać odpowiedź, to jest jakość i cel dokumentu o nazwie „Umiejętności i cyberhigiena – wsparcie i rozwój kompetencji cyfrowych”, który ostatnio ukazał się na stronie Ministerstwa Cyfryzacji. To jest dokument przygotowany przez stowarzyszenie o nazwie Instytut Kościuszki. Bardzo mizerny dokument. Ja miałam wrażenie, iż pisała to sztuczna inteligencja. Same banały, same frazesy. Ale jedna rzecz mnie bardzo zaniepokoiła. Tam jedna z rekomendacji jest dla szpitali. I szpitale mają skorzystać z jakiejś inicjatywy o nazwie CyberPeace Builders Instytutu CyberPeace. Sprawdziłam, jakaś zupełnie obca organizacja. I zupełnie pominięto sprawę tragicznej sytuacji szpitali i inicjatywy, która jest prowadzona przez Centrum e-Zdrowia. Tam powstało pierwsze… nie, drugie chyba sektorowe CeZ. Dlaczego w pierwszej kolejności nie skierować szpitali właśnie tam, a dopiero później szukać jakichś tam obcych ciał, nie wiadomo jakich? Niech oni się zajmują, bo organizacja zajmuje się też organizacjami humanitarnymi… Niech sobie swoje robią, ale dlaczego wplątywać ich w bezpieczeństwo i cyberbezpieczeństwo szpitali? Dla mnie to jest zupełnie niezrozumiałe.

W materiale, który szanowni posłowie i szanowne posłanki otrzymali ode mnie, wymieniłam tragiczną sytuację szpitali od strony tzw. rządzenia informatyką. Pokazałam, jakie były wyniki raportu NIK. Tam są wręcz cytaty tych biednych dyrektorów, którzy „nie wiedzą”, „nie zapoznali się”, „nie zostali poinformowani”. Więc o ile mówimy o cyberbezpieczeństwie, to zacznijmy od podstaw, od informowania zarówno poszczególnych obywateli, jak i kadr kierowniczych bardzo konkretnie, co mają robić. Na marginesie, byłam na szkoleniu dla małych i średnich przedsiębiorców właśnie z cyberbezpieczeństwa. Dostałam zaproszeniem z biznes.gov.pl. Szkolenie prowadzili pracownicy NASK. To była totalna tragedia. choćby organizator był lekko zdenerwowany. o ile to zostanie powtórzone w Mrągowie pod koniec stycznia, to szczerze współczuję małym i średnim pracodawcom z Mrągowa. Natomiast bardzo zaniepokoił mnie fakt, iż na koniec szkolenia pracownik NASK w celu uzupełnienia wiadomości uzyskanych na szkoleniu kierował uczestników do dwóch portali komercyjnych. Wymienił oczywiście Ministerstwo Cyfryzacji, NASK, cert.pl i dorzucił dwa portale komercyjne. Chciałabym wiedzieć, czy to jest oficjalne stanowisko NASK, iż obywatele mają uzupełniać swoją wiedzę o wpisy na dwóch portalach komercyjnych –polskich, zaznaczam – czy też jest to inicjatywa samej trenerki. Bo tak się nie robi. Zgodnie z rekomendacją Najwyższej Izby Kontroli wiedzę powinno zapewniać przede wszystkim państwo, a nie prywatne, komercyjne przedsięwzięcia. To jest na dodatek kryptoreklama, więc dla mnie niedopuszczalne. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję.

Bardzo proszę, jeszcze jeden głos z sali. Jeszcze będzie. OK.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Dzień dobry. Marta Grabowska, Centrum Europejskie Uniwersytetu Warszawskiego.

Przeczytałam oczywiście te dokumenty dotyczące skills, tzn. umiejętności. Na wstępie chciałam powiedzieć, iż zgodnie z DESI Polska w tej chwili znajduje się mniej więcej na dziewiętnastym, dwudziestym miejscu, jeżeli chodzi o umiejętności cyfrowe obywateli, zarówno te podstawowe, jak i zaawansowane. To jest bardzo odległe miejsce i do zrobienia jest bardzo dużo. Ale tu są jakby dwie płaszczyzny do dyskusji. Pierwsza rzecz to jest ten parter, a więc jak podnieść ogólne umiejętności obywateli, co również skutkowałoby lepszym cyberbezpieczeństwem. A druga rzecz to są te ogromne zagrożenia na tych wielkich platformach i to wszystko, co się dzieje w związku z wyborami, a więc właśnie te mechanizmy typu Cambridge Analytica.

Zacznę najpierw od tego dołu. Troszkę się przyjrzałam, jak wyglądają te szkolenia w terenie. Na przykład dla seniorów. Cała rzecz polega na tym, iż one są chyba zupełnie źle zaplanowane, bo jak się oferuje tym seniorom jakieś szkolenia, to oni przychodzą na nie i okazuje się, iż tam ich uczą na przykład Worda albo Excela. To w ogóle nie jest to, o co tym ludziom chodzi. Ci ludzie chcieliby nabyć umiejętności, jak się komunikować z władzą, a więc jak działać w tej e-administracji. Trzeba im troszkę przedstawić, jakie istnieją platformy, na przykład co jest z ePUAP, jak się tam działa, co z takimi platformami jak na przykład KRS czy indeksy zadłużeń lub choćby Pacjent. Ci ludzie nie mają tych umiejętności. W moim przekonaniu to jest jedna działka. A więc kursy, które objęłyby relację obywatel–działanie z e-administracją, jak załatwiać sprawy. Oni nie mają wiele pojęcia na ten temat. Poza tym jest sporo osób, które przyjeżdżają z zagranicy, wracają do nas na emeryturę. Tam działały w jakichś innych systemach i tu w ogóle nie za bardzo wiedzą, jak się w tym poruszać. To jest jedna działka.

A druga działka, podobna, to jest e-administracja a biznes. Tym ludziom są potrzebne podstawowe informacje. W moim przekonaniu te szkolenia powinny być podjęte na większą skalę w tych dwóch kanałach. I to oczywiście automatycznie zaskutkuje również lepszym cyberbezpieczeństwem. Bo o ile my będziemy uczyć i tych seniorów, i kogoś jeszcze tylko cyberbezpieczeństwa, to kilka da, bo ci ludzie w ogóle nie wiedzą, w jaki sposób działać i jak się tymi platformami posługiwać. My w Polsce nie mamy jednej platformy e-governement. Jest ich bardzo wiele – osobno podatki, osobno pacjent, księgi wieczyste, do których oni też chcieliby nabyć jakieś umiejętności itd. A więc sugerowałabym dwa kanały. Jeden e-administracja a przeciętny obywatel i drugi e-administracja a na przykład małe i średnie przedsiębiorstwa.

Jeśli chodzi o ten wyższy poziom, a więc te wielkie zagrożenia, to my znamy tę historię oczywiście z Cambridge Analytica. Tam oni ingerowali mniej więcej w 62 różne wybory, takie wielkie wybory, na poziomie państwa. To zostało oczywiście zdemaskowane i bardzo ukarane, na przykład w Stanach Zjednoczonych sam Zuckerberg musiał się tłumaczyć i dostał ogromną karę. Ale to oczywiście nie znaczy, iż to nie wyjdzie jeszcze w jakimś innym miejscu i nie będzie w jakiś sposób wykorzystane. Tu niewątpliwie rząd musi postawić na specjalistów, którzy będą się temu wszystkiemu przyglądać. Ale z punktu widzenia Unii Europejskiej przypominam, iż Unia Europejska wdrożyła coś takiego jak właśnie kodeks przeciwdziałania dezinformacji na tych wielkich platformach zewnętrznych, które do nas weszły, a więc Facebook itd. – te amerykańskie wielkie platformy. Oni postawili sprawę w ten sposób. Zaprosili i powiedzieli: „To nie jest nasza sprawa, żeby pilnować, czy tam u was jest dezinformacja. To jest wasza sprawa i wy musicie tego pilnować. Najmijcie sobie ludzi. Przynajmniej na terenie Unii Europejskiej my mamy takie a takie wymagania – najpierw postawiono im 36 wymagań, teraz chyba aż 120 różnych wymagań – i my za dwa lata to sprawdzimy”. Pierwsze sprawdzenie odbyło się chyba w 2018 r., wtedy się zaczęło, o ile dobrze pamiętam, w 2020 r. już się troszkę polepszyło. Każda z tych platform pisała ogromne sprawozdania do Komisji Europejskiej. Ja te sprawozdania widziałam, oni się tam tłumaczyli z różnych rzeczy. Bo zagrożenie jest takie, iż o ile oni nie wykonają właśnie tych rzeczy, to grozi im kara do 10% ogólnego światowego zysku z tych platform.

I teraz, ponieważ pan minister mówił o tym, iż Facebook zmienia zasady – rzeczywiście, ja to też słyszałam, tylko my jeszcze nie bardzo wiemy, czy oni zmieniają zasady tylko dla siebie, czy też mają zamiar się wycofać z tego, do czego się zobowiązali wobec Komisji Europejskiej. I czy Komisja Europejska w ogóle to uzna. Bo jak nie, to im grozi te 10% kary za niepilnowanie pewnych rzeczy. Na przykład tam jest jedno z wymagań takie, które mówi, iż każda reklama polityczna, czyli związana z wyborami, z elekcją, musi być oznaczona, musi być podany kontakt, kto jest właścicielem tej reklamy i do kogo można się zwrócić, żeby to sprawdzić.

W moim przekonaniu kluczową sprawą, jeżeli chodzi o nasze władze, jest prześledzenie, czy Komisja Europejska zgodziła się na to – bo mówimy o Unii Europejskiej – żeby Facebook na przykład wycofał się z tego obowiązku, który ma tutaj, na terenie Unii Europejskiej. To jeszcze jest bardzo świeża informacja. Zobaczymy, co się zadzieje. Do tej pory, przez te ostatnie dwa sprawdzania – bo już minęły chyba dwie kolejne takie transze sprawdzeń – było tak, że te platformy, którym my pozwalamy działać na terenie Unii Europejskiej, muszą się stosować do tych wymagań kodeksu przeciwdziałania dezinformacji. Więc zobaczymy, co się tutaj rozegra i jak Komisja Europejska się do tego ustosunkuje. To oczywiście wymaga śledzenia. Rozumiem, iż ministerstwo ma do tego odpowiednie narzędzia i będzie mogło to w jakiś sposób ocenić. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Dziękuję, pani profesor.

Bardzo proszę.

Młodszy specjalista ds. regulacji w Pracodawcach Rzeczypospolitej Polskiej Aleksandra Borecka:

Dzień dobry państwu. Aleksandra Borecka, Pracodawcy RP.

Przede wszystkim chciałam podkreślić, iż plany działań ministerstwa – świadome i aktywne – na rzecz ochrony cyberbezpieczeństwa w Polsce zdecydowanie należy ocenić pozytywnie. Chciałam jedynie przypomnieć perspektywę przedsiębiorców.

Przede wszystkim, zaczynając od MŚP, warto podkreślić, iż zajmując się edukacją właśnie tego sektora, należy mieć na uwadze, iż oprócz wyjaśniania, jak działać, żeby wprowadzać narzędzia mające zapewnić cyberbezpieczeństwo, warto również wspominać – dlaczego. Z czego to wynika? Oczywiście z uwagi na to, iż podmioty te niejako z samej swojej natury mają mniejsze zasoby, żeby wprowadzać te narzędzia, i dopiero unaocznienie, dlaczego to jest tak ważne, jakie korzyści na przyszłość może to przynieść, jak wpłynie to na relacje z klientami, konsumentami, może realnie wpłynąć na to, iż te podejmowane tutaj działania – zresztą zasługujące na aprobatę – będą miały miejsce w polskich przedsiębiorstwach.

Ponadto w kontekście przedsiębiorstw warto jeszcze zwrócić uwagę, iż bardzo istotnym elementem obecnej cyfryzacji kontaktu urząd–przedsiębiorcy, urząd–obywatel jest to, aby uświadamiać te podmioty, iż narzędzia w zakresie cyberbezpieczeństwa są również wprowadzane w sektorze publicznym. Dlaczego? Ponieważ przede wszystkim pozwoli to na zbudowanie tej relacji na zaufaniu, a nie tylko nakazie, iż należy używać narzędzi cyfrowych – na chęci i takim przeświadczeniu, iż jest to bezpieczne, iż moje dane, dane firmy są w dobrych rękach. I zachęci to na pewno do korzystania z tych narzędzi, które ministerstwo chce wprowadzać.

Podsumowując, oczywiście chciałam jeszcze raz podkreślić, iż działania ministerstwa i plany oceniamy bardzo pozytywnie i jako Pracodawcy RP jesteśmy chętni do dalszej dyskusji i współpracy w tym zakresie. Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję.

I proszę kolejny głos w dyskusji.

Kierowniczka Działu Reagowania na Nielegalne Treści w Internecie Dyżurnet.pl Naukowej i Akademickiej Sieci Komputerowej Martyna Różycka:

Dzień dobry, z tej strony Martyna Różycka, NASK.

Odniosę się do tego, co mówiła pani Joanna. Nie mam pojęcia, o jakim szkoleniu jest mowa, dlatego chętnie posłuchamy w kuluarach, natomiast zawsze sprawdzamy poziom osób, które uczestniczą w szkoleniach, i dostosowujemy do tego poziom szkoleń. Ale żebym mogła coś więcej powiedzieć albo NASK, to my chętnie przyjmiemy uwagi i sprawdzimy po naszej stronie, bo tych szkoleń jest naprawdę bardzo dużo.

To, co nas bardzo zastanawia, w ogóle odnosząc się do świadomości o cyberbezpieczeństwie, to to, iż w to dorosłe pokolenie wchodzi pokolenie, które już wychowywało się w internecie. I to jest zupełnie inne pokolenie. To jest pokolenie młodych ludzi, którzy doświadczali pewnych rzeczy, których my nie doświadczaliśmy. Uczyli się tych rzeczy na bieżąco i mieli to w praktyce. I myślę, iż warto zwrócić uwagę, przygotowując badania czy sondaże, czy patrząc na poziom wiedzy, jak ta wiedza będzie różniła się u osób, które wychowywały się w internecie, a jak ona różni się u nas – osób, które do tego internetu wchodziły świadomie.

Druga rzecz, na którą chciałam zwrócić uwagę – dużo się mówi o standardach społeczności. Dzisiaj te standardy społeczności są czasami naruszane i platformy usuwają treści, a czasami nie. adekwatnie nie wiadomo, kto je tworzy, bo standardy społeczności to jest coś więcej niż regulacje prawne. Jest to coś, co wynika z samej platformy i jest do niej dostosowane, natomiast tak adekwatnie opracowane jest przez przedsiębiorców, często przez osoby prywatne, bez wpływu z zewnątrz. I o ile nie ma takich ruchów, które wpływałyby na zmianę standardów społeczności, to widzimy, iż społeczność użytkowników internetu mobilizuje się w momencie, kiedy mamy bardzo wyraźne regulacje prawne, które proponują rządy. I wtedy społeczność budzi się i mówi: „Nie, my tego nie chcemy, to jest za dużo, nie w tym momencie, inaczej” itd. Natomiast rzeczywiście brakuje wiedzy, co my jako użytkownicy internetu chcielibyśmy widzieć w tym internecie. I adekwatnie jesteśmy w stanie głosować tylko w taki sposób, odchodząc z platformy i kasując swoje konta. Dziękuję bardzo.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję.

Czy ktoś z państwa chciałby jeszcze zabrać głos w tym punkcie? Proszę uprzejmie.

Asystent społeczny poseł Marty Stożek Mateusz Jarczyński:

Dzień dobry. Mateusz Jarczyński, asystent społeczny posłanki Marty Stożek.

Chciałem tylko odnieść się króciuteńko do tej wypowiedzi. Nie przypisuję złych intencji, ale trochę zdziwiło mnie jednak to ujęcie tematu cyberbezpieczeństwa, iż ono zaczyna się i kończy na ludziach. Brzmi to trochę jak taki rodzaj spychologii i zrzucanie odpowiedzialności za pewne procesy albo z dużych korporacji, albo z organów administracyjnych państwa na zwykłych ludzi i obywateli. Raczej powinniśmy sobie powiedzieć, iż często wiele cyberzagrożeń to jest niedostateczne wyedukowanie obywateli, co jest obowiązkiem państwa, lub niezapewnienie dostatecznych procedur zarówno dla obywateli, jak i dla funkcjonariuszy administracji państwowej. jeżeli takie procesy są odpowiednio wdrożone, to tak naprawdę jest szansa, iż zagrożenia są dużo mniejsze. I to prawda, iż na końcu każda osoba może zrobić coś złego ze swoim telefonem, po prostu udostępnić komuś hasło. Niemniej jednak takie systemy – podam przykład prostej weryfikacji dwuetapowej, która jest wymagana w niektórych systemach – znacząco zmniejszają takie zagrożenie.

Chciałbym odnieść się jeszcze do drugiej rzeczy. jeżeli chodzi o edukację cyberbezpieczeństwa wśród obywateli, chciałbym też zwrócić uwagę na ogromną potrzebę edukowania dzieci. Są takie głosy o tym, iż w szkołach telefony komórkowe powinny być zabronione. I oczywiście co do zasady zgadzam się, iż jest to taki dosyć mocny, użyję słowa, dystraktor. Czy rozpraszacz, może lepiej. I oczywiście nie twierdzę, iż na lekcjach młodzież czy dzieci powinny ich używać. Sytuacja wygląda tak, iż z telefonu komórkowego i aplikacji na nim, na przykład TikToka, korzystają pięcio-, sześcio-, siedmiolatki, być może choćby dzieci mniejsze. Natomiast w nauczaniu początkowym, w klasach I–III, bardzo często z telefonów się nie korzysta i zabrania się ich. Wygląda to tak, iż dzieci – choćby już nie mówię: młodzież, tylko dzieci – nie mają tak naprawdę od kogo usłyszeć, jeżeli rodzice nie są uświadomieni cyfrowo, iż treści, które czasami widzą, mogą być szkodliwe, iż to może nie być prawda, iż jakiś śmieszny filmik na TikToku, który coś przedstawia, może być tak naprawdę zagrożeniem. Dlatego chciałbym zwrócić uwagę na potrzebę uwzględnienia w edukacji wczesnoszkolnej także takich narzędzi jak telefon komórkowy, aplikacje itd. Powiedzenie: zabrońmy w szkole podstawowej telefonu, to jest taki sztuczny twór i tak naprawdę sprawi to, iż rozsądnej i odpowiedzialnej obsługi telefonu będą musieli nauczyć rodzice. Dlatego iż w wieku dwunastu lat, kiedy kończy się szkołę podstawową, przepraszam, jest już ósma klasa, czyli czternastu – to jest oczywiście bardzo późno, bo dzieci korzystają z tych mediów wcześniej.

I drugi punkt. Chciałbym zwrócić uwagę, iż cyberbezpieczeństwo to także cybersuwerenność. Dlatego chciałbym podkreślić, iż cyberbezpieczeństwo organów administracyjnych to używanie systemów, które nie są oparte na jakimś jednorodnym systemie dostarczanym przez konkretne korporacje. Nie powinno być tak, iż organy władzy publicznej opierają swoją komunikację z obywatelem na serwisie Facebook, serwisie Instagram i tylko tam są publikowane informacje. Powinno być tak, iż organy władzy publicznej prowadzą strony internetowe, na których są wszystkie możliwe aktualności i obywatel jest w stanie wejść na taką stronę. Strony internetowe mają bardzo niski potencjał do zagrażania aplikacjom czy urządzeniom, oczywiście jak są dobrze wykonane. I obywatel powinien mieć prawo wejść i dowiedzieć się o swoim organie władzy publicznej bez wyrażania zgody na jakieś polityki prywatności, na które nie musi się zgadzać. Organy władzy publicznej po prostu nie powinny być uzależnione od tego, iż na przykład Facebook nagle zmieni regulamin i urząd gminy w mieście X nagle będzie musiał zrobić coś innego. Na przykład teraz korporacja Meta zmienia zasady odnośnie do cenzurowania pewnych treści. Nagle może się okazać, iż są dozwolone jakieś komentarze, których organ władzy publicznej nie chciałby na swoim profilu, jakieś homofobiczne albo inne, na przykład z elementami rasizmu. Ale to już teraz jest zmienione w regulaminie takiego serwisu jak Facebook. Dlatego cały czas postulujemy – środowiska, które reprezentuję, panią poseł czy inne fundacje, z którymi mam kontakt – żeby Ministerstwo Cyfryzacji kładło ogromny nacisk na to, żeby zachęcać inne organy władzy publicznej do prowadzenia stron internetowych, do komunikacji z obywatelami przez inne rozproszone systemy, również mediów społecznościowych, na przykład związane z tzw. fediwersum, gdzie jest ta możliwość posiadania swojego własnego serwera, swojej własnej instancji – i organ władzy publicznej, który taką instancję prowadzi, jest w stanie mieć całkowitą kontrolę. Także zwracam uwagę na zasadność prowadzenia tzw. kanałów RSS, które są również oddolnym, niezależnym sposobem na to, żeby obywatele mieli możliwość dowiadywania się o treściach czy aktualnościach publikowanych przez organy władzy publicznej. Dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję. Wydaje mi się, iż strony internetowe wszystkich ministerstw są prowadzone na bieżąco – to tak w odpowiedzi na pana sugestię.

Natomiast co do kontroli młodocianych w sieci – to moje zdanie jest takie, iż to przede wszystkim właśnie rodzice powinni decydować o tym, czy dzieci korzystają z telefonów komórkowych i innych urządzeń mobilnych. I to właśnie my powinniśmy kłaść nacisk na to, aby budować tę świadomość również u rodziców i świadomość tego niebezpieczeństwa w sieci. Nikt inny nie zrobi tego lepiej niż rodzice dla własnych dzieci.

Czy ktoś z państwa chciałby jeszcze zabrać głos w dyskusji? W takim razie dziękuję. Bardzo proszę o odpowiedzi. Pan minister Michał Gramatyka.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:

Bardzo dziękuję.

Proszę pozwolić, iż najpierw odniosę się do wystąpienia pana asystenta społecznego pani posłanki z partii Razem, o ile dobrze kojarzę. Przepraszam, nie zapamiętałem pańskiego nazwiska. Myślę, iż się…

Asystent społeczny poseł Marty Stożek Mateusz Jarczyński:

Jarczyński. Marty Stożek, tak.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:

Myślę, iż się źle zrozumieliśmy. Wie pan, w moim rodzinnym mieście ostatnio doszło do takiej sytuacji, iż mieszkanka wyrzuciła przez balkon 30 tys. zł w reklamówce. Nakłonił ją do tego oszust, który do niej zadzwonił i który na drodze inżynierii społecznej przekonał ją, iż robi to w celu własnego bezpieczeństwa. To, co powiedziałem, iż cyberbezpieczeństwo zaczyna się i kończy na ludziach, zmierzało bardziej do tego, iż najistotniejsze w zabezpieczeniu cyberprzestrzeni jest utrzymywanie odpowiedniego poziomu świadomości użytkowników tej cyberprzestrzeni. o ile nie będziemy mieli odpowiedniej świadomości, o ile nie będziemy na przykład dbać o edukację, o mówienie ludziom, co jest ważne, na czym polega higiena cyfrowa, jakie są podstawowe zasady, jakie są te nieco bardziej skomplikowane, zaawansowane, to nie pomogą nam choćby najdroższe systemy, bo ta mieszkanka Tychów, o której wspominam, była klientką, zdaje się, ING Banku Śląskiego, który ma wszystkie procedury, wieloskładnikowe logowanie, wszystkie procedury wymagane przez Komisję Nadzoru Finansowego potrzebne do funkcjonowania na rynku polskich banków, a mimo to dała się podejść w sposób, który jest dosyć powszechny i który jest dość dużym problemem w takiej świadomości społecznej. Takie oszustwa bazujące na inżynierii społecznej od czasów Kevina Mitnicka mają swój triumfalny powrót. Co chwilę słyszymy o kolejnych iteracjach – czy to są oszustwa na blika, czy na wnuczka, czy na dziadka, czy na kogokolwiek innego.

To pierwsza teza. Tak iż mówię o tym, iż polskie państwo pracuje, żeby być gotowe na odbieranie tego typu zagrożeń: prowadzi stały monitoring tego typu zagrożeń, gromadzi najwybitniejszych specjalistów, którzy chronią systemy państwowe przed takimi atakami, ale nie jesteśmy w stanie zrobić wszystkiego. Prowadzimy też działania edukacyjne.

Proszę pozwolić, iż do uwag, które padły w dyskusji, do dwóch pierwszych wypowiedzi w dyskusji odniesiemy się na piśmie. One wymagają przestudiowania konkretnych sytuacji, których dotyczyły. Bardzo cenna wśród tych uwag wydaje mi się ta, która mówi o silosowości, bo my jesteśmy przykładem dobrym i złym. Dobrym przykładem jesteśmy, bo jesteśmy jednym z najlepiej scyfryzowanych państw w Unii Europejskiej, głównie o ile chodzi o usługi cyfrowe. Nie ma drugiego takiego państwa w Unii Europejskiej, gdzie dwie trzecie obywateli korzysta z digital identity, czyli z tożsamości cyfrowej, a w Polsce jest 21 mln pobrań aplikacji mObywatel. Od początku stycznia pojawiło się 600 tys. nowych adresów do e-doręczeń, czyli do usługi, która przenosi listy polecone – te tradycyjne, rejestrowane – na zupełnie nowy poziom. To też pokazuje, iż choć ten system wprawdzie nie jest systemem doskonałym, ale ludzie są do niego przekonani, posiadają zaufanie do tej sfery, w której państwo działa w sposób cyfrowy…

A złym przykładem jesteśmy dlatego, iż istnieją systemy, które są prowadzone przez różne instancje polskiego państwa. Wspomniane księgi wieczyste, pierwszy polski system cyfrowy, którego do dziś zazdroszczą nam Niemcy, Szwajcarzy, Austriacy, bo oni chcieliby mieć taki system, to jest system jeszcze z lat 90. On jest kompletnie oddzielony od wszystkiego tego, co znajduje się w domenie gov.pl – i nie ma linku. Ten system świetnie funkcjonuje, bardzo dobrze działa, natomiast on jest pewnego rodzaju silosem. Podobnym silosem są systemy prowadzone przez Ministerstwo Zdrowia. I tak dużym dokonaniem było stworzenie jednego węzła autoryzacyjnego, przez który możemy logować się do tych wszystkich usług. I to był przykład takiego fajnego myślenia, które optymalizuje te wszystkie usługi. I myślę, iż tutaj jest duża rola państwa, którą zresztą rysuje pan premier Gawkowski w strategii cyfryzacji, żeby troszkę z tą silosowością powalczyć, żeby wznieść pewne usługi na inny poziom i jednak powodować, żeby tych systemów było może nie jak najmniej, tylko żeby jak najmniej było sposobów dostania się do nich. To nie jest proste i to choćby nie jest proste w łonie jednego rządu. Nie chcę tutaj mówić o szczegółach, ale jak kiedyś spotkamy się w kuluarach, to mogę powiedzieć, jak wyglądają takie dyskusje, iż nasz system jest lepszy i iż właśnie on powinien zostać, a tamten jest gorszy i to może nie on itd. Tak iż to są takie wyzwania państwa, które przechodzi rewolucję cyfrową, które w tych wszystkich miejscach, gdzie państwo działa cyfrowo, jednak robi dobrą robotę, dlatego iż Polska jest w zasadzie jednym chórem wskazywana jako kraj, który bardzo dobrze przyjął wszystko to, co niesie przyszłość, i bardzo dobrze się zachował i bardzo dobrze otworzył te usługi cyfrowe wobec swoich obywateli.

To tak na zasadzie odniesienia się. Oczywiście szczegółowe pytania czy szczegółowe tematy zostaną przez nas zaopiekowane pisemnie. Myślę, iż to jest dobra koncepcja. Bardzo dziękuję.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Dziękuję serdecznie.

Zamykam dyskusję w tym punkcie.

Przystępujemy do realizacji drugiego punktu porządku obrad, a więc rozpatrzenie projektu planu pracy Komisji na pierwsze półrocze bieżącego roku. Projekt został przygotowany przez prezydium Komisji z uwzględnieniem punktów z poprzedniego planu pracy, które nie zostały zrealizowane, oraz sugestii – tutaj kładę na to nacisk – ze strony społecznej oraz Ministerstwa Cyfryzacji. Kilka z tych punktów w pierwszym półroczu to właśnie sugestie strony społecznej, które zaopiniowaliśmy pozytywnie jako prezydium i postanowiliśmy zaproponować państwu jako plan pracy na najbliższe półrocze. Także oczywiście propozycje członków prezydium Komisji. Projekt został państwu przekazany na mejlowe skrzynki sejmowe.

Otwieram dyskusję. Czy ktoś z państwa posłów chciałby zabrać głos w tym punkcie? Nie widzę. W takim razie w imieniu prezydium Komisji składam wniosek o przyjęcie planu pracy Komisji na okres od 1 stycznia do 30 czerwca 2025 r. Czy jest sprzeciw wobec przyjęcia tego wniosku? Nie słyszę. Bardzo dziękuję. Stwierdzam, iż Komisja uchwaliła plan pracy.

Pozostał nam ostatni punkt porządku dziennego – informacja na temat prac podkomisji stałej do spraw sztucznej inteligencji i przejrzystości algorytmów. Bardzo proszę o zabranie głosu pana przewodniczącego Grzegorza Napieralskiego.

Poseł Grzegorz Napieralski (KO):

Bardzo dziękuję, panie przewodniczący.

W materiałach jest cała informacja. Skupię się tylko na kilku rzeczach. Przede wszystkim spotkania podkomisji dotyczyły bardzo ważnych dla nas kwestii, czyli AI Act i wdrożenia go, o ile chodzi o polski system prawny.

Druga kwestia to oczywiście wymiar sprawiedliwości, na którym bardzo nam zależy, a tutaj nie jest najlepiej. Z naszymi wnioskami trochę nam się nie udało, bo była decyzja, iż spotkamy się w Ministerstwie Sprawiedliwości i będziemy dalej rozmawiać o rozwiązaniach algorytmów, przejrzystości algorytmów czy sztucznej inteligencji. To się nie udało. Ale mamy już zapewnienie pana ministra sprawiedliwości, iż w najbliższym czasie takie spotkanie odbędzie się w Ministerstwie Sprawiedliwości.

Kolejna kwestia to na sam koniec duża konferencja dotycząca właśnie sztucznej inteligencji, którą udało nam się zorganizować, konferencja międzynarodowa z udziałem gości spoza granic naszego kraju, m.in. kongresmenów. Podzieliliśmy to w taki sposób, aby dyskutować o ochronie zdrowia, o bezpieczeństwie, o cyberbezpieczeństwie. Też z takim dużym komponentem, który prowadził obecny tutaj minister Gramatyka.

A wcześniej, przed tą konferencją, wraz z panem ministrem mieliśmy studyjny wyjazd całej podkomisji do Stanów Zjednoczonych, gdzie w Białym Domu rozmawialiśmy o kwestiach cyberbezpieczeństwa i użycia sztucznej inteligencji. Właśnie tych zagadnień dotyczyły spotkania w kongresie z kongresmenami, którzy zajmują się sztuczną inteligencją. I tu mogę powiedzieć z całą dumą, iż tam, mimo iż dwunastu kongresmenów z Partii Republikańskiej, dwunastu kongresmenów z Partii Demokratycznej pracuje od jakiegoś czasu nad rozwiązaniami, to jeszcze nic im się nie udało wdrożyć, o ile chodzi o rozwiązanie. Oprócz dekretu wykonawczego pana prezydenta Joe Bidena nie udało im się stworzyć żadnych innych przepisów. Ale pokazuję, iż również w Kongresie Stanów Zjednoczonych współpracuje taki odpowiednik naszej podkomisji. Dla nas to była o tyle ważna wizyta, iż czekają nas tak naprawdę przygotowania ustaw i przepisów prawnych dotyczących sztucznej inteligencji. Stany Zjednoczone są dzisiaj jednym z liderów, o ile chodzi o wdrażanie tej technologii, więc warto było się temu przyjrzeć tam, na miejscu.

Mieliśmy możliwość zobaczenia kilku największych big techów, które korzystają z tej technologii, co niewątpliwie również było dla nas doświadczeniem. Nie chcemy zwalniać tempa. Planujemy, aby to najbliższe półrocze było bardzo pracowite, o ile chodzi o pracę podkomisji. Propozycją przewodniczącego Pejo na konferencji jest to, żebyśmy taką konferencję nie tyle powtórzyli w tym roku, ale budowali takie mniejsze konferencje, takie segmentowe, dotyczące danych obszarów tematycznych – i później pod koniec roku to wszystko podsumowali, bo i sztuczna inteligencja, i algorytmy budzą tak naprawdę coraz więcej namiętności, coraz więcej emocji. W debacie publicznej warto byłoby rozmawiać z ekspertami, ale też pokazywać Polkom i Polakom, iż taka dyskusja, debata toczy się w Polsce. I jedyne, co dla nas jest najważniejsze, to aby ta technologia służyła ludziom.

Bardzo dziękuję i bardzo proszę o zaakceptowanie tego sprawozdania.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję.

Otwieram dyskusję. Czy ktoś z państwa chciałby zabrać głos w tym punkcie? Pan minister, bardzo proszę.

Sekretarz stanu w Ministerstwie Cyfryzacji Michał Gramatyka:

Tak, ja chciałem powiedzieć, iż nie było wcześniej w Sejmie takiej konferencji i iż to było absolutnie unikalne wydarzenie. I tu wielki szacun zarówno dla pana przewodniczącego Komisji, jak i dla przewodniczącego podkomisji. Dlatego iż ta konferencja, która odbyła się w Sejmie i która zgromadziła bardzo szeroką publiczność, i w tej Sali, i online, to było naprawdę pokazanie, iż polski parlament jest za pan brat z nowymi technologiami i iż my tutaj naprawdę zajmujemy się rzeczami, które wychodzą w przyszłość. Ja byłem bardzo dumny z tego, iż udało nam się zorganizować taką konferencję. Myślę, iż takie plany mieliśmy już w poprzedniej kadencji. W poprzedniej kadencji nigdy nie doszło to do skutku, a w tej kadencji się udało – i naprawdę ogromny szacunek.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo proszę, pani profesor.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Marta Grabowska, Centrum Europejskie Uniwersytetu Warszawskiego.

Ja tylko chciałam dodać. Przede wszystkim rzeczywiście ta konferencja była bardzo interesująca. Chciałam tylko zwrócić uwagę, iż jednak prawna rzeczywistość w Stanach Zjednoczonych jest nieco inna niż w Europie. Tam pewne wytyczne w tym zakresie są przyjmowane głównie przez korporacje. To znaczy oprócz tego są oczywiście prace ogólnofederalne, można powiedzieć, ale to jest troszkę inna rzeczywistość. My tutaj, jeżeli chodzi o prawo, mamy troszkę inną. My musimy trzymać się naszych przepisów.

Chciałam przypomnieć o tej sprawie konwencji Rady Europy na temat sztucznej inteligencji, która została przyjęta przez Radę Europy – i my musimy się troszkę przygotować do ratyfikacji tej konwencji i to my dyktujemy pewne warunki etyczne, prawda? Więc musimy pamiętać jednak o tej naszej rzeczywistości.

Natomiast jeżeli chodzi o wchodzenie na rynek tych produktów amerykańskich, to one oczywiście będą musiały właśnie spełniać te nasze warunki etyczne i nasze warunki prawne. Natomiast zwracam uwagę, iż tam jest troszkę inna rzeczywistość i te wymagania dla systemów sztucznej inteligencji są w pewnym sensie rozproszone. W różnych korporacjach one mogą być różne i oczywiście jeżeli te produkty będą wchodzić na rynek europejski, to te wszystkie mechanizmy kontrolne muszą być zastosowane. Dziękuję.

Poseł Grzegorz Napieralski (KO):

Dziękuję bardzo, pani profesor. Tak, absolutnie mamy tego świadomość, iż to są dwa inne światy, ale żeby być tutaj precyzyjnym i być liderem, o ile chodzi o rynki światowe i europejskie, to trzeba poznać tak naprawdę wszystkie systemy prawne, to, co tam się dzieje. Po pierwsze tam jest tak – ma pani rację – iż korporacje mają swoje wewnętrzne regulacje.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Tak.

Poseł Grzegorz Napieralski (KO):

Ale z drugiej strony po pierwsze jest to rozporządzenie prezydenta Bidena, które jest bardzo precyzyjne i dość restrykcyjne jak na Stany Zjednoczone, które nakłada na jedną z instytucji państwowych obowiązek przeglądania tych technologii i ich badania, oczywiście co do bezpieczeństwa i nie tylko.

Druga rzecz, która jest bardzo ważna. Tam też jest coś takiego, możemy to trochę odnieść do naszej Unii Europejskiej – są rozwiązania stanowe, które na poziomie stanów są przyjmowane przez gubernatorów i ich administrację. I oczywiście jest Kongres i Senat, który ma przyjąć, ale jeszcze do tej pory żadnych rozwiązań nie przyjął. Warto to było zobaczyć, warto było na przykład porozmawiać z Googlem, jakie oni prowadzą wewnętrzne regulacje dotyczące sztucznej inteligencji, wykorzystania algorytmów choćby w ochronie dzieci, bo to rozwiązanie, które oni nam zaproponowali, było dla nas bardzo ciekawe. Warto takie rzeczy wiedzieć. Wiadomo, iż my jesteśmy na rynku europejskim, wiadomo, iż nasze prawo jest trochę inne, wiemy dokładnie, iż dzisiaj obowiązują nas regulacje europejskie, ale ja jestem przekonany, pani profesor, iż o ile nie będziemy spoglądali na inne państwa…

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Oczywiście.

Poseł Grzegorz Napieralski (KO):

…i nie będziemy się uczyć jako ci, którzy będą podejmować decyzje, ale również być może będziemy stymulować podejmowanie tych decyzji tutaj, na forum Komisji czy na forum podkomisji, to też nie będziemy tak naprawdę w tej awangardzie.

Jedni mówią: podróże kształcą, inni mówią: czym więcej zobaczysz, tym więcej będziesz wiedział. Więc według tej zasady chcieliśmy, żeby tak było. Uznaliśmy, iż pierwszym krokiem jest to państwo, które jest liderem, o ile chodzi o światowe rozwiązania. Tam powstało najwięcej big techów. Mimo iż z boku to mogło wyglądać kontrowersyjnie, ale jako parlamentarzyści byliśmy z panem ministrem też w big techach, mogliśmy spokojnie rozmawiać z prezesami tych firm o wdrożeniach tej technologii i o przyszłości. I to naprawdę były bardzo interesujące dyskusje. Za chwilę my tu na tych salach będziemy podejmowali decyzje co do naszych ustaw i to będzie się działo w najbliższym czasie.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Tak. jeżeli mogę jeszcze wyjaśnić. Mianowicie jak obserwowałam przygotowywanie tego aktu, to znaczy rozporządzenia 1689, czyli tego o sztucznej inteligencji, to i tak troszkę spuściliśmy, iż tak powiem, Unia Europejska spuściła z tonu, w pewnym sensie zrezygnowano z niektórych standardów, więc i tak otworzyliśmy większe okno dla różnego typu algorytmów. Więc to na pewno w jakiś sposób poszło w tym kierunku. Natomiast niewątpliwie musimy się też przyglądać, co robią Stany Zjednoczone, bo jednak z ostatnich danych statystycznych, na przykład Global Artificial Intelligence Index czy indeksu Uniwersytetu Stanforda, wynika, iż jednak to Stany Zjednoczone na przykład w ostatnim roku, w 2024 r., stworzyły większą liczbę zupełnie nowych algorytmów niż na przykład Chiny. Więc niewątpliwie ciągle mamy jeszcze, Zachód ma jeszcze ciągle… To znaczy proporcja jest taka, iż Amerykanie zrobili chyba 64, a Chiny tylko 15, więc to, co ja kiedyś tutaj podkreślałam – przewaga jest w jakiś sposób po naszej stronie.

Poseł Grzegorz Napieralski (KO):

Tak, ale też jest jedna bardzo ważna rzecz, pani profesor, którą my zauważyliśmy w Stanach Zjednoczonych. To jest też tak, iż jak popatrzymy na wszystkie nakłady dotyczące algorytmów – też sztucznej inteligencji, tak je zakwalifikujmy – o ile chodzi o Stany Zjednoczone, i popatrzymy na wydatki państwa, to one nie są wcale aż takie wielkie.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Nie.

Poseł Grzegorz Napieralski (KO):

A globalnie w Stanach Zjednoczonych wydaje się olbrzymie pieniądze. Ale kto je wydaje? No wydają je potężne big techy…

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Korporacje. Oczywiście.

Poseł Grzegorz Napieralski (KO):

Potężne korporacje, które tam są. Ale też, co jest ciekawe… Bo w tej dyskusji wyszedł taki, nie chcę powiedzieć: spór, ale dyskusja między nami a choćby kongresmenami czy urzędnikami Białego Domu, którzy naprawdę byli świetnie zorientowani, co dzieje się w Europie. Oni pokazywali, jak oni patrzą na rozwiązania unijne. Czasami pokazywali, iż to być może będzie blokowało czy opóźniało rozwój, ale czasami patrzyli z zazdrością na to, jak bardzo kompleksowo do tego podeszliśmy. Tego na przykład bardzo mocno brakowało administracji w Stanach Zjednoczonych.

Więc my z tą wiedzą, z tym doświadczeniem będziemy też spoglądali na inne kraje, które bardzo mocno inwestują w sztuczną inteligencję. Wiemy, iż nasz kolega z podkomisji za chwilę będzie na specjalnej konferencji we Francji. Rozmawialiśmy też w Stanach Zjednoczonych o Wielkiej Brytanii, Finlandii, Korei Południowej – to są dzisiaj liderzy, o ile chodzi o tę technologię. Ale my nie chcemy od tego odstawać. I moim zdaniem to jest dzisiaj wielka szansa dla Polski, bo to jest coś, co dzisiaj startuje od zera. Po prostu o ile my dzisiaj weźmiemy udział w tym wyścigu, to tego wyścigu nie przegramy.

Wykładowca w Centrum Europejskim Uniwersytetu Warszawskiego prof. ucz. dr hab. Marta Grabowska:

Oczywiście, zgadzam się.

Przewodniczący poseł Bartłomiej Pejo (Konfederacja):

Bardzo dziękuję.

Szanowni państwo, chciałbym bardzo podziękować za pracę podkomisji panu przewodniczącemu Napieralskiemu, wszystkim posłom, ale również wszystkim państwu biorącym czynny udział w tej podkomisji. Strona społeczna i głos strony społecznej są dla nas wszystkich niezwykle ważne. To podkreślamy i zachęcamy do dalszej współpracy i w podkomisji, i w naszej Komisji Cyfryzacji, Innowacyjności i Nowoczesnych Technologii.

Rozumiem, iż nie ma więcej głosów w tej dyskusji. W takim razie zamykam dyskusję.

Na tym wyczerpaliśmy porządek dzienny. Zamykam posiedzenie. Bardzo serdecznie państwu dziękuję.