1 miesiąc temu
Co znajdzie się w projekcie ustawy o systemach sztucznej inteligencji?
Wdraża ona europejski AI Act, ale chcemy, żeby to wdrożenie było elastyczne i żeby dotyczyło nie tylko samych reguł, ale również dawało przestrzeń rozwoju sztucznej inteligencji. Dlatego po pierwsze, ustawa powołuje Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, która będzie organem nadzoru rynku zgodnie z rozporządzeniem. Chcemy, by komisja była organem, który w sposób sprawny będzie dopuszczał systemy wysokiego ryzyka do rynku. Nie będzie ograniczać się do sztywnych regulacji ustawowych. Planujemy przyznać jej kompetencje do wydawania interpretacji generalnych i indywidualnych. Ponieważ kolejne systemy i funkcjonalności będą interpretowane w ramach rozporządzenia, nie chcemy, by każda z nich wymagała nowej ustawy. Dlatego wzorem administracji skarbowej komisja zyska możliwość wydawania interpretacji w zakresie ważnych zmian technologicznych, jeżeli chodzi o AI.
Co będą zawierały te interpretacje i czy będą wiążące?
Będą one wskazywały przedsiębiorcom kierunki. Chcąc wypuścić na rynek nową ofertę i nie wiedząc, czy będzie to system wysokiego ryzyka, czy może system zakazany, firma będzie mogła zwrócić się o interpretację. Dzięki temu przed wypuszczeniem na rynek i poniesieniem dużej części kosztów będzie miała już taką informację. To ma dać firmom komfort rozwijania technologii, zapewnić stabilność. Możliwości będą bardzo różne – od prostego testu na stronie internetowej organu, który pozwoli sprawdzić, czy dany system wchodzi w zakres praktyk zakazanych, po interpretacje bezpośrednio od komisji, dotyczące nowych, nieznanych dziś systemów opartych na AI. To elastyczne podejście i możliwość dopasowywania się do rozwoju technologii.
Kto wejdzie w skład komisji?
Komisja będzie składać się z przewodniczącego, dwóch zastępców oraz dziewięciu członków, wśród których znajdą się: przedstawiciele ministra cyfryzacji, ministra koordynatora służb specjalnych, Komisji Nadzoru Finansowego, rzecznika praw obywatelskich, rzecznika praw dziecka, Krajowej Rady Telewizji i Telewizji oraz prezesi UOKiK, UODO i UKE. To będą członkowie komisji z prawem głosu, ale nie chcemy, żeby komisja „zamykała się” i dlatego przewidujemy, iż w jej posiedzeniach mogą uczestniczyć przedstawiciele Kancelarii Prezydenta, Sejmu, Senatu, ministra obrony narodowej, ministra kultury, ministra rozwoju, Polskiego Centrum Akredytacji, Polskiego Komitetu Normalizacyjnego. Co ważne, chcemy też dopuścić przedstawicieli stron Rady Dialogu Społecznego, czyli pracodawców i pracowników, oraz rzecznika praw pacjenta, rzecznika finansowego, rzecznika małych i średnich przedsiębiorców, Państwowej Inspekcji Pracy, Urzędu Patentowego, no i samego Biura Komisji. Chcemy, żeby informacje o pracach komisji były szeroko znane, aby każdy mógł na nie zwracać uwagę. Planujemy też powołanie przy Komisji Rady Społecznej, która będzie gromadziła osoby z trzeciego sektora.
Czyli kogo dokładnie?
Chcemy, żeby przy Radzie Społecznej działały osoby, które są zgłoszone przez stronę samorządową Komisji Wspólnej Rządu i Samorządu, przez RPO, RPD, izby gospodarcze, związki zawodowe oraz organizacje pozarządowe. Chcemy, żeby ta Rada Społeczna mogła wspierać komisję swoimi opiniami i stanowiskami w poszczególnych obszarach działalności komisji.
Wracając do składu komisji – wskazane dziewięć instytucji będzie mieć po jednym przedstawicielu, a do tego powołany zostanie przewodniczący i dwóch następców. Kto ich mianuje?
Przewodniczącego powoła premier spośród osób wyłonionych w drodze otwartego i konkurencyjnego naboru. Będzie on musiał, poza ogólnymi warunkami, posiadać szczególny dorobek i wyróżniać się wiedzą z zakresu sztucznej inteligencji lub prawa, doświadczenie zawodowe zdobyte w czasie pracy naukowej, w obszarze cyberbezpieczeństwa lub informatyki ogólnej i trzyletni staż pracy na stanowiskach kierowniczych. Nabór ma być publicznie ogłoszony, przeprowadzi go komisja kwalifikacyjna. Wszystko tu ma być jawne, publikowane w Biuletynie Informacji Publicznej. Także zastępców przewodniczącego komisji powoła premier spośród osób wskazanych przez samego przewodniczącego. Muszą one jednak spełniać takie same warunki jak przewodniczący. Chcemy też, żeby przewodniczący mógł sobie dobrać najbliższych współpracowników, żeby praca szła szybko.
Jakie kompetencje będzie miała komisja, będąc organem nadzoru?
Będzie stała na straży wykonywania przepisów ustawy o systemach sztucznej inteligencji i rozporządzenia unijnego. Będzie dopuszczać do obrotu systemy wysokiego ryzyka, dokonywać kontroli w zakresie przestrzegania przepisów przez podmioty obsługujące te systemy i nakładać kary stosownie do AI aktu. Dodatkowo będzie mogła podejmować działania na podstawie innych przepisów rozporządzenia, czyli m.in. przyjmować zgłoszenia o incydentach z udziałem systemów AI. W tym zakresie ma współpracować z adekwatnymi CSRiT-ami. Rozpatrzy też skargi na działalność systemów AI, bo każdy będzie mógł zgłosić skargę na działanie systemu sztucznej inteligencji, które go bezpośrednio dotyka. jeżeli ktoś, poczuje się dyskryminowany przez taki system u lekarza, w pracy, w komunikacji miejskiej, będzie mógł złożyć skargę. Komisja będzie te skargi rozpatrywać i sprawdzać, czy rzeczywiście nie doszło do złamania przepisów w tych systemach wysokiego ryzyka.
A jeżeli by doszło, to będzie mogła zakazać stosowania danego systemu?
Może nałożyć karę, o ile doszło do naruszenia ustawy, choć system jest z nią zgodny, ale nastąpi jakiś błąd, zła wola i to nie zadziała tak jak powinno. Natomiast o ile okaże się, iż system sam z siebie jest niezgodny z ustawą, to oczywiście wtedy komisja podejmie decyzję o jego wycofaniu z obrotu. jeżeli chodzi o procedury kontroli, to mamy dużo doświadczeń z tego, jak NIK je prowadzi. Mamy też przepisy z prawa przedsiębiorców i na ich podstawie to uregulowaliśmy, choć kontrola w oparciu o ustawę o systemach sztucznej inteligencji może być w całości prowadzona zdalnie. Bo wiemy, iż dzisiaj kontroler nie musi fizycznie przyjść, zamachać legitymacją i wejść do budynku. Wszystko może odbyć się poprzez zdalne udostępnienie danych czy dostępu do serwerów i taka forma też jest przewidziana. Chcieliśmy od początku, żeby to była odrębna jednostka zajmująca się tą dziedziną, bo dodawanie kompetencji do dzisiaj i tak bardzo obciążonych organów i instytucji mijałoby się z celem. Zwłaszcza iż chcemy utworzyć organ, który będzie sprawny, elastyczny i z którego wyeliminujemy papier. Nie będzie w nim żadnych procedur papierowych. W ramach istniejących urzędów byłoby to prawdopodobnie niemożliwe.
Czy komisja skupi całość kompetencji w zakresie sztucznej inteligencji, czy część z nich dostaną organy wchodzące w jej skład, np. prezesi UODO, UOKiK czy UKE?
Samo rozporządzenie o sztucznej inteligencji przewiduje kompetencje dla określonych organów, np. nadzorujących rynek finansowy (KNF) chroniących dane osobowe (UODO) czy konkurencję i konsumentów (UOKiK). AI akt przewiduje też wykaz organów praw podstawowych, które będą mogły upominać się bezpośrednio w komisji o prawa wynikające, czy to z karty praw podstawowych, czy innych aktów ochrony praw człowieka. Te organy można będzie wskazać np. uchwałą Rady Ministrów. Przed nami ich wybór w listopadzie. Już wysłaliśmy do rzecznika praw obywatelskich i rzeczniczki praw dziecka pytanie o taką ich rolę i czekamy na ich stanowisko. Będziemy też dalej rozszerzać to grono.
Czy jakieś nowe uprawnienia zyska Ministerstwo Cyfryzacji?
Minister cyfryzacji będzie jednostką zajmującą się notyfikacją, wyznaczaniem standardów w zakresie sztucznej inteligencji. Będzie robić to w pełnej współpracy z Polskim Centrum Akredytacji. Ta jednostka sprawdziła się i chcemy, by zapewniała nam profesjonalną pomoc. Jako pełnomocnik rządu ds. cyberbezpieczeństwa minister będzie miał też kompetencje w zakresie zgłaszania incydentów. Wspominałem o wspieraniu sztucznej inteligencji – wpisaliśmy również do projektu zobowiązanie ministra cyfryzacji do publikowania co roku informacji na temat wykorzystania mocy obliczeniowych, prognozowanego ich wykorzystania w kolejnym roku oraz zużycia energii elektrycznej, które będzie wymagane do obsługi tej mocy. dla wszystkich, kto myśli o inwestycjach w AI, to są najważniejsze informacje.
Dlaczego państwo musi w tym aspekcie interweniować? Czy moc obliczeniowa to nie jest coś, co zapewni wolny rynek?
Państwo musi dawać informacje w tym zakresie. Dziś minister ds. energii planuje, jakie będą źródła energii i prognozowana jej produkcja. o ile chcemy – a to jest nasz cel – skalować wykorzystanie systemów sztucznej inteligencji, to musimy mieć świadomość, iż wymaga ona odpowiedniego zwiększenia zużycia energii elektrycznej. o ile nie wskażemy ministrowi energii, iż jej zużycie będzie większe, niż on zakłada, to może się okazać, iż będziemy sobie radośnie zwiększać moce obliczeniowe, a zabraknie nam prądu. Więc nie chcąc do tego dopuścić, musimy zebrać te informacje. Dzisiaj nie mamy pełnej informacji ds. mocy obliczeniowych w Polsce, tylko cząstkowe. Przy odpowiedniej infrastrukturze możemy też dzielić się naszymi mocami z państwami członkowskimi UE, tylko musimy mieć to dobrze zinwentaryzowane. Moce obliczeniowe są też ważne dla prowadzenia polityk publicznych, bo wyobrażam sobie, iż w przyszłości warunkiem naszego rozwoju będzie albo tworzenie kolejnych centrów danych na poziomie regionalnym, albo włączanie tych danych do chmury, tak żeby mogły z niej korzystać takie jednostki jak szpitale, szkoły, lokalne firmy. A żeby dobrze wykorzystać te dane, potrzebujemy właśnie centrów obliczeniowych. Dlatego ta kompetencja ministra cyfryzacji jest dla mnie bardzo ważna. Każda strategia wymaga też twardych informacji infrastrukturalnych. o ile chcemy, żeby w przyszłości milion przedsiębiorców korzystało z systemów AI, to musimy być też na to przygotowani, żeby utrzymać to sieciowo.
