W dniu 12 lipca 2024 r. w Dzienniku Urzędowym Unii Europejskiej opublikowany został akt w sprawie sztucznej inteligencji (AI Act), będący pierwszą unijną regulacją w tym zakresie. W Polsce realizowane są również prace nad ustawą krajową implementującą niektóre postanowienia AI Act oraz ustawą wdrażającą unijne rozporządzenie DORA, które reguluje zasady korzystania przez podmioty finansowe z usług zewnętrznych dostawców technologii, w tym rozwiązań opartych na AI. W tym kontekście należy zwrócić uwagę na nadchodzące zmiany dotyczące systemów sztucznej inteligencji służących do oceny zdolności kredytowej, z których coraz częściej korzystają kredytodawcy.
Nowe przepisy klasyfikują systemy służące do oceny zdolności kredytowej jako systemy AI wysokiego ryzyka, o których mowa w art. 6 AI Act oraz w Załączniku III do rozporządzenia. Przepisy AI Act przewidują, iż kredytodawcy, dokonujący oceny zdolności kredytowej przy użyciu AI, zobowiązani będą do spełnienia szeregu obowiązków wynikających z art. 26 AI Act, w tym m.in. do:
- korzystania z systemu AI zgodnie z instrukcją,
- zapewniania adekwatności i reprezentatywności kontrolowanych danych wejściowych,
- sprawowania nadzoru nad systemem przez wykfalifikowaną osobę oraz
- spełniania obowiązku informacyjnego w stosunku do osób, wobec których decyzja kredytowa będzie podejmowana przy użyciu AI.
Ponadto zgodnie z art. 27 AI Act, w odniesieniu do systemów AI stosowanych do oceny zdolności kredytowej, instytucje finansowe będą zobowiązane do przeprowadzenia oceny skutków systemu AI wysokiego ryzyka dla praw podstawowych i przedstawienia jej wyników organowi nadzoru. Instytucje finansowe powinny mieć również na uwadze, aby stosowanie systemów AI nie stanowiło naruszenia katalogu praktyk zakazanych, o którym mowa w art. 5 AI Act.
W Polsce rozpoczęto również prace nad ustawą mającą doprecyzować niektóre postanowienia AI Act. W ramach prekonsultacji przy Ministerstwie Cyfryzacji przedstawione zostały postulaty organizacji społecznych w przedmiocie ustanowienia polskiego organu ds. sztucznej inteligencji, czego wynikiem było przyjęcie stanowiska w przedmiocie ustanowienia Komisji Nadzoru Sztucznej Inteligencji, mającej charakter kolegialny i składającej się z przedstawicieli innych organów nadzoru.
Należy również wspomnieć, iż w Polsce realizowane są prace nad ustawą o zmianie niektórych ustaw w związku z zapewnieniem operacyjnej odporności cyfrowej sektora finansowego, zapewniającą odpowiednie stosowanie rozporządzenia DORA, którego przepisy mogą znaleźć zastosowanie także w odniesieniu do korzystania z systemów AI przez podmioty finansowe. Projekt ustawy przewiduje m.in. wyznaczenie Komisji Nadzoru Finansowego jako organu nadzorczego w zakresie zapewnienia operacyjnej odporności cyfrowej sektora finansowego, jak również wprowadzenie zmian do ustawy o krajowym systemie cyberbezpieczeństwa, w tym w obszarze raportowania o poważnych incydentach ICT i cyberzagrożeniach. Zgodnie z najnowszymi doniesieniami, w październiku planowana jest publikacja kolejnej wersji projektu ustawy.
