1 tydzień temu
Narzędzie do generowania ofert, asystent obsługi klienta, moduł wykrywający oszustwa, system selekcji kandydatów – w wielu organizacjach te rozwiązania są wdrażane szybciej, niż dział prawny otrzymuje informację o ich istnieniu. Pytanie, jak prowadzić rejestr AI, nie dotyczy więc wyłącznie formalności. Chodzi o ustalenie, jakie systemy rzeczywiście wpływają na klientów, pracowników, dane i decyzje biznesowe oraz kto może za nie odpowiadać.
Rejestr AI: obowiązek prawny czy narzędzie governance?
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, czyli AI Act, nie ustanawia jednego, powszechnego obowiązku prowadzenia przez każdą firmę wewnętrznego „rejestru AI” pod taką nazwą. Nie oznacza to jednak, iż przedsiębiorca może ograniczyć się do nieformalnej listy aplikacji używanych przez zespół.
AI Act przewiduje szczególne obowiązki dokumentacyjne, rejestracyjne i kontrolne zależne od roli podmiotu oraz poziomu ryzyka systemu. Dostawca systemu wysokiego ryzyka może być zobowiązany do jego rejestracji w unijnej bazie danych przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku. Odrębne obowiązki mogą dotyczyć organów publicznych i podmiotów działających w ich imieniu. Ten publiczny rejestr nie zastępuje jednak ewidencji wewnętrznej przedsiębiorstwa.
W praktyce rejestr AI jest elementem governance. Pozwala wykazać, iż organizacja rozpoznała stosowane technologie, przypisała im właścicieli, oceniła ryzyko i podjęła decyzję o dopuszczeniu ich do użycia. Jest też punktem styku AI Act z RODO, ochroną tajemnicy przedsiębiorstwa, prawem autorskim, prawem pracy oraz zasadami bezpieczeństwa informacji.
Termin wdrożenia ma znaczenie. Część przepisów AI Act stosuje się już od 2 lutego 2025 r., w tym zakazy określonych praktyk oraz obowiązek zapewnienia odpowiedniego poziomu kompetencji w zakresie AI. Zasadnicza część przepisów zacznie być stosowana od 2 sierpnia 2026 r., przy czym dla niektórych systemów wysokiego ryzyka związanych z regulowanymi produktami przewidziano późniejszy termin. Rejestr warto zbudować przed momentem, w którym trzeba będzie wykazać zgodność pod presją audytu, postępowania lub incydentu.
Od czego zacząć prowadzenie rejestru AI
Najczęstszy błąd polega na rozpoczęciu od formularza. Najpierw należy określić zakres. Rejestr nie powinien obejmować wyłącznie systemów tworzonych przez firmę. Powinien objąć również narzędzia kupowane w modelu SaaS, funkcje AI w standardowym oprogramowaniu, modele udostępniane przez API oraz rozwiązania używane eksperymentalnie przez zespoły.
Warto przyjąć funkcjonalną definicję. o ile rozwiązanie generuje treści, klasyfikuje osoby lub zdarzenia, przewiduje wyniki, rekomenduje działania albo wspiera decyzje na podstawie danych, powinno co najmniej przejść przez etap identyfikacji. Nie każde takie narzędzie okaże się systemem AI w rozumieniu AI Act. Rejestr ma jednak umożliwiać dokonanie tej kwalifikacji, a nie zakładać jej z góry.
Dobrą praktyką jest rozdzielenie ewidencji na trzy poziomy. Pierwszy obejmuje zgłoszone narzędzia i przypadki użycia. Drugi zawiera systemy dopuszczone do pracy operacyjnej. Trzeci dotyczy zastosowań wymagających pogłębionej oceny prawnej, bezpieczeństwa lub zgodności. Dzięki temu pojedynczy test narzędzia do transkrypcji spotkań nie jest traktowany tak samo jak system wpływający na przyznanie finansowania albo ocenę pracownika.
Opis przypadku użycia jest ważniejszy niż nazwa aplikacji
Sama informacja, iż firma korzysta z konkretnego modelu językowego, kilka wyjaśnia. To samo narzędzie może służyć do redakcji komunikatu prasowego, analizy zgłoszeń klientów albo automatycznego tworzenia rekomendacji inwestycyjnych. Ryzyko prawne zależy przede wszystkim od celu, kontekstu i skutków użycia.
Każdy wpis powinien zatem opisywać konkretny przypadek użycia. Należy wskazać jednostkę organizacyjną, proces biznesowy, użytkowników, osoby potencjalnie dotknięte działaniem systemu oraz decyzję, którą system wspiera lub automatyzuje. Trzeba również odnotować, czy wynik AI jest wyłącznie propozycją dla człowieka, czy też uruchamia działanie bez realnej kontroli człowieka.
Jakie dane powinien zawierać rejestr AI
Rejestr ma być użyteczny podczas decyzji biznesowej i obrony stanowiska prawnego. Zbyt ogólna tabela nie spełni żadnej z tych funkcji. Z drugiej strony rozbudowana dokumentacja dla wszystkich prostego zastosowania zniechęci pracowników do zgłaszania narzędzi. Zakres informacji powinien być proporcjonalny do ryzyka.
Dla każdego dopuszczonego zastosowania warto odnotować co najmniej: nazwę systemu i dostawcy, właściciela biznesowego, właściciela technicznego, cel użycia, kategorię użytkowników oraz datę zatwierdzenia. Konieczne są także informacje o danych wejściowych i wyjściowych, w szczególności o danych osobowych, danych poufnych, tajemnicy przedsiębiorstwa oraz materiałach chronionych prawem autorskim.
Osobne pole powinno wskazywać rolę organizacji w łańcuchu wartości AI. Firma może być wdrażającym, gdy korzysta z systemu pod własną kontrolą, dostawcą, gdy rozwija system i wprowadza go do obrotu pod własną nazwą, importem albo dystrybutorem. Role te mogą się zmieniać. Podmiot, który istotnie modyfikuje cudzy system lub udostępnia go dalej pod własną marką, nie powinien automatycznie zakładać, iż pozostaje zwykłym użytkownikiem.
Rejestr powinien też zawierać wynik wstępnej kwalifikacji ryzyka. Należy odnotować, czy zastosowanie może należeć do praktyk zakazanych, czy może stanowić system wysokiego ryzyka, czy podlega obowiązkom transparentności, czy pozostaje zastosowaniem o ograniczonym ryzyku. Przy kwalifikacji nie wystarczy deklaracja dostawcy w regulaminie. Ocenia się faktyczne zastosowanie, a nie marketingową etykietę produktu.
Dla systemów wysokiego ryzyka potrzebne będą dodatkowe pola: podstawa kwalifikacji, dokumentacja techniczna, instrukcja użycia, sposób sprawowania nadzoru przez człowieka, zasady monitorowania działania, wymagania dotyczące jakości danych i plan reagowania na incydenty. W przypadku wdrażającego szczególne znaczenie ma także przechowywanie logów generowanych automatycznie przez system, o ile obowiązek ten wynika z AI Act. Co do zasady logi pozostające pod kontrolą wdrażającego powinny być przechowywane przez odpowiedni okres, nie krótszy niż sześć miesięcy, chyba iż prawo adekwatne przewiduje inaczej.
Kto odpowiada za aktualność wpisów
Rejestr prowadzony wyłącznie przez compliance gwałtownie staje się dokumentem historycznym. Dział compliance lub dział prawny powinien określać metodę kwalifikacji i zatwierdzać przypadki podwyższonego ryzyka, ale nie zastąpi właściciela procesu, zespołu IT ani bezpieczeństwa informacji.
Najbardziej praktyczny model zakłada jednego właściciela biznesowego dla wszystkich wpisu. To on potwierdza cel użycia, zakres użytkowników i rzeczywistą potrzebę stosowania narzędzia. IT lub CISO oceniają architekturę, integracje, dostęp, retencję i ryzyka cyberbezpieczeństwa. Prawnik, inspektor ochrony danych lub compliance analizują obowiązki regulacyjne, warunki umowne i dopuszczalność przetwarzania danych. Przy systemach wpływających na zatrudnienie, kredyt, ubezpieczenia, edukację czy dostęp do istotnych usług konieczny będzie zwykle szerszy przegląd.
Nie należy traktować zatwierdzenia jako bezterminowego. Dostawca może zmienić model, lokalizację przetwarzania, warunki korzystania z danych lub funkcje produktu. Równie istotna jest zmiana po stronie przedsiębiorcy, na przykład użycie narzędzia w nowym procesie albo podłączenie go do bazy klientów. Rejestr powinien przewidywać termin okresowego przeglądu oraz zdarzenia, które wymagają aktualizacji wpisu.
Rejestr AI a dane, własność intelektualna i umowy
AI Act nie wyczerpuje oceny prawnej. o ile do systemu trafiają dane osobowe, wpis w rejestrze powinien prowadzić do analizy na gruncie RODO: roli stron, podstawy przetwarzania, transferów danych, okresu retencji i ewentualnej oceny skutków dla ochrony danych. Szczególnej ostrożności wymagają dane pracowników, dane dzieci oraz dane wykorzystywane do profilowania lub podejmowania decyzji wywołujących istotne skutki.
W relacjach B2B znaczenie mają też umowy. Należy ustalić, czy dostawca wykorzystuje prompty, dokumenty albo dane wejściowe do trenowania modeli, gdzie są przetwarzane dane oraz jakie gwarancje i ograniczenia odpowiedzialności przewiduje kontrakt. W rejestrze warto odnotować wersję umowy i osobę odpowiedzialną za jej ocenę, zamiast przechowywać w nim pełną analizę prawną.
Osobny problem stanowi własność intelektualna. Generowany materiał może naruszać prawa osób trzecich, a jego własna ochrona prawnoautorska nie zawsze będzie oczywista. Rejestr nie rozstrzygnie tych kwestii, ale pozwoli wskazać zastosowania, dla których potrzebna jest procedura weryfikacji źródeł, oznaczania treści albo akceptacji przed publikacją.
Jak prowadzić rejestr AI bez biurokracji pozornej
Najlepszy rejestr nie jest katalogiem technologii, ale mechanizmem decyzyjnym. Powinien działać razem z procedurą zakupu oprogramowania, zgłaszania nowych dostawców, oceny ryzyka cybernetycznego i szkoleniem pracowników. o ile pracownik może wdrożyć narzędzie kartą firmową bez pytania o dane i cel użycia, choćby najstaranniej zaprojektowana tabela nie zapewni kontroli.
Warto zatem wprowadzić prostą zasadę: przed użyciem AI do danych firmowych, danych osobowych lub decyzji dotyczących osób należy zgłosić przypadek użycia. Dla zastosowań niskiego ryzyka wystarczy krótka ścieżka akceptacji. Dla pozostałych trzeba przewidzieć analizę proporcjonalną do skutków. Takie podejście nie hamuje innowacji – oddziela eksperyment od wdrożenia, które może tworzyć odpowiedzialność prawną i reputacyjną.
Dobrze prowadzony rejestr daje zarządowi coś więcej niż dowód zgodności. Pokazuje, gdzie firma korzysta z AI w sposób wartościowy, gdzie niepotrzebnie przekazuje dane na zewnątrz i które procesy wymagają decyzji człowieka. Zacznij od jednego realnego przypadku użycia, przypisz mu właściciela i ustal, jakie dane do niego trafiają. To zwykle ważniejszy krok niż wybór najbardziej efektownego narzędzia do ewidencji.
