6 dni temu
Generatywny asystent używany przez marketing, narzędzie do selekcji CV wdrożone przez HR i model wykrywający nadużycia w płatnościach mogą podlegać zupełnie różnym obowiązkom. Dlatego pytanie, jak wdrożyć AI Act w firmie, nie powinno zaczynać się od zakupu platformy compliance ani od jednej polityki „stosowania AI”. Punktem wyjścia jest ustalenie, jakie systemy AI rzeczywiście funkcjonują w organizacji, kto je dostarcza i do czego są wykorzystywane.
AI Act, czyli rozporządzenie 2024/1689, ma zastosowanie bezpośrednio w państwach członkowskich UE. Większość jego zasad stosuje się od 2 sierpnia 2026 r. Część obowiązków weszła jednak w życie wcześniej: zakazy określonych praktyk i wymóg odpowiedniego poziomu kompetencji w zakresie AI obowiązują od 2 lutego 2025 r., a obowiązki dotyczące modeli AI ogólnego przeznaczenia – co do zasady – od 2 sierpnia 2025 r. Nie jest więc rozsądne traktowanie zgodności jako projektu, który można odłożyć do chwili kontroli.
Jak wdrożyć AI Act w firmie: najpierw ustal swoją rolę
Rozporządzenie nie nakłada identycznych obowiązków na każdego przedsiębiorcę korzystającego z technologii AI. najważniejsze znaczenie ma rola przedsiębiorstwa w łańcuchu wartości. Firma może być dostawcą, o ile rozwija system AI lub zleca jego rozwój i wprowadza go do obrotu pod własną nazwą. Może być podmiotem stosującym, gdy używa systemu pod swoją kontrolą zawodową. W określonych sytuacjach wystąpi też jako importer, dystrybutor albo upoważniony przedstawiciel.
Ta kwalifikacja ma skutki praktyczne. Bank wykorzystujący gotowy system do oceny zdolności kredytowej nie ma takich samych powinności jak podmiot, który ten system stworzył i sprzedaje innym instytucjom. Z kolei spółka, która istotnie zmienia przeznaczenie zakupionego rozwiązania albo wprowadza je do obrotu pod własną marką, może przejąć obowiązki dostawcy. Nazwa w umowie z dostawcą nie przesądza sprawy – liczy się rzeczywista kontrola nad produktem, jego przeznaczeniem i sposobem udostępnienia.
W praktyce jedna grupa kapitałowa może pełnić kilka ról naraz. Dział technologiczny tworzy model, spółka operacyjna stosuje go wobec klientów, a inna spółka dystrybuuje rozwiązanie na rynku. Wtedy governance AI musi przypisywać obowiązki konkretnym podmiotom i osobom, zamiast opierać się na ogólnym założeniu, iż „grupa jest zgodna”.
Inwentaryzacja ma obejmować faktyczne użycie AI
Największym błędem jest audyt ograniczony do projektów formalnie zatwierdzonych przez IT. W wielu firmach AI trafia do procesów oddolnie: przez funkcje w pakietach biurowych, narzędzia do wideokonferencji, systemy CRM, programy graficzne czy aplikacje używane przez zewnętrznych wykonawców. Taka praktyka bywa określana jako shadow AI. Nie oznacza automatycznie naruszenia prawa, ale uniemożliwia świadome zarządzanie ryzykiem.
Rejestr systemów AI powinien odpowiadać nie tylko na pytanie, jakie oprogramowanie jest używane. Potrzebne są również informacje o celu biznesowym, użytkownikach, kategoriach osób, których dotyczą wyniki systemu, danych wejściowych, stopniu automatyzacji decyzji oraz dostawcy. Warto odnotować, czy wynik modelu jest jedynie materiałem pomocniczym, czy faktycznie wpływa na zatrudnienie, dostęp do usługi, cenę, ocenę wiarygodności albo bezpieczeństwo.
Dla każdego systemu należy też zabezpieczyć dokumenty kontraktowe i techniczne. W odniesieniu do rozwiązania zewnętrznego istotne będą w szczególności instrukcje użycia, deklaracje zgodności, informacje o ograniczeniach systemu, warunkach monitorowania i aktualizacjach. o ile dostawca nie jest w stanie wyjaśnić przeznaczenia narzędzia ani jego klasyfikacji regulacyjnej, jest to sygnał ryzyka zakupowego, a nie wyłącznie problem działu prawnego.
Klasyfikacja ryzyka nie może być ćwiczeniem formalnym
AI Act opiera się na zróżnicowanym podejściu do ryzyka. Część praktyk jest zakazana, część systemów kwalifikuje się jako wysokiego ryzyka, a dla niektórych rozwiązań przewidziano przede wszystkim obowiązki przejrzystości. Poza tym zakresem pozostają systemy, które przez cały czas mogą rodzić ryzyka na gruncie RODO, prawa pracy, ochrony konsumentów, prawa autorskiego, tajemnicy przedsiębiorstwa lub przepisów sektorowych.
W pierwszej kolejności firma powinna wykluczyć praktyki niedopuszczalne. Dotyczy to między innymi określonych form manipulacji, wykorzystywania szczególnej podatności osób, niektórych systemów oceny społecznej oraz pewnych zastosowań rozpoznawania emocji w miejscu pracy i placówkach edukacyjnych. Ocena wymaga ostrożności: marketingowe określenie funkcji jako „analizy zaangażowania” nie przesądza, iż nie chodzi w istocie o analizę emocji.
Następnie należy sprawdzić, czy system nie mieści się w katalogu systemów wysokiego ryzyka. Praktyczne znaczenie mają zwłaszcza zastosowania w rekrutacji i zarządzaniu pracownikami, edukacji, ocenie kredytowej, dostępie do podstawowych usług prywatnych i publicznych, egzekwowaniu prawa czy migracji. System wspierający rekrutera w porządkowaniu aplikacji może wymagać innej analizy niż narzędzie automatycznie odrzucające kandydatów. Granica często zależy od funkcji systemu i wagi skutków dla osoby, a nie od deklarowanej obecności „człowieka w procesie”.
W przypadku systemów wysokiego ryzyka po stronie dostawcy pojawiają się między innymi wymogi zarządzania ryzykiem, jakości danych, dokumentacji technicznej, rejestrowania zdarzeń, nadzoru człowieka, dokładności, cyberbezpieczeństwa i oceny zgodności. Podmiot stosujący nie jest zwolniony z działania. Powinien używać systemu zgodnie z instrukcją, zapewnić adekwatny nadzór ludzki, monitorować funkcjonowanie rozwiązania, przechowywać logi, gdy ma taki obowiązek lub kontrolę nad nimi, a także reagować na poważne incydenty.
Nie myl AI Act z pełnym audytem prawnym AI
Zgodność z AI Act nie zastępuje pozostałych analiz. To szczególnie widoczne przy generatywnej AI. Pracownik, który wprowadza do publicznego czatu fragment umowy, kod źródłowy lub nieopublikowane wyniki finansowe, może naruszyć obowiązek zachowania poufności albo zasady ochrony tajemnicy przedsiębiorstwa. o ile prompt zawiera dane osobowe, potrzebna jest równoległa analiza na gruncie RODO, w tym podstawy przetwarzania, retencji i ewentualnego transferu danych poza Europejski Obszar Gospodarczy.
Również treść wygenerowana przez model nie jest prawnie neutralna. Materiał może naruszać prawa autorskie, dobra osobiste, znaki towarowe lub przepisy o czynach nieuczciwej konkurencji. W branżach regulowanych dochodzą wymogi sektorowe, na przykład dotyczące outsourcingu, zarządzania ryzykiem ICT, tajemnicy zawodowej czy komunikacji z klientem. Dobrze zaprojektowany program compliance powinien zatem łączyć AI Act z ochroną danych, cyberbezpieczeństwem, prawem własności intelektualnej i procedurami operacyjnymi.
Governance powinno decydować, a nie tylko dokumentować
Polityka korzystania z AI jest potrzebna, ale sama nie wdraża rozporządzenia. Dokument, który zakazuje „podawania danych wrażliwych” i nakazuje „weryfikować odpowiedzi AI”, bez wskazania odpowiedzialnych osób oraz procedury eskalacji, pozostaje deklaracją.
Skuteczniejszy model opiera się na procesie. Każdy nowy przypadek użycia powinien przechodzić przez proporcjonalną kwalifikację: opis celu, rolę firmy, klasę ryzyka, dane, wpływ na osoby, dostawcę i wymagane zabezpieczenia. Dla narzędzia do redagowania wewnętrznych notatek wystarczy zwykle prostsza ścieżka. Dla systemu oceniającego kandydatów, klientów lub kontrahentów konieczna będzie pogłębiona analiza prawna, techniczna i biznesowa przed uruchomieniem.
Właściciel biznesowy powinien odpowiadać za zasadność celu i sposób użycia. IT oraz cyberbezpieczeństwo – za architekturę, dostęp, logowanie i zarządzanie dostawcą. Prawnicy oraz compliance – za kwalifikację obowiązków, dokumentację i zgodność z innymi reżimami prawnymi. Nie chodzi o mnożenie komitetów, ale o to, by decyzja o wdrożeniu nie zapadała bez osoby, która może ocenić konsekwencje dla użytkownika, klienta i przedsiębiorstwa.
Kompetencje pracowników są obowiązkiem, ale szkolenie musi być konkretne
AI Act wymaga podejmowania środków zapewniających wystarczający poziom kompetencji w zakresie AI u personelu i innych osób działających w imieniu organizacji. Nie oznacza to jednego, identycznego szkolenia dla wszystkich. Innych kompetencji potrzebuje osoba tworząca model, innych rekruter korzystający z narzędzia wspomagającego selekcję, a jeszcze innych członek zarządu zatwierdzający wykorzystanie AI w procesie o dużym wpływie na klientów.
Szkolenie powinno obejmować ograniczenia modeli, ryzyko błędów i konfabulacji, zasady pracy z danymi, znaczenie nadzoru ludzkiego oraz obowiązek zgłaszania nieprawidłowości. W procesach wysokiego ryzyka konieczne są instrukcje operacyjne: kiedy pracownik może zaakceptować wynik, kiedy ma go zakwestionować i komu zgłosić podejrzenie dyskryminacji, błędu lub incydentu bezpieczeństwa. Warto utrwalać nie tylko udział w szkoleniu, ale także zakres przekazanych zasad.
Najlepszym momentem na wdrożenie AI Act nie jest dzień poprzedzający kontrolę ani publikacja kolejnej polityki. Jest nim chwila, w której firma chce użyć AI do decyzji mającej znaczenie dla człowieka, klienta albo rynku. Wtedy dobrze zadane pytania i adekwatnie przypisana odpowiedzialność są znacznie cenniejsze niż deklaracja, iż organizacja „korzysta z AI odpowiedzialnie”.
