Kiedy sztuczna inteligencja popełni kosztowny błąd, nie odpowie AI. Odpowie człowiek.

Zdjęcie: Kiedy sztuczna inteligencja popełni kosztowny błąd, nie odpowie AI. Odpowie człowiek.

Kiedy sztuczna inteligencja popełni kosztowny błąd, nie odpowie AI. Odpowie człowiek. Jeszcze kilka lat temu sztuczna inteligencja była przede wszystkim narzędziem wspierającym człowieka. Pomagała wyszukiwać informacje, analizować dane czy przygotowywać projekty dokumentów. Dziś coraz częściej przestaje być jedynie asystentem, a staje się uczestnikiem procesu decyzyjnego. Ocenia zdolność kredytową klientów, analizuje ryzyko transakcji, przygotowuje rekomendacje inwestycyjne, selekcjonuje kandydatów do pracy, wspiera diagnostykę medyczną, kontroluje procesy produkcyjne, a choćby samodzielnie inicjuje kolejne działania jako tzw. agent AI. To zmiana znacznie głębsza, niż mogłoby się wydawać. Nie polega bowiem wyłącznie na zastosowaniu nowej technologii. Zmienia sposób podejmowania decyzji w przedsiębiorstwie. A skoro zmienia się sposób podejmowania decyzji, nieuchronnie pojawia się pytanie o odpowiedzialność.Paradoks polega na tym, iż właśnie temu zagadnieniu poświęca się dziś zaskakująco mało uwagi. Większość dyskusji koncentruje się na możliwościach sztucznej inteligencji, jej wpływie na rynek pracy albo wymogach wynikających z AI Act. Tymczasem z perspektywy zarządów, właścicieli firm i działów compliance znacznie ważniejsze jest inne pytanie: kto odpowie za skutki błędnej decyzji podjętej przy wykorzystaniu AI?Odpowiedź może rozczarować entuzjastów nowych technologii. Nie odpowie sztuczna inteligencja. Nie odpowie ChatGPT, Copilot, Gemini ani żaden inny model czy agent AI. Nie otrzyma pozwu, nie zapłaci odszkodowania, nie poniesie odpowiedzialności karnej ani dyscyplinarnej. Nie jest uczestnikiem obrotu prawnego. Nie posiada osobowości prawnej ani umiejętności ponoszenia odpowiedzialności. Ostatecznie zawsze odpowiada człowiek lub organizacja, która zdecydowała się wykorzystać AI w procesie podejmowania decyzji.To jednak dopiero początek problemu. Znacznie trudniejsze okazuje się ustalenie, który człowiek powinien tę odpowiedzialność ponosić.Wyobraźmy sobie przedsiębiorstwo, w którym sztuczna inteligencja analizuje umowy, ocenia ryzyko kontrahentów, przygotowuje rekomendacje dla działu zakupów, automatycznie kwalifikuje reklamacje klientów i podejmuje pierwsze decyzje kadrowe. System działa poprawnie przez wiele miesięcy, aż w pewnym momencie dochodzi do poważnego błędu. AI błędnie klasyfikuje transakcję, ujawnia poufne informacje, odrzuca ważnego klienta albo wydaje rekomendację, która prowadzi do wielomilionowej szkody. W takiej sytuacji bardzo gwałtownie okazuje się, iż technologia nie jest największym problemem. Problemem staje się odpowiedzialność za sposób jej wykorzystania.Czy odpowiada pracownik, który zaufał rekomendacji systemu? Kierownik działu, który zdecydował o wdrożeniu rozwiązania? Dyrektor IT odpowiedzialny za integrację? Dostawca oprogramowania? A może członek zarządu, który zaakceptował wykorzystanie sztucznej inteligencji w procesach biznesowych?Prawo nie zna jednej uniwersalnej odpowiedzi. Każda sytuacja wymaga odrębnej oceny. Jedno pozostaje jednak niezmienne – odpowiedzialność nie znika tylko dlatego, iż część procesu decyzyjnego została powierzona algorytmowi. To właśnie dlatego europejskie regulacje dotyczące sztucznej inteligencji tak mocno akcentują znaczenie nadzoru człowieka. Wbrew potocznym opiniom nie chodzi wyłącznie o ograniczenie ryzyka technologicznego. Chodzi o zachowanie realnej odpowiedzialności za podejmowane decyzje. Człowiek ma nie tylko możliwość ingerencji w działanie systemu, ale przede wszystkim obowiązek jej wykonywania wtedy, gdy wymagają tego okoliczności.W praktyce oznacza to konieczność zupełnie nowego spojrzenia na corporate governance. Przez dziesięciolecia przedsiębiorstwa budowały systemy odpowiedzialności za decyzje ludzi. Każdy proces miał właściciela, określone kompetencje, zasady akceptacji oraz mechanizmy kontroli. W świecie sztucznej inteligencji te same zasady pozostają aktualne, ale wymagają dostosowania do nowych realiów.Nie wystarczy już odpowiedzieć na pytanie, kto odpowiada za dział sprzedaży, zakupy czy bezpieczeństwo informacji. Coraz częściej trzeba również wiedzieć, kto odpowiada za konkretnego agenta AI, kto zatwierdza sposób jego działania, kto kontroluje jakość generowanych przez niego wyników i kto ma obowiązek reagować wtedy, gdy system zaczyna podejmować błędne decyzje.To nie jest wyłącznie problem największych korporacji. Średnie przedsiębiorstwo korzystające z kilku popularnych narzędzi opartych na AI również powinno wiedzieć, jakie decyzje są podejmowane automatycznie, jakie dane trafiają do systemów oraz kto w organizacji ponosi odpowiedzialność za ich wykorzystanie. W wielu firmach odpowiedź na te pytania wciąż brzmi: „wszyscy”. Z prawnego punktu widzenia oznacza to najczęściej, iż nie odpowiada nikt. A to jeden z najbardziej niebezpiecznych modeli zarządzania ryzykiem.Historia biznesu wielokrotnie pokazywała, iż największe kryzysy nie wynikały z braku procedur, ale z braku jasno określonej odpowiedzialności. Dotyczyło to bezpieczeństwa informacji, przeciwdziałania korupcji, ochrony danych osobowych czy zgodności z regulacjami sektorowymi. Sztuczna inteligencja nie stanowi wyjątku. Im bardziej przedsiębiorstwa powierzają jej wykonywanie kolejnych zadań, tym większego znaczenia nabiera odpowiedź na pytanie, kto rzeczywiście nadzoruje ten proces.Można wręcz zaryzykować tezę, iż w najbliższych latach przewaga konkurencyjna przedsiębiorstw nie będzie wynikała wyłącznie z tego, kto szybciej wdroży AI. O wiele ważniejsze okaże się to, kto zrobi to w sposób odpowiedzialny. Organizacje, które już dziś stworzą przejrzyste zasady nadzoru nad sztuczną inteligencją, przypiszą odpowiedzialność konkretnym osobom, wprowadzą mechanizmy dokumentowania decyzji i okresowej weryfikacji działania systemów, będą nie tylko lepiej przygotowane na wymagania regulatorów. Będą również znacznie bezpieczniejsze biznesowo.Największym błędem byłoby bowiem uznanie, iż sztuczna inteligencja przejmuje odpowiedzialność razem z wykonywanym zadaniem. Przejmuje jedynie część procesu decyzyjnego. Odpowiedzialność pozostaje tam, gdzie była zawsze – po stronie ludzi zarządzających przedsiębiorstwem. Im szybciej firmy to zrozumieją, tym większa szansa, iż AI stanie się dla nich rzeczywistym źródłem przewagi konkurencyjnej, a nie początkiem nowego rodzaju ryzyka, którego nie przewidziano tylko dlatego, iż wszyscy byli zbyt zajęci zachwycaniem się możliwościami technologii. Autor: Jarosław Chałas Partner Zarządzający, Radca Prawny Kancelaria Prawna Chałas i Wspólnicy Dowiedz się więcej: prawo własności intelektualnej i nowych technologii