Robotyzacja produkcji a odpowiedzialność za wadliwy produkt, czyli kto odpowiada, gdy algorytm popełni błąd

Robotyzacja produkcji a odpowiedzialność za wadliwy produkt, czyli kto odpowiada, gdy algorytm popełni błąd Postępująca automatyzacja i robotyzacja procesów produkcyjnych przestaje być domeną futurystycznych wizji, a staje się codziennością przedsiębiorstw przemysłowych. Coraz częściej to nie człowiek, ale algorytm decyduje o parametrach produkcji, jakości komponentów czy dopuszczeniu produktu do obrotu. W wielu zakładach produkcyjnych systemy oparte na analizie danych nie tylko wspierają proces decyzyjny, ale kształtują go od podstaw. Wraz z tym pojawia się jednak zagadnienie odpowiedzialności, tj. kto ponosi odpowiedzialność za wadliwy produkt, o ile źródłem błędu nie jest człowiek, ale system autonomiczny. Na gruncie obowiązujących przepisów odpowiedzialność za produkt niebezpieczny opiera się przede wszystkim na konstrukcji odpowiedzialności producenta. W klasycznym ujęciu producent odpowiada za wprowadzenie do obrotu produktu, który nie zapewnia bezpieczeństwa, jakiego można oczekiwać przy jego normalnym użyciu, z uwzględnieniem sposobu prezentacji produktu oraz przewidywalnego sposobu jego wykorzystania. Nie możemy jednak zapominać, iż model ten został ukształtowany w realiach, w których proces produkcyjny był w pełni kontrolowany przez człowieka, a rola technologii miała jedynie charakter pomocniczy. W takich warunkach identyfikacja źródła błędu była stosunkowo prosta i opierała się na analizie konkretnych decyzji lub działań ludzi pracujących przy danym produkcie. Współczesna produkcja coraz częściej opiera się jednak na systemach, które analizują dane, uczą się na ich podstawie i podejmują decyzje w sposób częściowo autonomiczny (bez bezpośredniego nadzoru człowieka). Oznacza to, iż błąd może powstać na wielu etapach, począwszy od projektowania algorytmu, poprzez jakość i kompletność danych wejściowych, aż po sposób jego działania w konkretnym środowisku produkcyjnym. W praktyce może to prowadzić do sytuacji, w której ustalenie bezpośredniej przyczyny wady produktu staje się znacznie bardziej skomplikowane niż w „tradycyjnym” modelu produkcji. Pojawia się także problem tzw. efektu czarnej skrzynki (nieprzejrzystość procesów decyzyjnych w systemach głębokiego uczenia maszynowego), polegający na tym, iż choćby przy znajomości zasad działania systemu trudno jest odtworzyć pełną ścieżkę decyzyjną prowadzącą do konkretnego rezultatu. W przypadku zaawansowanych modeli uczenia maszynowego, choćby przy pełnym dostępie do kodu źródłowego, odtworzenie logiki konkretnej decyzji może okazać się w praktyce niemożliwe. Wreszcie, systemy te funkcjonują zwykle w złożonym ekosystemie podmiotów, obejmującym dostawców danych, twórców systemu oraz integratorów technologii. Taka wielowarstwowa struktura dodatkowo komplikuje ustalenie, który z uczestników procesu powinien ponosić odpowiedzialność za powstałą szkodę. Pomimo tych zmian technologicznych, obowiązujące regulacje prawne nie zostały zasadniczo dostosowane do nowych realiów. W konsekwencji to producent produktu końcowego przez cały czas pozostaje podmiotem ponoszącym odpowiedzialność wobec klienta. Z perspektywy prawa cywilnego nie ma bowiem większego znaczenia, czy wada produktu wynika z błędu człowieka, czy z działania systemu opartego na algorytmie. najważniejsze pozostaje to, iż produkt został wprowadzony do obrotu i nie spełnia wymaganego standardu bezpieczeństwa. W tym sensie wykorzystanie nowoczesnych technologii nie prowadzi do zmiany podstawowej konstrukcji odpowiedzialności, ale wpływa na sposób jej oceny oraz na zakres ryzyk, jakie musi uwzględniać przedsiębiorca. W praktyce oznacza to, iż przedsiębiorca decydujący się na wdrożenie rozwiązań opartych na sztucznej inteligencji przejmuje również ryzyko związane z ich działaniem. Algorytm nie jest bowiem podmiotem prawa i nie może ponosić odpowiedzialności w sensie prawnym. Nie zmienia to jednak faktu, iż w procesie produkcyjnym uczestniczy wiele podmiotów, których działania lub zaniechania mogą mieć wpływ na powstanie wady produktu. Rzeczywiste wyzwania pojawiają się zatem na etapie rozliczeń pomiędzy profesjonalnymi uczestnikami rynku. Producent, który poniósł odpowiedzialność wobec klienta, będzie w naturalny sposób dążył do dochodzenia roszczeń regresowych wobec podmiotów zaangażowanych w proces produkcji. W praktyce może to prowadzić do sporów z dostawcą oprogramowania, integratorem systemu, podmiotem dostarczającym dane lub producentem komponentów sprzętowych. W takich sytuacjach najważniejsze znaczenie mają postanowienia umowne regulujące zakres odpowiedzialności, standardy jakości oraz zasady korzystania z wdrożonych rozwiązań technologicznych. To właśnie na poziomie relacji kontraktowych rozstrzyga się w praktyce, kto i w jakim zakresie poniesie ekonomiczny ciężar wadliwego produktu. Istotnym zagadnieniem jest również kwalifikacja samego algorytmu jako elementu produktu lub procesu jego wytwarzania. o ile oprogramowanie sterujące produkcją prowadzi do powstania wady, można rozważać, czy mamy do czynienia z wadą projektową. W takim przypadku odpowiedzialność może wynikać nie tylko z błędu wykonania, ale także z nieprawidłowego zaprojektowania systemu. To z kolei zwiększa znaczenie odpowiednich procedur testowania, walidacji oraz audytów technologicznych przed wdrożeniem rozwiązania do produkcji. W praktyce oznacza to konieczność przesunięcia części ciężaru odpowiedzialności na etap poprzedzający sam proces produkcyjny. Nie bez znaczenia pozostaje również kwestia przewidywalności działania systemu. o ile algorytm działa w sposób, którego skutków nie da się w rozsądny sposób przewidzieć, pojawia się pytanie, czy jego zastosowanie w procesie produkcyjnym spełnia standard należytej staranności. Można bowiem argumentować, iż wykorzystanie technologii, której działania nie można w pełni kontrolować, samo w sobie generuje podwyższone ryzyko, które powinno być uwzględnione przez przedsiębiorcę na etapie podejmowania decyzji biznesowej. Na poziomie europejskim realizowane są w tej chwili prace nad dostosowaniem przepisów do realiów gospodarki opartej na danych i sztucznej inteligencji. Szczególne znaczenie mają inicjatywy zmierzające do zmiany zasad odpowiedzialności za produkt oraz ułatwienia dochodzenia roszczeń w sytuacjach, w których istotną rolę odgrywają systemy algorytmiczne. Przy ocenie bezpieczeństwa produktu winno się brać pod uwagę nie tylko jego pierwotne adekwatności, ale również sposób, w jaki może on funkcjonować w połączeniu z innymi systemami oraz jak zmienia się w toku użytkowania, w tym w wyniku uczenia się. Oznacza to w praktyce, iż producent nie może ograniczyć swojej odpowiedzialności wyłącznie do momentu wprowadzenia produktu do obrotu. o ile produkt w toku użytkowania rozwija nowe funkcjonalności lub zachowania, które prowadzą do powstania szkody, ryzyko z tym związane przez cały czas obciąża podmiot, który zdecydował się go wdrożyć. W konsekwencji granica odpowiedzialności producenta ulega przesunięciu i obejmuje również późniejsze etapy funkcjonowania produktu. Między innymi właśnie w związku z powyższym kierunek projektowanych dotyczy zwiększenia obowiązków po stronie przedsiębiorców oraz większy nacisk na transparentność i możliwość wyjaśnienia sposobu działania systemów. Akt o sztucznej inteligencji wprowadza między innymi obowiązek zapewnienia nadzoru człowieka nad systemami wysokiego ryzyka oraz wymóg odpowiedniego dokumentowania ich działania. W praktyce oznacza to konieczność projektowania systemów w taki sposób, aby możliwe było ich kontrolowanie oraz weryfikowanie podejmowanych decyzji. W praktyce oznacza to konieczność projektowania systemów w taki sposób, aby możliwe było ich kontrolowanie oraz weryfikowanie podejmowanych decyzji. Jednocześnie należy zauważyć, iż regulacje te mają w dużej mierze charakter ramowy i ich rzeczywiste znaczenie będzie zależało od sposobu implementacji oraz