Producenci AI odpowiedzą za szkody

Producenci systemów wykorzystujących sztuczną inteligencję (AI) odpowiedzą za szkody psychiczne wyrządzone użytkownikom np. przez ChatGPT. Takie zmiany przewiduje projekt nowelizacji przepisów o produktach niebezpiecznych w kodeksie cywilnym. Odszkodowania będzie można domagać się jednak wyłącznie w przypadku „uznanego medycznie uszczerbku na zdrowiu psychicznym”, a nie subiektywnego przekonania o krzywdzie emocjonalnej.

Będą zmiany w kodeksie cywilnym

Nowelizacja wdraża unijną dyrektywę 2024/2853. Odpowiedzialne za jej implementację Ministerstwo Sprawiedliwości (MS) podkreśla, iż obowiązujące dziś przepisy są przestarzałe. Projektowano je bowiem z myślą o tradycyjnych (nie zaś cyfrowych) usługach, przy założeniu, iż producent odpowiada za wady przedmiotu powstałe przed jego wypuszczeniem na rynek.

Z tego powodu na krajowym podwórku próżno szukać przykładów pozwów wytaczanych cyfrowym gigantom przez osoby, które na skutek szkodliwej działalności algorytmu popadły np. w zaburzenia odżywiania albo zmagają się z lękami społecznymi. Na świecie są już takie precedensy. W marcu sąd w Los Angeles uznał spółkę Meta (właścicielkę m.in. Facebooka i Instagrama) za odpowiedzialną za szkody psychiczne wywołane u dziewczynki, a dziś 20-letniej kobiety. Przygotowana przez MS nowelizacja otwiera drzwi do podobnych pozwów również w Polsce.

Choć w samym projekcie oraz uzasadnieniu do niego nie ma mowy o sędziach i biegłych, to właśnie na ich barki spadnie ciężar praktycznej interpretacji nowych przepisów. W teorii sprawa jest prosta. Konsument doznaje szkody psychicznej np. zaczyna cierpieć na depresję, stwierdza, iż wywołały ją rozmowy z chatem zasilanym przez generatywną sztuczną inteligencję i występuje do sądu z pozwem o odszkodowanie. Praktyka rodzi jednak szereg problemów. Sędziowie i służący im opiniami biegli będą musieli ocenić m.in. to, czy np. depresja jest następstwem „rozmów” z AI.

– Szkoda psychiczna ma być uznawana w naukach medycznych i poświadczona przez lekarza, wpływać na ogólny stan zdrowia poszkodowanego i potencjalnie wymagać terapii lub leczenia. Projektodawca wyraźnie wyłącza natomiast tzw. szkody czysto emocjonalne. To oznacza, iż już na poziomie wykazania szkody prawdopodobnie zasadnicze znaczenie będzie miała dokumentacja medyczna oraz dowód z opinii biegłego, przede wszystkim psychiatry, ewentualnie uzupełniony opinią psychologa – komentuje dr Anna Banaszewska, radca prawny.

Jeszcze trudniej będzie w przypadku pogorszenia się stanu zdrowia już chorującego użytkownika AI.

– Biegły będzie musiał odróżnić uszczerbek na zdrowiu psychicznym od stresu czy przejściowego pogorszenia samopoczucia, a następnie ocenić jego możliwe przyczyny, uwzględniając m.in. wcześniejszy stan pacjenta, przebieg choroby czy równoległe leczenie – mówi radca prawny Jolanta Pietrkiewicz-Knecht.

– W praktyce pytanie może brzmieć nie tyle: „czy można ze stuprocentową pewnością wykazać, iż AI spowodowało zaburzenie?”, ile: „czy stwierdzony u poszkodowanego rozstrój zdrowia jest tego rodzaju, jaki zwykle może być następstwem ustalonej niebezpiecznej adekwatności tego systemu?” I właśnie tutaj opinia biegłego będzie miała fundamentalne znaczenie – podkreśla dr Banaszewska.

Nasza rozmówczyni wskazuje, iż projektowane przepisy z uwagi na tzw. obniżony standard dowodowy ułatwią wykazanie odpowiedzialności producenta. o ile powód uprawdopodobni niebezpieczny charakter produktu lub związek przyczynowy między szkodą a działaniem produktu, ale ich pełne udowodnienie będzie nadmiernie utrudnione np. z powodów technicznych, to sąd będzie mógł uznać te fakty za ustalone.

Ocena działania AI

– o ile źródłem szkody jest produkt wykorzystujący AI, konieczna może być również ocena sposobu działania samego systemu. Nabiera to znaczenia w świetle projektowanego domniemania niebezpieczności produktu, o ile szkoda została spowodowana jego oczywiście nieprawidłowym działaniem w zwykłych lub rozsądnie przewidywalnych warunkach używania. W przypadku AI ocena takiego działania może wymagać analizy m.in. danych wejściowych, aktualizacji czy zdolności systemu do dalszego uczenia się – stwierdza mec. Pietrkiewicz-Knecht.

Zadaniem sądu będzie ustalenie tego, czy firma stojąca za produktem wykorzystującym AI zapewniała bezpieczeństwo w granicach rozsądnych oczekiwań. Anna Banaszewska wylicza, iż sędzia będzie musiał wziąć pod uwagę m.in. projekt i cechy techniczne produktu, sposób jego prezentacji, przewidywalny sposób używania, kategorię użytkowników, a – co szczególnie istotne dla AI – również zdolność produktu do uczenia się lub nabywania nowych cech po wprowadzeniu do obrotu.

– Przykładowo, w sprawie dotyczącej chatbota sąd mógłby badać, czy jego konstrukcja powodowała przewidywalne generowanie treści mogących prowadzić do określonego zagrożenia dla zdrowia psychicznego, czy producent przewidział odpowiednie zabezpieczenia, jak system reagował na użytkownika znajdującego się w sytuacji kryzysowej i czy zachowanie modelu mieściło się w rozsądnie oczekiwanym poziomie bezpieczeństwa. Można zatem spodziewać się potrzeby opinii interdyscyplinarnej: konieczna będzie ocena mechanizmu działania systemu AI i jego zachowanie, charakter szkody i medyczną możliwość jej powstania w opisanych okolicznościach – konkluduje Anna Banaszewska.

Etap legislacyjny: konsultacje publiczne