Prawa konsumentów w erze AI: jak sztuczna inteligencja zmienia relacje w sferze B2C

Wprowadzenie

Nadchodząca fala technologiczna obdarzy nas wykładniczą poprawą jakości życia. Jednocześnie ta hiperewolucja wydaje się na tyle przyspieszać, iż wydaje się niemożliwe, aby legislator nadążał za dostosowywaniem prawa do realiów, w jakich przychodzi nam żyć. Mustafa Suleyman wskazuje, że: „na pierwszy rzut oka powstrzymanie technologii nie wydaje się możliwe. A jednak dla dobra nas wszystkich musi być możliwe”. Rozwój systemów AI może prowadzić do emergentnych skutków – zjawisk, których nie da się przewidzieć na podstawie analizy pojedynczych elementów. Co więcej, paradoks zmian, których będziemy świadkiem, polega na tym, iż wykraczają poza granice ludzkiego pojmowania. Ustawodawca unijny zwraca uwagę, iż AI powinna być technologią zorientowaną na człowieka i służyć jako narzędzie dla ludzi, którego ostatecznym celem jest zwiększenie dobrostanu człowieka. Przenosząc i ograniczając te rozważania do relacji i interakcji pomiędzy przedsiębiorcami a konsumentami należy w pierwszej kolejności zwrócić uwagę na nowe ryzyka, jak i korzyści związane z wykorzystaniem sztucznej inteligencji.

Według raportu Technology Trends Outlook 2024 liczba wyszukiwań Google dotyczących generatywnej AI wzrosła aż 700% w latach 2022-2023. Liczba inwestycji wzrosła siedmiokrotnie w tym samym okresie. 65% organizacji regularnie wykorzystuje generatywną AI w co najmniej jednej funkcji biznesowej (wzrost z 33% w roku poprzednim). Inwestycje w technologię zastosowanej AI wyniosły w 2023 r. 86 miliardów USD. Potencjalna wartość ekonomiczna generatywnej AI to 2,6-4,4 biliona USD rocznie. Wskazane dane świadczą o priorytetowym traktowaniu inwestycji w AI, co staje się kluczowym elementem strategii biznesowej na całym świecie. Z punktu widzenia e-commerce może mieć to szczególne przełożenie w kreowaniu bardziej intuicyjnego środowiska dla konsumenta, jednocześnie umożliwiając tworzenie spersonalizowanych doświadczeń zakupowych, co z pewnością może owocować wzrostem satysfakcji klientów.

Przykłady zastosowania AI w e-commerce

Przedsiębiorcy korzystają z rozwiązań AI na wiele sposobów, aby poprawić efektywność operacyjną, wpłynąć na wzrost zadowolenia klientów czy zoptymalizować koszty. Zastosowanie sztucznej inteligencji wydaje się również w tej chwili wpisywać w trendy rynkowe. W obsłudze klienta mamy chatboty i voiceboty, systemy rekomendacyjne, a kampanie marketingowe dostosowane są do indywidualnych preferencji klientów dzięki personalizacji komunikacji B2C. Nie można również pominąć w tym kontekście innowacji w e-commerce nastawionych na uproszczenie digital marketingu czy komunikacji z klientami takich jak omnichannel, który umożliwia klientom rozpoczęcie zakupów w jednym miejscu i płynne dokończenie w innym.

Platforma Allegro jakiś czas temu zdecydowała się wprowadzić nowe narzędzie oparte na AI, które ma ułatwić klientom podejmowanie decyzji zakupowych. Zalogowany użytkownik platformy nie musi już przeszukiwać setek opinii, aby dotrzeć do kluczowych informacji o konkretnym produkcie. Allegro wprowadziło podsumowanie opinii, funkcję, która wyciąga najważniejsze informacje z wielu opinii o danym przedmiocie, dając esencję w postaci kluczowych wad i zalet tego produktu. Innymi słowy, kupujący może od razu zobaczyć, jakie są najczęściej powtarzające się główne wrażenia innych klientów, co może przyspieszyć proces zakupowy. Z drugiej strony, wprowadzenie takiej funkcji może stworzyć pewne problemy – skuteczność i wiarygodność wygenerowanej opinii uzależniona jest od jakości opinii zamieszczanych przez innych klientów. Powstaje pytanie, czy narzędzie poradzi sobie z niejasnymi, sprzecznymi czy ironicznymi komentarzami i czy nie wprowadzi konsumenta w błąd.

Innymi słowy, efektywność wprowadzonego narzędzia determinowana jest jego znajomością kontekstu i specyfiki języka. Dlatego istotne jest, aby tego rodzaju rozwiązania były nieustannie doskonalone, aby efektywniej radziły sobie z zawiłościami i subtelnością języka ludzkiego.

Amazon również zdecydował się wdrożyć systemy AI dla zwiększenia zadowolenia klientów. Przykładowo, platforma uruchomiła narzędzie do analizowania recenzji produktów, zanim zostaną one udostępnione: Amazon identyfikuje potencjalnie fałszywą opinię przed jej publikacją. W trosce o najwyższe standardy autentyczności, w przypadku wykrycia podejrzanej treści przez system, recenzja przed udostępnieniem pozostało dodatkowo weryfikowana przez dedykowany zespół specjalistów. Ma to na celu ochronę konsumenta przed nieautentyczną opinią. Innym pomysłem Amazona na wykorzystanie generatywnej AI w biznesie jest AI Shopping Guides – nowe rozwiązanie kierowane do kupujących produkty z kategorii, z którą nie są zaznajomieni. Narzędzie analizuje obszerne informacje o produktach (łącznie z opiniami i specyfikacjami), aby wydobyć esencję i dostarczyć kupującemu najbardziej aktualną poradę zakupową. Użytkownik może dzięki temu sprawniej porównać różne opcje i dokonać wyboru.

Perplexity AI to jedna z opcji na rynku narzędzi sztucznej inteligencji, która oferuje konwersatywną wyszukiwarkę internetową, wykorzystującą zaawansowane modele językowe w celu udzielania odpowiedzi. Nowością ze strony Perplexity AI jest funkcja Buy with Pro, która umożliwia subskrybentom wersji Pro bezpośrednie zakupy na platformie. Użytkownik może wyszukiwać, porównywać i kupować produkty bez opuszczania serwisu, a choćby wyszukiwać pożądany produkt poprzez przesłanie zdjęcia w oparciu o funkcję Snap to Shop. Perplexity AI dąży do uproszczenia procesu zakupowego poprzez zrezygnowanie z tradycyjnego podejścia do zakupów online opartego na słowach kluczowych do bardziej intuicyjnego, polegającego na wykorzystaniu naturalnego języka.

Regulacyjne tsunami: nowe fale przepisów w e-commerce

Rok 2024 r. obfitował w dynamiczne przemiany prawne, które bezpośrednio rzutują na sektor e-commerce w całej Unii Europejskiej. Wzmocnieniu ochrony konsumentów poprzez zapewnienie pełnej przejrzystości i bezpieczeństwa transakcji online musi towarzyszyć wzrost odpowiedzialności, którą powinni podjąć wszyscy działający w branży e-commerce.

Regulacją nastawioną na takie cele jest np. rozporządzenie o ogólnym bezpieczeństwie produktów (General Product Safety Regulation, GPSR). GPSR nakłada m.in. na sprzedawców internetowych oraz internetowe platformy handlowe (marketplace’y) nowe obowiązki, które weszły w życie już 13.12.2024 r. Jednym z takich obowiązków jest informowanie przez sprzedawców, którzy oferują produkty w Internecie, o pochodzeniu tych produktów czy wyznaczenie punktu kontaktowego (dla organów i konsumentów). Rozporządzenie stosuje się do szerokiej gamy niespożywczych produktów, bez względu na to, czy są nowe, używane, naprawione bądź odnowione.

Europejski Akt o Dostępności dotknie wszystkich przedsiębiorców, którzy sprzedają produkty i świadczą usługi opisane w akcie, na całej długości łańcucha dostaw w takich obszarach jak e-booki, sprzęt komputerowy, systemy operacyjne, terminale płatnicze czy urządzenia telekomunikacyjne. Tutaj również pojawią się nowe obowiązki nałożone na sklepy online (funkcjonujące zarówno na stronach webowych, jak i w aplikacjach mobilnych), które zaczną obowiązywać od 28.6.2025 r. Sklepy internetowe będą musiały dostosować swoje platformy, aby były dostępne dla wszystkich użytkowników, włączając w to osoby z różnymi rodzajami niepełnosprawności.

Crème de la crème europejskich regulacji w e-commerce można uznać AI Act, który rewolucjonizuje sposób, w jaki AI będzie wdrażana, regulowana i kontrolowana na rynkach cyfrowych. AI Act nakłada obowiązki stosowania transparentności i etycznego używania algorytmów rekomendacyjnych, automatyzacji procesów sprzedażowych i analizujących zachowania konsumentów. Od początku lutego 2025 r. zaczęły obowiązywać przepisy zakazujące stosowania niektórych praktyk związanych z AI ze względu na niedopuszczalnie wysokie ryzyko. Dla branży e-commerce, w której AI odgrywa coraz większą rolę, m.in. w kształtowaniu relacji z konsumentami, nowe przepisy wymagają precyzyjnej implementacji oraz dobrego zrozumienia.

Obok Unii Europejskiej, która od lat rozwija kompleksowe ramy prawne w obszarze e-commerce, podobne kroki regulacyjne podjęły również Stany Zjednoczone. Przykładem tego jest podpisane 30.10.2023 r. przez prezydenta Joe Bidena rozporządzenie wykonawcze dotyczące bezpiecznego, pewnego i godnego zaufania rozwoju oraz wykorzystania sztucznej inteligencji. Akt ten wskazywał najważniejsze zasady i priorytety związane z zarządzaniem technologiami AI, zwracając uwagę przede wszystkim na ochronę prywatności, bezpieczeństwa danych oraz odpowiedzialnego wykorzystania nowych technologii. Rozporządzenie zostało uchylone w dniu 21.1.2025 r. przez prezydenta Donalda Trumpa. Obecny prezydent Stanów Zjednoczonych wskazał, iż wcześniejsze regulacje były zbyt restrykcyjne i mogły stanowić hamulec dla innowacji w dziedzinie AI.

W Stanach Zjednoczonych na poziomie stanowym również można zauważyć ruchy ze strony legislatora mające na celu uregulowanie sposobu, w jaki systemy AI wykorzystywane są w relacjach międzyludzkich, w tym z konsumentami. Przykładowo, ustawa uchwalona w stanie Kolorado dotycząca ochrony konsumentów przed nieuczciwą dyskryminacją w praktykach ubezpieczeniowych reguluje sposób, w jaki firmy ubezpieczeniowe mogą wykorzystywać dane konsumentów, algorytmy i modele predykcyjne. Celem tej regulacji jest przeciwdziałanie niesprawiedliwej dyskryminacji na podstawie chronionych cech, takich jak rasa, płeć czy orientacja seksualna.

Z kolei niektóre stany, takie jak Kalifornia, wprost wprowadziły prawo nakładające na firmy i organizacje korzystające z chatbotów do interakcji z konsumentami, aby podczas takiej konwersacji ujawniały, iż komunikacja odbywa się z wykorzystaniem systemu AI, a nie z prawdziwą osobą. Jednym z kluczowych założeń California’s Bot Disclosure Law jest wprowadzenie obowiązku ujawnienia, przejrzystości – jeżeli chatbot angażuje się w transakcję sprzedaży produktu, usługi lub wpływa na decyzje, musi jasno wskazać, iż nie jest człowiekiem. Regulacja dotyczy działalności online i jej celem jest ochrona konsumentów przed manipulacją oraz zapewnienie transparentności w komunikacji cyfrowej.

Kanada zdaje się podążać za europejskimi regulacjami, przyjmując europejskie podejście oparte na ocenie ryzyka (assessment risk), co znajduje odzwierciedlenie we wprowadzonym w 2022 r. projekcie ustawy AI and Data Act (AIDA). AIDA ma na celu ustanowienie ram prawnych dla systemów AI, koncentrując się na zarządzaniu ryzykiem i odpowiedzialnym wykorzystaniu danych. Regulacja również porusza kwestie konsumenckie, odwołując się do istniejących przepisów, wskazuje na takie kwestie jak wprowadzenie konsumenta w błąd i stosowanie nieuzasadnionej presji.

Powyższe przykładowe inicjatywy prawodawcze wskazują na globalny trend w dążeniu do stworzenia ram prawnych wspierających równowagę pomiędzy innowacjami technologicznymi a ochroną konsumentów. Ustawodawcy dostrzegają potrzebę promowania przejrzystości oraz wspierania bezpiecznego i etycznego stosowania AI w różnych gałęziach gospodarki, w tym w sektorze e-commerce.

Zakazane praktyki na gruncie AI Act – granice wykorzystania AI a ochrona konsumenta

Prawodawca europejski już na gruncie motywów AI Act podkreśla, iż pomimo wielu korzystnych zastosowań, technologia AI może być użyta niewłaściwie, poprzez np. dostarczanie narzędzi do praktyk manipulacji, wykorzystywania oraz kontroli społecznej. Artykuł 5 AI Act zawiera katalog zakazanych praktyk w zakresie AI jako sprzecznych z unijnymi wartościami oraz prawami podstawowymi odzwierciedlonymi w Karcie praw podstawowych UE. Katalog nie ma charakteru wyczerpującego w takim sensie, iż nie jest on przeszkodą dla wykluczenia niewskazanej w nim praktyki z wykorzystaniem systemów AI, jeżeli narusza ona inne przepisy unijne lub krajowe. Lektura AI Act prowadzi do konkluzji, iż wprowadzone zakazy są uzupełnieniem przepisów dyrektywy o nieuczciwych praktykach handlowych. Komisja Europejska ma obowiązek opracowania i przedstawienia wytycznych dotyczących wdrażania zakazów. W piśmiennictwie zwraca się uwagę na nie do końca czytelny sposób formułowania zakazów poprzez ustanowienie licznych, szczegółowo opisanych wyjątków w AI Act. Wśród zakazanych praktyk można wskazać systemy sztucznej inteligencji wykorzystujące techniki podprogowe lub celowo manipulujące lub wprowadzające w błąd, systemy sztucznej inteligencji wykorzystujące słabe punkty osoby lub określonej grupy osób, systemy oceny społecznej, systemy sztucznej inteligencji przeznaczone do oceny ryzyka w odniesieniu do prawdopodobieństwa przestępstwa, bazy danych rozpoznawania twarzy, rozpoznawanie emocji w miejscach pracy i instytucjach edukacyjnych, systemy kategoryzacji biometrycznej, zdalne systemy identyfikacji biometrycznej „w czasie rzeczywistym” w publicznie dostępnych przestrzeniach do celów egzekwowania prawa. W kontekście relacji B2C istotne znaczenie mają zakazane praktyki, które odnoszą się do manipulacji, wykorzystywania wrażliwości i profilowania klientów w sposób dyskryminujący lub niezgodny z prawem. Warto również zauważyć, iż niektóre kategorie będą często zawierać bądź krzyżować się, osadzając się na wspólnym mianowniku w postaci możliwości obiektywnie niepożądanej ingerencji systemu AI w strefę wolności podejmowania przez człowieka uświadomionej decyzji. Ponadto, musi zaistnieć kauzalność pomiędzy działaniem systemu AI a zachowaniem danej osoby oraz narażenie lub poniesienie poważnej szkody.

W kontekście obszernego katalogu z art. 5 AI Act należy również wyodrębnić działania, które, pomimo iż opierają się na wykorzystaniu systemów AI, nie powinny być uznawane za praktyki zakazane. Wśród nich można wskazać personalizowane rekomendacje produktów oparte na historii zakupów, jeżeli system AI analizuje historię zakupów konsumenta, aby zarekomendował produkty, które mogą go zainteresować, a przy tym proces odbywa się w sposób przejrzysty, bez manipulacji i wykorzystania słabości klienta. Istotne przy tym jest to, aby konsument miał świadomość, iż propozycje są wytworem AI i miał swobodę w zrezygnowaniu z nich. Innym przykładem działania, które nie wpisuje się w katalog zakazanych praktyk, wydaje się być automatyzacja procesu obsługi klienta poprzez np. wysyłanie przypomnienia o płatności lub informowanie o statusie zamówienia, jeżeli nie odbywa się to w sposób manipulacyjny. Skanowanie twarzy wyłącznie w celu potwierdzenia tożsamości konsumenta przy logowaniu lub weryfikacji płatności także wydaje się być dozwolone. Celem jest tutaj wyłącznie potwierdzenie tożsamości i uzyskanie bezpiecznego dostępu do usługi. Warto jednak pamiętać, iż każde stosowanie AI powinno być oceniane indywidualnie, przy czym jeżeli celem systemu nie jest zmiana zachowania klienta poprzez technikę manipulacyjną lub wykorzystanie jego słabości, a raczej AI wspiera konsumenta i ułatwia jego życie, to takie zastosowanie nie powinno być objęte zakazem.

Mechanizmy ochrony konsumentów – wybrane narzędzia i wytyczne na gruncie AI Act

AI Act wprowadza szereg mechanizmów mających na celu ochronę konsumentów. Jednocześnie kluczową kwestią jest to, aby konsument był świadomy swoich praw i aktywnie brał udział w procesie zgłaszania nieprawidłowości. Konsument zgłaszający naruszenie przepisów AI Act objęty jest ochroną na gruncie przepisów dyrektywy UE 2019/1937. Ma prawo do zrozumienia sposobu działania systemów AI wysokiego ryzyka, które wpływają na jego sytuację prawną lub w istotny sposób na jego życie (prawo do uzyskania wyjaśnienia na temat procedury podejmowania decyzji w indywidualnej sprawie). Wyjątkiem są systemy AI wykorzystywane w obszarze wymiaru sprawiedliwości. AI Act wskazuje, iż osoba fizyczna powinna być powiadamiana o tym, iż wchodzi w interakcję z systemem AI (chyba, iż jest to oczywiste). Dostawcy systemów AI generujących treści (dźwięk, obraz, wideo, tekst) są zobowiązani do oznaczania tych treści jako sztucznie wygenerowanych lub zmanipulowanych.

Przedsiębiorstwa, aby zminimalizować ryzyko związane z AI, powinny stosować szereg procedur i praktyk, które obejmują zarówno fazę projektowania i rozwoju systemów AI, jak i ich monitorowanie po wprowadzeniu na rynek. System powinien uwzględniać proces identyfikacji i analizy zarówno przewidywalnych zagrożeń, jakie może generować jego działanie, jak i tych wynikających z potencjalnie niewłaściwego użycia. Analiza ta powinna obejmować wszystkie możliwe skutki dla zdrowia, bezpieczeństwa oraz praw podstawowych użytkowników, uwzględniając zarówno sytuacje zgodnego z przeznaczeniem wykorzystania, jak i przewidywalne scenariusze nadużyć. AI Act zwraca również uwagę na jakość danych i zasadę minimalizacji. Systemy AI wysokiego ryzyka, które wykorzystują techniki uczenia maszynowego, powinny być rozwijane w oparciu o dane treningowe, które spełniają kryteria jakości. Jednocześnie przedsiębiorstwa powinny uwzględniać ochronę danych już na etapie projektowania systemów. AI Act wprowadza również koncepcję piaskownic regulacyjnych, które mają na celu stworzenie kontrolowanego środowiska testowego, pozwalającego przedsiębiorstwom na eksperymentowanie i rozwijanie technologii AI. Dzięki tym kontrolowanym środowiskom testowym, przedsiębiorstwa mogą opracowywać innowacyjne technologie, uwzględniając prawa i potrzeby użytkowników końcowych. Jednocześnie włączenie konsumentów w procesy testowania systemów AI w ramach piaskownic wzmacnia i buduje zaufanie do nowych technologii, zwiększając przewagę konkurencyjną przedsiębiorstw.

Podsumowanie. AI w e-commerce: między możliwościami a wyzwaniami

Na całym świecie wprowadza się kompleksowe regulacje mające na celu ochronę konsumentów w relacjach z firmami korzystającymi z technologii AI. Przepisy te zapewniają m.in. transparentność działań, zabezpieczenie przed manipulacjami i dyskryminacją oraz dostęp do informacji o procesach decyzyjnych systemów AI. Przedsiębiorstwa są zobowiązane do dostosowania swoich praktyk do tych standardów, co nie tylko gwarantuje zgodność z regulacjami, ale także wzmacnia zaufanie klientów do wykorzystywanych rozwiązań.

Sztuczna inteligencja ma potencjał do znacznego ulepszenia relacji B2C poprzez personalizację, automatyzację i lepsze zrozumienie potrzeb klientów. Jednak, najważniejsze jest stosowanie AI w sposób etyczny, przejrzysty i z poszanowaniem praw konsumentów. Regulacje prawne mają przy tym najważniejsze znaczenie, aby pielęgnować i wzmacniać ochronę konsumentów przed potencjalnym nadużyciem, zapewniając etyczne stosowanie AI. Wspólnym mianownikiem ram prawnych jest zapewnianie przejrzystości, m.in. poprzez informowanie konsumenta o wykorzystaniu AI w bezpośredniej interakcji.

W „erze przed AI” obsługa klienta w e-commerce często opierała się na tradycyjnych kanałach, takich jak e-mail czy telefon, co zwykle okazywało się czasochłonne i mało efektywne. W tym momencie modele AI dają nam szerokie możliwości polegające na automatycznej obsłudze zapytań klientów 24/7. Dla konsumenta jest to przede wszystkim szybkie i komfortowe załatwienie danego tematu, a dla przedsiębiorcy redukcja kosztu operacyjnego. Tradycyjne metody analizy danych zastępowane są algorytmiczną analizą w czasie rzeczywistym, co generuje możliwość lepszego dostosowania oferty i przeprowadzenia skuteczniejszej kampanii marketingowej. Z kolei inteligentne wyszukiwanie produktów, w przeciwieństwie do tego opierającego się na słowach kluczowych, pozwala poprzez np. rozmowę z botem na bardziej intuicyjne dobranie towaru, co wpływa na zadowolenie klienta i zwiększa szansę na udany zakup.

E-commerce w dobie AI wydaje się jednak mieć również ciemne strony – algorytmy AI mogą być wykorzystywane do manipulowania zachowaniami klientów, tworząc „bańki informacyjne”, gdzie użytkownicy ograniczeni są do przeglądania wyselekcjonowanych ofert, co w sposób istotny ogranicza ich wybór. Z kolei automatyzacja procesu decyzyjnego bez nadzoru człowieka może prowadzić do bardzo niekorzystnych i jednocześnie trudnych do wykrycia skutków. W kontekście odpowiedzialności w razie szkody wyrządzonej przez system AI może być trudne ustalenie tej odpowiedzialności. Niezwykła złożoność łańcucha wartości AI nie pozwala na łatwe zidentyfikowanie odpowiedzialnego podmiotu.

Dynamiczny, wykładniczy rozwój AI wiąże się zarówno z istotnymi korzyściami, jak i poważnymi wyzwaniami dla sektora e-commerce. Ostateczny wpływ tej technologii będzie zależał od zachowania równowagi pomiędzy innowacją a regulacjami zapewniającymi bezpieczeństwo konsumentów.