1 rok temu
Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, iż podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. w tej chwili realizowane są trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.
Jednym z kluczowych założeń AI Act był całkowity zakaz m.in. systemów AI do zdalnej identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. W maju Parlament Europejski odrzucił poprawki mające wprowadzić możliwość stosowania takich technologii np. w celu odnajdywania zaginionych osób i zwalczania terroryzmu lub innych poważnych przestępstw.
Teraz jednak pomysł poluzowania zakazu wrócił w trilogu, podnoszony przez niektóre państwa członkowskie. Jak informuje portal Euroactive, miałoby to być dopuszczalne w ściganiu przestępstw z zamkniętej listy, zagrożonych karą powyżej pięciu lat więzienia. System musiałby przejść ocenę wpływu na prawa podstawowe, a jego użycie byłoby zatwierdzane przez sąd (czasem ex post w ciągu 48 godz.).
– Do nas również docierają głosy o próbach wprowadzania daleko idących wyjątków, zwłaszcza dla policji i innych służb – mówi Karolina Iwańska, doradczyni ds. praw cyfrowych w Europejskim Centrum Prawa Organizacji Pozarządowych. – jeżeli zostaną przyjęte, AI Act obniży istniejące standardy ochrony praw człowieka wynikające z przepisów o ochronie danych osobowych czy europejskiej konwencji praw człowieka.
Ekspertka wskazuje, iż międzynarodowe standardy praw człowieka wymagają, żeby każda ingerencja w nie była niezbędna i proporcjonalna. Wspomniane systemy zaś jej zdaniem nie spełniają tych wymogów, ponieważ istnieją bardziej skuteczne i mniej ingerujące w prawo do prywatności metody utrzymywania bezpieczeństwa. Naruszają one istotę prawa do prywatności, a przez to i innych praw obywatelskich, np. wolności słowa i zgromadzeń.
– Potwierdził to europejski inspektor ochrony danych osobowych, który podniósł, iż to zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej, niezbędnej do tego, żeby bezpiecznie protestować i wyrażać obywatelskie niezadowolenie bez obawy o potencjalne reperkusje – tłumaczy Karolina Iwańska.
Systemy takie stosowane są przez państwa autorytarne, np. Rosję, która zresztą została ukarana przez ETPC za użycie ich do namierzenia i aresztowania pokojowo protestującego aktywisty.
–Jeżeli RBI nie znajdzie się na liście zakazów, należy się spodziewać, iż niedługo takie narzędzia będą w każdym europejskim kraju – zauważa z kolei Filip Konopczyński z Fundacji Panoptykon. – choćby najmniejszy wyjątek daje organom ścigania prawną podstawę, aby taki system zbudować lub kupić. A jeżeli biometryczna AI będzie już w arsenale policji czy Straży Granicznej, to zgodnie z logiką źle rozumianej gospodarności wzrośnie pokusa, aby jej używać. Konsekwencją będzie dalsza ingerencja w naszą prywatność i rozrost państwowej inwigilacji – podkreśla.
I wskazuje, iż formalna kontrola sądowa użycia takich systemów może się okazać równie nieskuteczna, jak w podsłuchiwaniu rozmów, gdzie sądy wyrażają zgodę w 96 proc. spraw.
W odpowiedzi na nasze pytanie resort cyfryzacji zapewnił, iż Polska popiera kierunkowo zakaz stosowania takich systemów „w przestrzeni publicznej do celów egzekwowania prawa”. Jest to bowiem jeden z podstawowych przejawów zastosowania AI, który może prowadzić do naruszenia praw podstawowych.
Następna sesja trilogu planowana jest na 6.12.2023 r.
