Nowe prawo przeszło prawie jednogłośnie. Za uchwaleniem ustawy wraz z poprawkami głosowało w czwartek 421 posłów, trzech było przeciw, a 18 wstrzymało się od głosu.
Przepisy przewidują powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI). Ta instytucja ma pełnić funkcję organu nadzoru rynku AI w Polsce.
KRiBSI według PAP otrzyma szerokie kompetencje. Będzie mogła m.in.:
- wszczynać kontrole w przedsiębiorstwach,
- sprawdzać zgodność systemów AI z przepisami unijnego AI Act,
- nakładać kary,
- czy wycofywać z rynku rozwiązania niezgodne z regulacjami.
Komisja będzie mogła również wydawać zezwolenia dla systemów wysokiego ryzyka, wykorzystywanych m.in. w edukacji, infrastrukturze krytycznej, procesach rekrutacyjnych czy zarządzaniu migracją.
Na czele KRiBSI ma stanąć przewodniczący powoływany przez Sejm za zgodą Senatu. W skład siedmioosobowego organu wejdą również przedstawiciele najważniejszych instytucji regulacyjnych państwa, w tym Urząd Ochrony Konkurencji i Konsumentów, Urząd Komunikacji Elektronicznej, Komisja Nadzoru Finansowego oraz Krajowa Rada Radiofonii i Telewizji.
Po co Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji?
PAP przypomina, że zgodnie z ustawą Komisja będzie mogła też składać indywidualne skargi na działanie systemów AI i wydawać zezwolenia dla systemów wysokiego ryzyka (tj. wykorzystywanych m.in. w kształceniu, infrastrukturze krytycznej, zatrudnianiu pracowników albo zarządzaniu migracją).
Do zadań komisji ma również należeć tworzenie tzw. piaskownic regulacyjnych, które pozwalają firmom na testowanie innowacyjnych rozwiązań AI w kontrolowanych i bezpiecznych warunkach. Przepisy przewidują, że co najmniej jedna piaskownica regulacyjna powinna powstać do 2 sierpnia br.
Sama ustawa wdraża w Polsce unijny AI Act, który ma zapobiec zbyt wielkiej władzy, którą można posiadać dzięki takim systemom nad ludźmi.
Unia zakazuje pewnych praktyk systemów AI. Na celowniku kategoryzacja biometryczna
Chodzi tutaj na przykład o manipulację i techniki podprogowe (np. zachęcanie do zachowań niebezpiecznych) czy tzw. scoring społeczny, rozumiany jako algorytmiczne ocenianie jednostek na podstawie danych z różnych obszarów życia, takich jak finanse czy aktywność cyfrowa.
Na celowniku jest też tzw. kategoryzacja biometryczna, czyli kategoryzowanie osób na podstawie danych biometrycznych (nie tylko barwa głosu czy odciski, ale np. sposób chodzenia, pisania na klawiaturze czy nawyki związane z obsługą urządzeń) w celu wyciągania wniosków lub oceniania cech takich jak rasa, opinie polityczne, przynależność związkowa, religia, pochodzenie etniczne czy orientacja seksualna, czy predykcja przestępczości. Chodzi o ocenę ryzyka popełnienia przestępstwa przez daną osobę wyłącznie w oparciu o profilowanie osobowościowe lub analizę jej cech i zachowań.
Zgodnie z unijnymi regulacjami zakazane jest masowe rozpoznawanie twarzy w czasie rzeczywistym w przestrzeni publicznej. Rygorami mają być objęte systemy zdalnej identyfikacji biometrycznej w przestrzeniach publicznych przez organy ścigania. Tu wyjątkami są np. porwania dzieci, bądź terroryzm.
Unijny Akt o sztucznej inteligencji wszedł w życie 1 sierpnia 2024 r. z pewnymi wyjątkami. W lutym 2025 r. mocy nabrały przepisy dotyczące systemów AI, które są w UE zakazane. Do 2 sierpnia 2025 r. kraje członkowskie miały czas na powołanie organu nadzoru rynku. W sierpniu 2026 r. zastosowanie będzie mieć cały akt z wyjątkiem jednego artykułu. W pełni zacznie on obowiązywać w 2027 roku.
