Do tego, że sztuczna inteligencja jest - jak to ujął ostatnio Mateusz Morawiecki - mieczem obosiecznym, nikt nie ma chyba dziś wątpliwości. Deepfake, generowanie obrazu czy masowe naruszenia praw autorskich przez AI to tylko część zagrożeń. Próbkę możliwości AI świetnie pokazały, chociażby fałszywe zdjęcia Papieża Franciszka w puchowej kurtce luksusowej hiszpańskiej marki i Donalda Trumpa rzekomo aresztowanego przez służby. Część osób faktycznie uwierzyła, że są prawdziwe.
Unia Europejska chce ujarzmić AI. Ale jest jeden problem
Remedium ma być AI Act, czyli przepisy regulujące sztuczną inteligencję na Starym Kontynencie. Unijni prawodawcy pracują nad nimi już od kilku miesięcy i prace te są już na ostatniej prostej. Rozporządzenie o sztucznej inteligencji ma dzielić ją na cztery kategorie, według zagrożenia: nieakceptowalnego ryzyka (zakazaną), wysokiego ryzyka (ściśle regulowaną), dopuszczalnego ryzyka (dopuszczalną pod pewnymi ograniczeniami) i minimalnego ryzyka (dozwoloną do swobodnego wykorzystania). Przepisy mają nakładać na przykład na dostawców narzędzi AI obowiązek blokowania generowania treści niezgodnych z prawem lub informowania użytkownika o tym, że dany obrazek jest sztucznie wygenerowany.
Jedną z technologii, z której korzystanie ma zostać mocnoograniczone, jest zdalna biometryczna identyfikacja osób, czyli śledzenie realizowane najczęściej poprzez kamery na dworcach, centrach handlowych i innych przestrzeniach użyteczności publicznej. Wedle wcześniej wypracowanego konsensusu, rozpoznawanie i śledzenie obywateli w czasie rzeczywistym z wykorzystaniem tej metody byłoby dopuszczone tylko w sytuacjach poszukiwania konkretnych osób i wyłącznie za zgodą sądu. Jak zauważyła jednak Fundacja Panoptykon, dla Europejskiej Partii Ludowej (EPP) okazało się to zbyt daleko idącym ograniczeniem. W tym tygodniu tuż przed środowym głosowaniem nad AI Act EPP złożyła propozycję poprawek związanych z tą technologią.
To będzie furtka do masowej inwigilacji ludzi?
Wynika z nich, że zakaz identyfikacji biometrycznej może zostać uchylony przez rząd w wyjątkowych sytuacjach. Jak pisze fundacja, chodzi tu m.in. o sytuacje, takie jak poszukiwania osoby zaginionej, podejrzenie zagrożenia terrorystycznego i poszukiwanie osób podejrzanych o popełnienie przestępstw, za które grozi kara odsiadki powyżej trzech lat. W praktyce takich "wyjątkowych sytuacji" może być zatem całkiem sporo. Łatwo się domyślać, że rządy unijnych krajów mogą wykorzystać taką furtkę i wykorzystać technologię do inwigilacji obywateli podczas wydarzeń o znacznej skali, zgromadzeń lub chociażby protestów antyrządowych. To niesie za sobą dość oczywiste zagrożenia. A warto tu dodać, że wykorzystanie identyfikacji biometrycznej przez rządy nie są tu żadną domeną przyszłości. Taka technologia już od lat jest niezwykle chętnie wykorzystywana w Chinach, gdzie pozwala sprawnie kontrolować i w razie potrzeby karać obywateli nieposłusznym władzy.
Panoptykon przypomina też, że sztuczna inteligencja nie zawsze jest nieomylna. Ryzyko pomyłki i oskarżenia przypadkowej osoby nie jest może wielkie, ale istnieje i nie każdego dotyczy w identycznym stopniu. Aby system poprawnie rozpoznawał ludzkie zachowania, musi wykorzystywać ogromne ilości danych na temat jak największej liczby osób. A nie wszystkie grupy są jednakowo reprezentatywne w bazach danych, na których trenuje się narzędzia AI. O tym, w jakiej formie ostatecznie wejdzie w życie AI Act, dowiemy się najpewniej już w środę.
