"Dark patterns" to metody projektowania stron internetowych i aplikacji w taki sposób, aby zmanipulować użytkownika i nakłonić go np. do wydania większych pieniędzy, podania danych osobowych lub zapisania się do subskrypcji. Jedną z takich technik jest narzucanie fałszywej presji czasu i prezentowanie komunikatu sugerującego, że promocja zaraz dobiegnie końca lub produkt za chwilę zostanie wyprzedany.
Inne mechanizmy celowo utrudniają rezygnację z subskrypcji, domyślnie zaznaczają za użytkownika dodatkowo płatne usługi i niepostrzeżenie zamieniają darmowe okresy próbne w płatne subskrypcje.
UOKiK użyje AI do walki z manipulacjami w sklepach online
Urząd Ochrony Konsumentów i Konkurencji ocenia, że "dark patterns" w handlu internetowym prowadzą do błędnych decyzji zakupowych. "Projektanci interfejsów e-commerce wykorzystują tę wiedzę podstępnie i z premedytacją, a techniki manipulacji bardzo szybko ewoluują. Wymaga to adekwatnej, technologicznej odpowiedzi ze strony organów ochrony konsumentów" - czytamy w komunikacie.
Według UOKiK sztuczna inteligencja może pomóc w walce z "dark patterns". - Rynek cyfrowy rozwija się szybciej niż tradycyjne narzędzia nadzorcze. Dlatego musimy sięgać po nowe technologie, aby skutecznie chronić konsumentów. Zwłaszcza, że sektor e-commerce już dziś bez oporów korzysta z zaawansowanych technologii, w tym AI, aby wyszukiwać psychologiczne słabości konsumentów i wykorzystywać je przy projektowaniu interfejsów - wyjaśnia prezes UOKiK Tomasz Chróstny.
Z badań przeprowadzonych przez urząd wynika, że 53 proc. Polaków w wieku 18-65 lat kupiło produkt pod wpływem presji czasu. 51 proc. przyznało, że "uległo" pod wpływem informacji o ograniczonej dostępności produktu, a 45 proc. wskazało na licznik odmierzający czas do końca promocji.
Trwają testy narzędzia AI
W 2023 r. UOKiK rozpoczął realizację finansowanego ze środków UE projektu pod nazwą: "Wykrywanie i zwalczanie dark patterns za pomocą sztucznej inteligencji" (Detecting and combating dark patterns with Artificial Intelligence). Celem ma być wypracowanie standardów skutecznego wykorzystania sztucznej inteligencji oraz stworzenie narzędzia AI do wykrywania zwodniczych interfejsów.
W pierwszej fazie projektu zespół UOKiK przeanalizował ponad 300 stron internetowych, głównie z sektora e-commerce, aby rozpoznać najczęściej stosowane mechanizmy "dark patterns". Na tej podstawie powstały pierwsze dane do trenowania projektowanego narzędzia AI.
Urząd przeanalizował też skargi konsumentów, co pomogło wskazać sektory, w których manipulacyjne praktyki pojawiają się najczęściej. Eksperci przeanalizowali również kod źródłowy 100 stron internetowych oznaczonych jako stosujące "dark patterns", wyodrębniając fragmenty kodu odpowiedzialne za manipulacyjne elementy interfejsu, aby służyły jako dodatkowe dane treningowe dla sztucznej inteligencji.
Do pogłębienia analizy posłużyły eksperymenty neuromarketingowe, w których zbadano fizyczne reakcje na bodźce marketingowe przy pomocy technik eye tracking (monitorowanie uwagi wizualnej) i facial tracking (analiza reakcji emocjonalnych) oraz elektroencefalografii (EEG) do pomiaru aktywności mózgu. Całość uzupełniło badanie ankietowe online symulujące realne scenariusze zakupowe.
UOKiK testował możliwości modelu GPT-4 firmy OpenAI pod kątem wykrywania "dark patterns", opierając się na wypracowanych wytycznych. "Wyniki testów pilotażowych pomogły stworzyć narzędzie AI, które analizuje układy stron, wykorzystuje wnioski z badań neuromarketingowych i behawioralnych oraz sprawdza kod źródłowy" - czytamy.
Kolejna faza projektu skupia się na testowaniu i prezentacji narzędzia oraz na przygotowaniu wytycznych, jak wykorzystywać AI w działaniach UOKiK. - Skuteczna ochrona konsumentów w erze cyfrowej wymaga połączenia wiedzy prawnej, psychologii decyzji, analizy danych i nowoczesnych technologii. AI nie zastąpi ani nie wyręczy nas w roli strażnika praw konsumentów w cyfrowym świecie, ale może stać się naszą bronią w walce z manipulacyjnym designem - podkreślił prezes UOKiK.
