W poniedziałek 27 października Ministerstwo Obrony Narodowej zawarło porozumienie z amerykańską firmą Palantir Technologies. Współpraca ma dotyczyć wdrożenia zaawansowanych narzędzi, które umożliwią szybsze przetwarzanie informacji, lepsze prognozowanie zagrożeń i skuteczniejsze zarządzanie operacjami wojskowymi. Palantir, znany z pracy dla amerykańskiego wywiadu i wojska, ma dostarczyć Polsce rozwiązania, które zmienią sposób funkcjonowania naszej cyberarmii.
Palantir to jedna z najbardziej tajemniczych firm Doliny Krzemowej. Od początku działalności koncentrował się na tworzeniu oprogramowania do analizy danych dla amerykańskich agencji wywiadowczych i instytucji rządowych. Stąd też nazwa. Palantiry, zwane inaczej Kamieniami Widzenia, to magiczne kule z uniwersum "Władycy Pierścieni", używane przez różne postaci do komunikacji i obserwacji wydarzeń w odległych krainach.
Wątpliwa reputacja Palantir Technologies
Działalność Palantira budzi wiele wątpliwości. Krytycy zarzucają firmie, że jej technologie są wykorzystywane do inwigilacji obywateli, łamania praw człowieka oraz wspierania działań represyjnych. Palantir współpracuje m.in. z amerykańską agencją ICE (Immigration and Customs Enforcement), która wykorzystywała oprogramowanie firmy do lokalizowania i zatrzymywania nielegalnych imigrantów.
Jednym z najnowszych przykładów kontrowersyjnych działań Palantira była jego rola w konflikcie izraelsko-palestyńskim. Firma dostarczała izraelskiemu rządowi narzędzia wspierające działania wojskowe i wywiadowcze w Strefie Gazy. Dziennikarze i analitycy alarmują, że Palantir działa na granicy prawa, a jego wpływ na decyzje polityczne i militarne może być większy, niż się powszechnie uważa.
Palantir to niewidzialny szósty pierścień - wszechwidzące oko wśród gigantów technologicznych
- tak pisał na temat firmy Jacques Peretti w swojej książce "The Deals that Made the World".
Jakie zagrożenia niesie umowa z Palantirem?
Polska zaczęła współpracę z Palantirem w 2022 roku, jeszcze za rządów PiS, gdy firma pomagała Ukraińcom znaleźć pracę, jak przypomina w rozmowie z naszym portalem Wojciech Klicki, prawnik i ekspert Fundacji Panoptykon, specjalizujący się w kontroli nadzoru państwowego i ochronie prywatności. Jego zdaniem największe obawy budzi nieprzejrzystość działań amerykańskiej firmy oraz kwestia lojalności. Palantir jest z niej znany, ale wobec amerykańskiego rządu.
Firmy spoza Europy nie są związane takimi samymi standardami prawnymi jak te w Unii. Palantir nie powinien być dla Polski czy państw unijnych wiarygodnym partnerem w budowie infrastruktury krytycznych elementów systemu bezpieczeństwa
- mówi Klicki.
W tym kontekście ekspert przypomina wymianę zdań Elona Muska z Radosławem Sikorskim na portalu X, gdy miliarder sugerował, że może wyłączyć Starlinki w Ukrainie. Ostatecznie wtedy do tego nie doszło, ale taka sytuacja miała miejsce jesienią 2022. To pokazuje, że ryzyka związane z oddaniem nawet części infrastruktury obronnej w ręce niedemokratycznie wybranych bogaczy to realne ryzyko, zauważa Klicki. Wydaje się nam, że kupiliśmy jakąś usługę, ale nagle może się okazać, że właściciel firmy będzie miał na ten temat inne zdanie i arbitralnie uzna, że nie możemy już z niej więcej korzystać.
To działania, które nie zwiększają polskiej suwerenności. Bynajmniej, zwiększają naszą zależność
- mówi ekspert.
Nasz rozmówca podkreśla też różnicę między współpracą z obcym wywiadem czy wojskiem a zależnością od prywatnej firmy. Instytucje państwowe, nawet te zajmujące się bezpieczeństwem, są poddane demokratycznej kontroli, firmy natomiast koncentrują się na zysku.
Polski problem z zarządzaniem danymi
W kwestii umowy z Palantirem można mieć też wątpliwości, czy państwo zabezpieczy odpowiednio nasz interes. Wciąż bowiem rozbrzmiewają echa afery Pegasusa, w której się to nie udało, a tutaj "dopuszczamy do czegoś idącego jeszcze dalej", podkreśla Wojciech Klicki. I przypomina, że firma NSO, twórca Pegasusa, miała dostęp do informacji na temat zainteresowań naszych służb specjalnych, bo Polska nie zabezpieczyła tego, by informacje uzyskiwane za pomocą oprogramowania szpiegowskiego były dostępne wyłącznie dla nas. A dane to dziś najważniejszy zasób, co przyznawał sam szef MON, ogłaszając umowę z Palantirem.
- Dzisiaj najważniejszym wyzwaniem dla wszystkich armii świata jest budowa zasobów informacyjnych. Bazy danych są obecnie największą walutą - cenniejszą niż złoto, dolary, euro czy jakiekolwiek inne środki płatnicze. To największy skarb współczesnego świata, dlatego trzeba nimi dobrze zarządzać i odpowiednio je chronić - podkreślał minister Władysław Kosiniak-Kamysz podczas konferencji.
Tyle że my to 'złoto' oddajemy za bezcen. Nie tylko przestaniemy mieć kontrolę nad danymi, ale będą one też w rękach obcego państwa
- mówi Wojciech Klicki.
I choć USA są naszym sojusznikiem, to w gruncie rzeczy ta relacja ma charakter neokolonialny. To nie jest partnerska współpraca
- dodaje.
Do tego samo Wojsko Polskie nie ustrzegło się poważnych wpadek dotyczących danych. Przepisy unijne dotyczące danych osobowych (RODO i dyrektywa policyjna) nie obejmują bowiem zarządzania danymi osobowymi związanymi z bezpieczeństwem narodowym, czyli m.in. tych związanych z działaniami podejmowanych przez armię. - W efekcie nie ma konkretnych regulacji, dotyczących tego, jak chronić dane osobowe wykorzystywane w tym celu. Niedawno poskutkowało to tym, że na śmietniku w Suwałkach przedsiębiorca znalazł dane osobowe żołnierzy - mówi Klicki. Wojsko natomiast takich kluczowych danych zbiera dużo więcej, ma zdjęcia satelitarne czy informacje o infrastrukturze krytycznej.
Obawiam się, że ze względu na obietnicę supernowoczesnych narzędzi w naszym wojsku nie pojawi się refleksja dotycząca udostępniania danych obcej spółce
- mówi nasz rozmówca.
Manipulacja algorytmem to manipulacja wojskiem
Kolejny problem to brak zwierzchnictwa nad technologią, która jest wobec nas zewnętrzna, więc nie mamy nad nią żadnej kontroli. Czy w takiej sytuacji możliwe jest, że nawet nie będziemy wiedzieli, gdy jesteśmy manipulowani poprzez sterowanie wynikami algorytmu? Nasz rozmówca uważa, że to ryzyko istnieje, szczególnie że mowa o technologii AI, w której trudno prześledzić proces rozumowania.
- A im bardziej jest się oddalonym od modelu, od tego jak system AI jest skonstruowany, tym zrozumienie tego jest trudniejsze. Toteż twórcy algorytmów, np. predykcyjnych mają lepszą szansę i okazję do zrozumienia, dlaczego wynik jest taki, a nie inny. I mają też możliwość wpływania na wynik rozumowania sztucznej inteligencji - zauważa Klicki.
Nasz rozmówca nie spodziewa się, że Palantir da nam możliwość wpływania na algorytm, który jest przecież najbardziej wartościową własnością firmy. Tym samym jeszcze bardziej maleją nasze możliwości przeanalizowania tego, co i dlaczego wypluwa algorytm.
Czy więc ta umowa jest w ogóle korzystna dla państwa? Wojciech Klicki zauważa, że zaawansowane narzędzia technologiczne mogą służyć nie tyle do ochrony interesu obywateli, co do ochrony interesów osób aktualnie sprawujących władzę. I choć obywatele mogą na nich skorzystać, to niesie to za sobą duże ryzyka.
Wpuszczanie wielkich cyfrowych korporacji do systemów bezpieczeństwa państwa może prowadzić moim zdaniem, jak to napisała Małgorzata Fraser, do techno-autorytaryzmu
- mówi ekspert, wspominając artykuł z Techspresso.cafe.
Alternatyw brak? To samospełniająca się przepowiednia
Co więc zamiast technologii z obcych krajów? Wojciech Klicki chciałby, by państwo postawiło na lepsze poinformowanie obywateli, co zrobić w sytuacji kryzysowej, na wprowadzenie narzędzi kontroli nad działaniem władz i przede wszystkim nad zwiększeniem do nich zaufania. Jego zdaniem w ten sposób można zwiększyć społeczną motywację do zaangażowania w obronę interesów Rzeczpospolitej. - Zamiast tego podążamy w stronę technologii, które nie mają tego demokratycznego elementu - twierdzi nasz rozmówca.
Jeśli jednak już musimy inwestować w takie systemy, to powinny być one budowane przez nas samodzielnie. Bo jeśli tworzy się je w ramach instytucji państwowych, to podlegają prawu polskiemu i unijnemu, co może nie eliminuje całkowicie ryzyka, ale jednak je zmniejsza, uważa Klicki. Problem w tym, że Palantir to największy gracz na rynku, który - jak przekonuje firma - gwarantuje najlepsze usługi tego rodzaju. W branży nie bardzo istnieje nawet dla niego alternatywa.
Im mocniej uznajemy, że dany gracz jest największy, a więc musimy korzystać z jego usług, tym bardziej taki podmiot rośnie i nie ma dla niego alternatyw. To jest pułapka, taka samospełniająca się przepowiednia.
- podsumowuje Wojciech Klicki z Fundacji Panoptykon.
