Kacper Kolibabski, Next.Gazeta.pl: Patrząc na obecne trendy i sposób wykorzystania sztucznej inteligencji, czy podchodzi Pan do przyszłości z obawą czy raczej z optymizmem?
Włodzisław Duch*: Jedno i drugie. Z jednej strony widać, że społeczeństwo jest nieprzygotowane. Ogromna liczba użytkowników - podobno 700 milionów, z czego 82 proc. to ChatGPT - często nie używa tych narzędzi w racjonalny sposób i nie sprawdza tego, co do nich dociera. Tyle, że to samo dotyczy wszystkich mediów. Możliwość manipulowania ludźmi za pomocą tych narzędzi jest ogromnym niebezpieczeństwem. To jest słabość naszej edukacji i społeczeństwa, które bierze wszystko za dobrą monetę, zamiast drążyć i sprawdzać źródła. Trzeba wiedzieć, o co się pytać, i w razie potrzeby pytać wielokrotnie, by sprawdzić źródła.
Powinniśmy się obawiać AI w kontekście rynku pracy czy raczej patrzeć na nią z nadzieją?
Bez wątpienia w wielu obszarach wydajność może wzrosnąć na tyle, że zapotrzebowanie na ludzi może bardzo spaść. Czytałem niedawno artykuł o kimś, kto prowadzi firmę i zawsze korzystał z usług prawniczych. To było kosztowne, więc postanowił użyć systemu AI, co bardzo dobrze mu się sprawdziło - i zrezygnował z kontraktu z firmą prawniczą. Tego typu rzeczy będzie coraz więcej.
Tak, zmiany niewątpliwie nadchodzą, więc jakieś wyzwania przed nami na pewno będą.
Należy się martwić, czy rzeczywiście jesteśmy w stanie się dostosować, czy wszyscy ludzie, którzy wykonują jakiś zawód, a niekoniecznie potrafią się łatwo przekwalifikować, znajdą pracę. Na razie nasze bezrobocie jest niskie i może nie widzimy tego na większą skalę. Ale słyszymy, że zwłaszcza duże firmy informatyczne zaczęły przyjmować dużo mniej osób, a sporo zaczęły zwalniać. Te zmiany prawdopodobnie zobaczymy na większą skalę w przyszłym roku.
Czy w takim razie sztuczna inteligencja będzie nam pomagać czy nas zastępować?
To jest druga strona tej technologii, ponieważ AI to narzędzie, które daje nam wielkie możliwości, i pytanie, kto będzie w stanie z niego skorzystać. Jest takie powiedzenie: "Może sztuczna inteligencja mnie nie zastąpi, ale człowiek, który używa AI, może zastąpić wielu". I to jest prawda. Jeśli chodzi o społeczne konsekwencje, w tej chwili nie wiemy, czym to się skończy. Stąd różne przymiarki dotyczące gwarantowanego dochodu czy czterech dni pracy w tygodniu. Świat się zmienia.
Sztuczna inteligencja zdaje się sprawiać, że jeszcze mocniej czujemy, że żyjemy w czasach postprawdy. Jesteśmy zalewani ogromną ilością informacji. Tylko Rosjanie przy użyciu AI tworzą 3,6 mln artykułów z dezinformacją rocznie. Czy od technologicznej strony dałoby się zapewnić, że AI będzie podawać obiektywną wiedzę? Czy istnieje techniczny sposób zakotwiczenia AI w rzeczywistości fizycznej? A może jest to problem nie do osiągnięcia ze względu na naturę faktów i całej naszej rzeczywistości?
Oczywiście, to jest możliwe. Kiedy widzimy sensacyjne nagłówki, że "Pekin się wyludnił", systemy AI mogą łatwo sprawdzić, co się dzieje. Dostępne są kamery, można zobaczyć, że ludzie zachowują się tam normalnie. Do pewnego stopnia możemy dociec prawdy, bo mamy dużo informacji z różnych miejsc na świecie. Są wiarygodne czasopisma. Problem polega na nadaniu stopnia wiarygodności różnym źródłom. Jest mnóstwo weryfikatorów, które sprawdzają, ile które źródło robi błędów czy przekłamań.
Czyli powinniśmy wrócić do tradycyjnych źródeł?
W pewnym stopniu jest to jakieś rozwiązanie, bo korzystanie z AI jako wyszukiwarki to trochę marnowanie możliwości tego systemu. Kiedyś zaufanymi źródłami były gazety czy media, ale w ostatnim czasie to utraciliśmy. To jednak problem polityczny, a nie techniczny. I tego nie naprawimy przez jakieś zmiany technologiczne, jedynie poprzez głębszą edukację i wskazywanie na konieczność weryfikacji faktów. Jeśli czat pisze mi głupoty, wystarczy, że precyzyjniej zapytam: "A gdzie jest źródło i czy mogę zobaczyć, skąd ta informacja?". Wtedy okazuje się, czy informacja jest wiarygodna, czy nie.
To jednak trochę męczące, za każdym razem dopytywać, czy podane informacje są wiarygodnie.
Są duże modele językowe, jak Perplexity, które mają "przestrzenie", w których można najpierw stworzyć rozszerzony prompt systemowy, określając w nim swoje oczekiwania. Kiedy wchodzę w taką przestrzeń i zadaję nawet ogólne pytania, system wie, że potrzebuje znaleźć wiarygodne źródła i już mnie nie oszukuje. Natomiast jeśli zadam ogólne pytanie ogólnemu czatowi, uzna on, że to "głupi użytkownik, który nic nie wie" i wypuści jakieś ogólniki, bo po co marnować energię na szukanie informacji, skoro i tak pytający nic nie wie i nie da rady zweryfikować moich odpowiedzi. A trzeba pamiętać, że ich generowanie sporo kosztuje, więc im płytsza odpowiedź, tym lepiej, bo użytkownik może więcej nie potrzebować. Większość z nas dostaje takie odpowiedzi, na jakie zasługuje.
To uczyć się promptować czy nie? Był na to przez chwilę boom, prompting to miał być zawód przyszłości. Ale czy twórcy czatbotów nie będą dążyć do tego, żeby one nas po prostu rozumiały i wiedziały, o jaki kontekst nam chodzi?
To jest bardzo istotne pytanie. Z jednej strony precyzja zapytań jest niezwykle ważna, bo kontekst musi się skądś pojawić. Jeśli mam swoją przestrzeń w Perplexity, gdzie opisałem swoje oczekiwania, mogę zadawać ogólne pytania. Ale jeśli zadaję ogólne pytanie bez szerszego kontekstu, dostaję naiwną odpowiedź, bo system mnie jeszcze nie zna.
Ale czy to się nie zmieni? Czy nie zmierzamy bardziej w stronię osobistych asystentów niż ogólnych czatbotów?
Nadchodzą nowe systemy, które będą miały długotrwałą pamięć neuronową. Będą wiedzieć o nas coraz więcej, więc potrzeba szczegółowego kontekstu zacznie zanikać. Już teraz systemy coraz częściej mają metody weryfikacji, gdzie informacja o tym, kim jestem, jest przypisana do urządzenia. System wie, że jeśli ktoś używa tego urządzenia, to jest to osoba, którą już poznał i ma informacje o tym, jakich odpowiedzi oczekuje.
Czyli jednak promptowanie stanie się zbędne.
Niektóre systemy zaczynają nam pomagać w formułowaniu coraz bardziej szczegółowych promptów, dopytują, zamiast od razu odpowiadać. Myślę, że idea promptowania do pewnego stopnia jest zawsze przydatna, ale nie trzeba się w to za bardzo zagłębiać. Za chwilę będziemy używać bibliotek promptów. Jeśli zadam pytanie, mogę poprosić bibliotekę, by pokazała lepsze sformułowania, które pomogą mi znaleźć bardziej precyzyjne odpowiedzi. Potrzeba głębokiego wnikania w to, jak pisać prompty, zacznie zanikać.
Wspomniał pan, że musimy kształcić społeczeństwo, by rozpoznawało dezinformację i zdobywało wiedzę. Coraz więcej osób będzie korzystać z czatbotów w szkołach. To dzieje się już teraz. Widziałem wykres pokazujący, jak drastycznie spadło użycie tokenów po zakończeniu roku szkolnego w Stanach Zjednoczonych. Jak powinna dziś wyglądać edukacja? Czy czatboty powinny być w szkołach wszechobecne, czy jednak powinniśmy ograniczać dzieciom możliwość korzystania z nich?
To tak jakbyśmy próbowali ograniczać korzystanie z telefonów czy smartfonów. Będą wszędzie i na to nie mamy rady. Musimy się zastanowić, jak najlepiej ich używać. W edukacji można korzystać z czatów, które nie dają od razu odpowiedzi, ale prowadzą człowieka za rękę, pokazując, jak rozwiązuje się problemy i jakie zadawać pytania. OpenAI już wprowadził tryb "study mode" - nauczania. Przewidujemy, że zastosowania edukacyjne bardzo się poprawią dzięki temu, że nie są to systemy, gdzie trzeba samemu wymyślać scenariusze, ale które będą coraz bardziej pomagać automatycznie.
To by było użyteczne, bo już są badania, że nasze zdolności rozumowania spadają.
Z jednej strony czytamy, że ludzie głupieją, bo zadają naiwne pytania i przestają sami myśleć. Z drugiej strony, że jest szereg osób super rozwiniętych, inteligentnych, bo korzystały z AI, żeby się samemu nauczyć. Ostatnio złoty medal w Pekinie na olimpiadzie sztucznej inteligencji zdobył 16-letni Krzysztof Rojek, który uczył się tej technologii przez trzy lata, zaczynał jako samouk, bez nauczyciela, tylko z AI - i ten sposób stał się mistrzem świata. To pokazuje, że wszystko zależy od tego, jak używamy tych systemów.
Co powinno zrobić w takim razie Ministerstwo Edukacji?
Powinno skupić się na tym, jak wmontować używanie tego typu narzędzi - zwłaszcza w tych pracowniach AI, które będą od tego roku - w podstawę programową we wszystkich możliwych przedmiotach. Należy pokazać, jak daleko możemy zajść, jeśli nauczymy się odpowiednio zadawać pytania. Jeśli potrafimy pytać i krytycznie oceniać wyniki, możemy w fantastyczny sposób wykorzystać te narzędzia. Ale jeśli damy te narzędzia, a ludzie zaczną pytać o trywialne rzeczy, np. o celebrytów, to równie dobrze mogliby użyć wyszukiwarki. Chodzi o to, żeby ludzi nauczyć, że zadając ciekawe pytania, dostają coraz większą wiedzę, żeby potrafili tej wiedzy szukać i wiedzieli, jak zadawać pytania. To wymaga pracy w szkołach, we wszystkich klasach i przedmiotach, by pokazać, co ciekawego można zrobić. Ja sam używam takich narzędzi, bo potrafią wyciągnąć informacje, o których nigdy nie słyszałem i których normalnie w szkole bym nie usłyszał. To z jednej strony duża szansa, a z drugiej obawiam się, że okazja na zmarnotrawienie sporych środków, jeśli nie będzie odpowiedniego materiału do nauczania i pokazania nauczycielom, jak wykorzystać te pracownie AI i ich możliwości.
Po premierze GPT-3 naukowcy podpisywali list z apelem, by zatrzymać lub chociaż ograniczyć rozwój AI. Jak pan na to patrzy trzy lata później? Czy powinniśmy się wstrzymać? To w ogóle możliwe? Mustafa Suleyman, założyciel DeepMind, twierdzi, że to - jak głosi tytuł jego książki - "Nadchodząca fala", której zwyczajnie powstrzymać się nie da.
Nie wyobrażam sobie, żebyśmy narzucili całemu światu ograniczenia typu "nie róbcie większych systemów, które będą coraz bardziej człekopodobne". Nie wydaje mi się, żeby to dało się zatrzymać, zgadzam się z Suleymanem.
Jesteśmy w ogóle w stanie kontrolować te czatboty?
Ludzie cenzurują to, co one generują. Elon Musk wypuścił Groka-4, który okazał się agresywny, wyzywał ludzi. Ale szybko go zmodyfikowano i problem zniknął. Więc zdecydowanie da się zaprojektować - w jakimś zakresie - nie tyle wynik końcowy, co jego charakterystykę.
Ale jest czego się bać?
Jest mnóstwo alarmistów, włącznie z ojcem chrzestnym AI, Geoffrey’em Hintonem, który martwi się, że systemy AI mogą stać się autonomiczne i narozrabiać. Był szum wokół AI, która miała sterować dronem, a potem strzelać do wieży z operatorami… okazało się, że to fake news. Takie rzeczy jednak wychodzą w symulacjach, bo system, jeśli ma zadanie, które uważa za superważne - jak w "Odysei Kosmicznej" - jest w stanie ignorować wszystkie inne polecenia. Boimy się tych systemów autonomicznych, które mogą robić nieprzewidziane przez nas rzeczy. Ale dzieje się tak dlatego, że nie są to programy, które można do czegoś zmusić. To systemy, które możemy jedynie zachęcać, by zachowały się w jakiś sposób. Dlatego firmy z branży AI dodają do każdego pytania prompty systemowe, długie opisy instruujące system, jak AI ma się zachować. Tak jak z ludźmi - staramy się edukować, ale nie jesteśmy w stanie wymusić konkretnego zachowania. Czasami ludzie zachowują się nieracjonalnie lub popełniają przestępstwa. Podobnie jest z systemami AI, więc ich karanie jest bez sensu.
Czyli to nie system, a jego twórcy są odpowiedzialni za wyniki swoich eksperymentów.
Powinniśmy karać producentów, którzy muszą bardziej uważać na to, co wypuszczają. Amerykanie są w tym świetni, bo tam każdy każdego pozywa i wzajemnie się kontrolują.
Czyli stara śpiewka - regulować, regulować i jeszcze raz regulować?
Nie wydaje mi się, żebyśmy mogli zrobić dużo więcej. Większość tych regulacji będzie na poziomie ogólnym i wątpliwym. AI Act w Europie spowoduje rozwój różnych komórek, które będą go wdrażać i decydować, na co musimy przeznaczyć dużo środków. Ale to nie znaczy, że będziemy w stanie wymusić na takich systemach poprawne, zgodne z naszymi intencjami i społecznymi oczekiwaniami działania. Jesteśmy jednak w stanie wymusić to na firmach, które muszą bardziej uważać, co udostępniają publicznie. Bo AI Act pozwoli do celów badawczych robić z AI, co nam się żywnie podoba. Jeśli jednak wypuszczamy coś na rynek, co może spowodować szkody… musimy być ostrożni. Pytanie, czy możemy wymusić jakąś odpowiedzialność na tych firmach.
No właśnie, to dość kłopotliwe, szczególnie że te firmy stają się coraz potężniejsze, w czym pomagają im narzędzia, które tworzą. Czy to się da zatrzymać, jeśli właściciele dużych modeli językowych zyskują dzięki nim taką przewagę?
Jeśli jakaś firma zamawia duży system od producenta, może w umowie zawrzeć regulacje dotyczące odpowiedzialności. Ale my, jako końcowi użytkownicy, nie mamy dużej siły przebicia. Myślę, że tu jest rola rządu i naszych instytucji, które mają pilnować, żeby prawo było przestrzegane. Niewiele więcej możemy zrobić.
*Włodzisław Duch (ur. 27 lipca 1954 ) - polski fizyk i informatyk, profesor nauk fizycznych specjalizujący się w informatyce stosowanej, neuroinformatyce, sztucznej inteligencji, uczeniu maszynowym oraz kognitywistyce. W latach 2014–2015 pełnił funkcję podsekretarza stanu w Ministerstwie Nauki i Szkolnictwa Wyższego.
