ChatGPT okazał się na tyle skutecznym narzędziem AI (artificial intelligence, pol. sztuczna inteligencja), że uczniowie w Holandii już zaczęli używać go do odrabiania prac domowych. Nauczyciele nie są w stanie odróżnić wypracowań pisanych przez studentów od tych stworzonych przez algorytm. Co pojawienie się zaawansowanych algorytmów tekstowych oznacza dla edukacji?
Kacper Kolibabski, Gazeta.pl: Na Facebooku napisał pan, że zna ojca, który razem ze swoim dzieckiem już odrabia prace domowe z pomocą algorytmów sztucznej inteligencji. ChatGPT może np. napisać całe wypracowanie. Jakie są tego efekty?
Mikołaj Marcela*: Nie pytałem o to. Oni podchodzili do tego w formie zabawy, sprawdzenia, na ile AI rzeczywiście pisze teksty, które są bezbłędne. Dla nich to z jednej strony uczenie się korzystania z takich narzędzi, a z drugiej pomysł na to, jak spędzić ze sobą czas i wspólnie się pouczyć. Ojciec od dziecka, które szybciej łapie nowinki technologiczne, i dziecko od ojca, który ma większe doświadczenie i obycie z tekstami.
Tata jest ścisłowcem, jakimś programistą czy humanistą?
Humanistą.
Czyli pewnie zdaje sobie sprawę z tego, że pisanie jest dość ważne. Powiedzmy więc, że mamy ucznia, który jest świetny z nauk ścisłych, ale z humana to jest noga. Powinien korzystać z takich narzędzi, czy jednak umiejętność pisania na podstawowym poziomie jest tak kluczowa, że powinien przysiąść i ją zdobyć?
My tak nie działamy. Jeśli nie kieruje nami ciekawość lub nie rozumiemy tego, co robimy, to unikamy nauki. Musimy zdawać sobie sprawę, że czegoś potrzebujemy i że nam się to przyda w życiu, inaczej będziemy to omijać. Mamy błędne wyobrażenie o ludziach i o tym, jak się uczymy. Jeśli coś nas interesuje lub jest nam przydatne, jesteśmy w stanie zrobić wszystko, żeby się tego nauczyć. Po prostu zdamy sobie sprawę, jak dużo tracimy, gdy tego nie potrafimy.
Mówimy o sztucznej inteligencji, ale problem jest taki, że system edukacji sprawia wrażenie, jakby nie rozumiał naszej naturalnej inteligencji, tego, jak funkcjonujemy. Od młodych ludzi wymaga się robienia rzeczy, na które nie są jeszcze gotowi pod względem rozwoju poznawczego i psychicznego. W systemie edukacji nie tylko nie liczy się to, co nas interesuje. Równie wielkim problemem jest to, że wymaga się od młodych ludzi czegoś, na co nie są jeszcze przygotowani, jeśli wziąć pod uwagę etap rozwoju ich mózgu. Różne dzieci w różnym wieku są gotowe, by nauczyć się pisać lub liczyć. Tymczasem w szkole nierzadko utwierdzamy się w przekonaniu, że do czegoś się nie nadajemy, podczas gdy jeszcze nie jesteśmy gotowi, by się tego nauczyć. Korzystanie z narzędzi AI może więc równie dobrze wynikać z faktu, że czujemy się w czymś niekompetentni i to poczucie wynosimy ze szkoły. A gdybyśmy mieli inną edukację i moglibyśmy się uczyć tych rzeczy, gdy jesteśmy na to gotowi, wszyscy by na tym zyskali.
A może pisanie w ogóle nie nam potrzebne? Czy pojawienie się generatorów dłuższych tekstów nie sprawi, że większość osób nie będzie czuła potrzeby nauczenia się pisania?
To ciekawe pytanie, szczególnie w kontekście szkoły, czyli instytucji, której rola w głównej mierze polega na alfabetyzacji. Dlatego jednym z pierwszych i najważniejszych szkolnych rytuałów jest celebrowana przez nauczycielkę lub nauczyciela nauka pisania, która jest zarazem nauką reprodukowania, powtarzania dokładnie tego, co robi nauczycielka lub nauczyciel. Myślę, że to też jedno z kluczowych zjawisk dla tego, co nazwałem "kulturą patoposłuszeństwa", o której pisałem w mojej ostatniej książce. Niemniej charakterystyczne dla naszej kultury przekonanie, że pisanie i czytanie jest czymś podstawowym, to jednak XIX-wieczne założenie związane z kulturą literacką. Od kilku dekad równie ważne - jeśli nie ważniejsze - jest coś, co nazywamy new media literacy, czyli "piśmiennością nowych mediów". I tego właściwie nie uczymy w szkole, przez co pomijamy w edukacji umiejętności niezbędne do funkcjonowania w kulturze postliterackiej i multimedialnej, w której dzisiaj funkcjonujemy.
I jakie to są umiejętności?
Zdolność do eksperymentowania z otoczeniem, korzystania z alternatywnych tożsamości, tworzenia modeli fizycznych procesów, remiksowania, wielozadaniowości, sensownego korzystania z narzędzi, które rozszerzają nasze zdolności poznawcze, współpracy i dzielenia się wiedzą, oceny wiarygodności źródeł informacji, szukania, syntezowania i rozpowszechniania informacji. Dużo uwagi tym umiejętnościom poświęciłem wraz z Zytą Czechowską, Nauczycielką Roku 2019, w naszej wspólnej książce "Jak nie zgubić dziecka w sieci?". Niestety w szkołach tego wszystkiego nie uczymy, bo do tego trzeba mieć rozwiniętą edukację cyfrową. Z kilkoma wyjątkami, jak wspomniana Zyta Czechowska, Dariusz Martynowicz czy Dawid Łasiński, czyli Pan Belfer - Nauczyciel z Internetów.
Krzysztof Maj, akademik, który na swoim kanale YT zajmuje się kwestiami edukacji, napisał w komentarzach pod pana postem: "Jeżeli AI jest w stanie pisać wypracowania, to świadczy to źle wyłącznie o jakości tematów tych wypracowań". Da się więc zadawać takie tematy, by uczniowie nie mogli z tego korzystać?
Funkcjonujemy w kulturze nakazów i zakazów. Cały czas zastanawiamy się, jak odebrać możliwość korzystania z czegoś, zamiast zastanowić się, dlaczego ludzie chcą z tego korzystać. Ja nie jestem zwolennikiem bezrefleksyjnego cieszenia się, że te algorytmy są i będą używane. Ale też trzeba zaakceptować to, że takie narzędzia są i będę obecne, że będą się rozwijały i zmieniały kształt naszej rzeczywistości.
Prohibicja nie sprawiła, że ludzie przestali pić alkohol. Tak samo próba stworzenia sytuacji, w której będzie ciężko z czegoś skorzystać albo będzie to utrudnione, nie sprawi, że ludzie to porzucą. Raczej sprawi to, że będzie się szybciej rozwijać.
Czyli dla samej technologii byłby to stan pożądany, bo się szybciej rozwinie. Ale co w takim wypadku z edukacją?
Pytanie, na ile chcemy, by edukacja była pewną formą algorytmu. Narzędzia korzystające z maszynowego uczenia obnażają to, co my robimy w ramach edukacji.
Chcielibyśmy, by uczniowie działali jak algorytmy AI - dajemy im temat wypracowania i niezależnie od tego, czy to ma dla nich sens, czy nie ma, mają wypluć z siebie jakiś tekst, który jest kompilacją tego, co przeczytali.
Mają być na przykład zawarte dwie lektury, jedna nieobowiązkowa, tekst filmowy i ma być to połączone w miarę sensownie, w miarę bez błędów i wtedy stwierdzamy, że to jest okej - uczeń potrafi pisać, ma wszystkie kompetencje, których potrzebuje do życia, koniec nauki, może ruszać w świat. Kreujemy młodych ludzi jako takie algorytmy. Znacznie efektywniej te rzeczy robią jednak narzędzia AI.
To po co uczyć rzeczy, które mogą za nas zrobić maszyny?
No właśnie. Za rzadko zastanawiamy nad tym, czego młodzi ludzie potrzebują, czego chcą, co ich ciekawi, jakie projekty chcieliby realizować, w jakich kursach chcieliby wziąć udział. Cały czas myślimy o tym, co powinno być obowiązkowe i jak wyegzekwować tę obowiązkowość, pomimo że to jest schemat myślenia sprzed 200 lat.
Od tego czasu sporo wody upłynęło w rzece...
Więc ten schemat się już bardzo mocno zużył i raczej zachęcałbym wszystkich do myślenia o ChatGPT w edukacji jako o pewnym zaworze bezpieczeństwa, z którego młodzi ludzie korzystają, aby obniżyć ciśnienie. Ciśnienie, które nakłada na nich system edukacji, rodzice, nauczyciele wymagający, by mieć wysokie oceny, być obowiązkowym, realizować podstawę programową, zdać maturę, dostać się na studiach i złapać jak najlepszą pracę. My to wszystko robimy, choć wiemy dobrze, że od dawna tak to nie wygląda.
Przed naszym spotkaniem poprosiłem ChatGPT, żeby napisał wypracowanie. Charakterystykę Cześnika, na kilka akapitów, z negatywną oceną i przykładami jego zachowania. Rzeczywiście było to podobne do wypracowań uczniów, jak wyjęte z algorytmu pani od polskiego. Ale czy to aż taka rewolucja? Czym to się różni od przepisania na swoją modłę takiej charakterystyki z któregoś portali, gdzie są takie opracowania?
Ja sam nie pracowałem jeszcze w ten sposób z takim narzędziem, więc ciężko mi się do tego odnieść. Ale to jest dobra klamra, do tego, o czym tutaj mówimy. Jeśli ma się rzeczy, które są dla ciebie ważne - projekty, nad którymi samemu chce się pracować i poświęcać im swój czas - to trudno znaleźć nawet chwilę na inne rzeczy. W tym na AI.
Przy moim własnym projekcie, który mnie cieszy i robię go z przyjemnością, nie chciałbym korzystać z takich narzędzi. Bo dla mnie sensem życia jest tworzenie projektów, które są dla mnie ważne i którymi chciałbym coś od siebie przekazać innym ludziom. AI może mnie w przyszłości wesprzeć, jak teraz wspiera mnie internet, ale działam i tworzę ja.
Jasne, ale nauczyciele już teraz stają przed realnym problemem rozróżniania tego, kto napisał pracę - uczeń czy algorytm. A uczniowie i ich rodzice mogą zadawać sobie pytania, czy to dobrze korzystać z AI?
Nie widzę w tym nic złego. Bardziej martwi mnie, że uczniowie w ogóle chcą to robić i mają taką potrzebę. To pokazuje, że z ich punktu widzenia to, co robią w szkole, nie ma sensu i nie wiedzą, po co się czegoś uczą. Z ich perspektywy to jest bardzo racjonalne. Nieracjonalne są natomiast komentarze, które widzą w tym coś złego, a z uporem maniaka starają się nie dostrzec, jak zły i dysfunkcjonalny dla wszystkich jest obecny system edukacji.
Jeśli ktoś wymaga ode mnie bardzo dużo i chce, żebym robił coś bez sensu, co jest dla mnie obciążeniem i odbiera mi czas, którego i tak mam coraz mniej, to naturalne jest, że będę korzystał z narzędzi, które mi odejmą tej pracy. Trzeba się więc raczej zastanowić, co zrobić, żeby edukacja miała sens dla młodych ludzi.
Taka reforma to duże wyzwanie, mogą minąć dekady, zanim zmienimy szkolnictwo. A ja wciąż się zastanawiam, jak to AI już teraz będzie używane, szczególnie w edukacji.
Filozof Steven Shaviro napisał, że znacznie bardziej boi się narzędzi AI w rękach międzynarodowych korporacji niż samoświadomej niezależnej AI. Żyjemy w systemie nastawionym na generowanie zysków, takie narzędzia mogą być wykorzystywanie na niekorzyść ludzi, w szczególności młodych, którzy są teraz najważniejszymi konsumentami treści i dla nich generowanych jest najwięcej produktów na obecnym rynku.
Dlatego myślę, że powinniśmy krytycznie podchodzić do takich narzędzi, zastanawiać się, jakie są zagrożenia z nich płynące, a jakie są korzyści. Bo to jak z młotkiem - można nim wbić gwóźdź albo kogoś zabić. Młotek to bardzo proste narzędzie, więc tym bardziej dotyczy to algorytmów AI. Wiele z największych obecnie korporacji czy koncernów zdominowało rynek, bo wykorzystało dla zysku zmiany, które zapoczątkował internet 30 lat temu. Więc przypuszczam, że świadomość, w jaki sposób można używać tych narzędzi AI, w jaki sposób mogą nam pomóc w pracy na rozmaitym poziomie, będzie niezwykle istotna.
Ale chciałby pan, żeby algorytmy AI były używane w edukacji?
Fajnie byłoby, gdyby szkoła była taką przestrzenią, jaką powinna być od pojawienia się internetu i rozpowszechnienia narzędzi cyfrowych. By uczyła nas świadomego funkcjonowania w kulturze - także tej cyfrowej, która zyskuje na znaczeniu. Niestety, edukacja cyfrowa nie jest na wysokim poziomie nie tylko w Polsce, lecz także na całym świecie. Dobrze, że Finlandia wprowadziła kilka lat temu przedmiot o fake newsach, ale to i tak się pojawiło zbyt późno i to u światowych liderów w tej branży, więc nie wiem, czy jest z czego się cieszyć. I tak samo powinno być z narzędziami AI. Świetnie by było, gdybyśmy zwiększali świadomość i uczyli korzystać z ich w sposób krytyczny. Już mamy przecież problemy z deep fake'ami i z tym, jak będą, a nawet jak już teraz wpływają na komunikację w przestrzeni wirtualnej.
AI zmieni nasze podejście do szkolnictwa?
Nie jestem apologetą AI, postrzegam je jako nowe narzędzie, z którego niektórzy będą korzystali dla swojej korzyści, a inni będą w ten sposób pogarszać swoje życie i sobie szkodzić. Ale to dotyczy wszystkich wynalazków ludzi. Pytanie pod kątem edukacji jest takie - czy to nie dobry moment, by przemyśleć sensowność trwania przy modelu edukacji z końca XIX wieku?
Władze rzeczywiście pozostają głuche na apele o zmiany w szkolnictwie. Pytanie, czy moda na narzędzia jak ChatGPT wybuchnie na tyle głośno, że usłyszą to nawet ci u szczytu i stanie się to impulsem do zmian w edukacji?
Nie wiem, na ile to jest przełomowy moment i punkt zwrotny. Oglądałem niedawno odcinek serialu "Parks and Recreations" i jest tam taka scena, gdy bohater mówi "Zaryzykowałem i kupiłem buty przez internet". To był 2009 rok i pomyślałem sobie: ile się wydarzyło, że 15 lat temu była to pewna forma eksperymentu, a od kilku lat dla nas jest to codzienność? Myślę, że jesteśmy w miejscu, które za 20-30 lat będziemy wspominać jako początki pewnej zmiany epokowej.
To co się teraz zmieni w edukacji?
Narzędzia AI zapewne zmienią naszą świadomość, ale to tylko jeden element drogi do reformy szkolnictwa. Musimy w pełni uświadomić sobie, że nasz system edukacji nie działa i nie działał jeszcze przed erą internetu. Jeśli tego nie zrobimy, nadal będzie trwał wyścig zbrojeń między nauczycielami i uczniami. Czytałem, że w niektórych państwach rozwiązaniem wypracowań generowanych przez ChatGPT ma być powrót wyłącznie do egzaminów ustnych. Z kolei formy pisane mają być realizowane tylko na lekcjach, bo wtedy nauczyciele zablokują możliwość korzystania z narzędzi AI. A to jest narzędzie, które przecież nie zniknie. Nie musimy z tym walczyć, ale trzeba podchodzić na pewno do tego krytycznie, zastanawiać się nad ramami prawnymi dla tych rozwiązań. To też chyba pokazuje, że żaden wynalazek czy żadna zmiana technologiczna nie jest w stanie doprowadzić do jednoznacznej zmiany w zakresie edukacji.
Ale jak to? Technologie zmieniają cały świat, ale nie mogą zmienić edukacji?
Barry Schwarz pisał, że z jednej strony mamy technologię rzeczy, czyli wynalazki materialne, które wpływają na to, jak żyjemy i na naszą świadomość. Z drugiej strony mamy technologię idei, czyli sposób postrzegania świata. Tego drugiego się uczymy, jest to w nas w dużej mierze wytwarzane przez różne instytucje do tego stworzone. Cały problem z edukacją jest taki, że mamy z jednej strony technologię idei z XIX wieku, szkołę pod wieloma względami wywodzącą się z modelu pruskiego, który uczy nas bardzo konkretnego patrzenia na świat, określonych relacji władzy i myślenia kategoriami sprzed 200 lat. Z drugiej strony przez te ostatnie dwa wieki pojawiają się kolejne wynalazki, które w dużej mierze całkowicie podkopują sens takiego systemu edukacji.
A mimo tego ten model sprzed 200 lat wciąż ma się dobrze.
I nadal nie będzie tak, że poużywamy AI dwa-trzy lata, a system edukacji nagle się zawali. Jeśli tak się stanie, to niestety będzie to kwestia załamania psychicznego młodych ludzi, które jest blisko - mamy coraz więcej depresji, stanów lękowych i rozmaitych zaburzeń wśród młodzieży.
I co z tym zrobić?
Właściwie od początku tego systemu edukacji są osoby, które się przeciwko temu buntują. Tworzone są nowe modele edukacji, rozwija się obszar edukacji domowej, dynamicznie rośnie sektor niepubliczny. Pytanie, na ile system edukacji stanie się przedmiotem namysłu publicznego. W Finlandii, uważanej za kraj z najlepszym system edukacji, był on przedmiotem zgody narodowej, bo był to świadomy projekt podjęty przez wszystkie siły polityczne. Na ile jest to możliwe w Polsce, to już każdy musi sobie sam na to odpowiedzieć.
Szkoła ma nas przygotować do życia. Narzędzia cyfrowe, w tym algorytmy AI, zmieniają to życie, w tym rynek pracy, coraz bardziej. Jak pod to skalibrować szkolnictwo?
Należy zastanowić się, jak zmieni się rynek pracy przez uczenie maszynowe. I trzeba o tym rozmawiać z młodymi ludźmi, bo może się okazać, że pójdą na medycynę i zanim ją skończą, zostaną częściowo wyparci przez algorytmy diagnostyczne. Na to trzeba się przygotować, a nie uznawać, że AI to samo zło. To jest tak samo błędne, jak uważanie, że to tylko dobro. Trzeba być krytycznym wobec tych rozwiązań, żeby pomóc młodym ludziom - i nie tylko - zrozumieć te procesy, które się dzieją w naszym społeczeństwie. Problem w tym, że najczęściej z nimi nawet o tym nie rozmawiamy. Ze swojej strony chcę to zmienić i postaram się nieco przygotować młodych ludzi na to, co nadchodzi w mojej najnowszej książce "Wszystko, czego nie mówią ci, gdy jesteś nastolatkiem". To jest też kwestia tego, jak dzisiaj podchodzimy do pracy, od której jesteśmy wyalienowani, więc nas ciągnie do takich narzędzi.
Co by pan radził w związku z tym, jak może się edukacja zmienić pod wpływem tych narzędzi?
Przede wszystkim ma tu zastosowanie taka ogólna rada, by zastanawiać się, po co coś robimy. Żebyśmy nie działali na zasadzie algorytmów, bo dzisiaj niestety często tak jest. Gdy nauczyciel zadaje jakąś pracę, powinien zastanowić się, jak skonstruować zadanie tak, by było ciekawe dla osób, które mają je wykonać. By było to na tyle otwarte i interesujące i mieściło się zakresie rzeczy, na które uczeń może się wypowiedzieć i dzięki temu rozwijać. Tak żeby młody człowiek chciał to zrobić z własnej woli i żeby mógł korzystać z własnej autonomii, by sam decydował, co może dla siebie wyciągnąć z pracy z narzędziami AI.
Dla rodziców rada jest taka, żeby od najmłodszych lat starali się być z tymi młodymi w kulturze cyfrowej, w miarę możliwości wprowadzali ich do świata cyfrowego i samemu modelowali pewne zachowania. Młodzi ludzie nie słuchają, ale obserwują i naśladują, a potem testują te zachowania, które zaobserwują u nauczycieli i innych rodziców. A może będzie tak, że rodzice będą korzystać z ChatGPT do generowania jakichś raportów? Wtedy trudno się dziwić, że dzieci będą robiły to samo do szkoły.
Którym rodzicom i dzieciom zalecałby pan, a którym odradzał używanie tych narzędzi?
Zalecałbym każdemu zabawę takim narzędziem. Ja pewnie próbowałbym uzyskać jakieś nieoczywiste wypowiedzi i ich sens, które mnie zainspirują do pracy twórczej. W ten sposób można pobudzać kreatywność. Na pewno nie korzystałbym z tego dla zasady i w każdej sytuacji. My się uczymy przez działanie. Im więcej rzeczy zrobimy sami i się nauczymy, tym w przyszłości będziemy bardziej uniwersalnie przygotowani do życia i mierzenia się z problemami. Jeśli ciągle będziemy jeździć samochodem, to potem będziemy mieli problem pójść gdzieś na nogach, będziemy się bardzo szybko męczyć i będziemy mieli znacznie słabszą kondycję. Podobnie może wyglądać sytuacja, w której zbyt często korzystamy z ChatGPT i innych narzędzi AI.
***
Mikołaj Marcela - literaturoznawca, nauczyciel i wykładowca akademicki Uniwersytetu Śląskiego; autor książek, zarówno beletrystyki, jak i pozycji popularnonaukowych, w tym "Jak nie spieprzyć życia własnemu dziecku", "Selekcje. Jak szkoła niszczy ludzi społeczeństwo i świat" czy "Patoposłuszeństwo. Jak szkoła, rodzina i państwo uczą nas bezradności i co z tym zrobić?".
