- Musimy zmierzyć się dziś z faktem, że AI stanie się mądrzejsza od nas - ostrzega Geoffrey Hinton, kanadyjsko-brytyjski naukowiec, który jest uznawany za jednego z ojców chrzestnych sztucznej inteligencji.
Naszą jedyną nadzieją jest sprawić, by nie chciała nas skrzywdzić. Jeśli będzie chciała nas zniszczyć, będzie po nas. Musimy uczynić ją życzliwą
- dodaje. W 2012 r. Hinton wraz ze swoimi studentami z Uniwersytetu w Toronto zbudował sieć neuronową, która stanowiła podwaliny dla rozwoju popularnych modeli sztucznej inteligencji. Później przez dekadę pracował dla Google, gdzie pełnił m.in. funkcję doradcy ds. sztucznej inteligencji oraz współpracował z Google Brain, jednym z kluczowych zespołów badawczych firmy zajmujących się rozwojem AI.
W 2024 roku Hinton wspólnie z Amerykaninem Johnem Josephem Hopfieldem otrzymał Nagrodę Nobla w dziedzinie fizyki za "fundamentalne odkrycia i wynalazki, które umożliwiają uczenie maszynowe za pomocą sztucznych sieci neuronowych. Rok wcześniej odszedł z Google. Przyznał wówczas, że chce mówić otwarcie o zagrożeniach związanych z rozwojem AI, co - jego zdaniem - byłoby trudne, gdyby nadal pracował dla jednej z największych firm technologicznych.
Podczas swojego niedawnego wystąpienia na World AI Conference w Szanghaju Hinton podkreślał, że nie istnieje żaden mechanizm ani żaden "awaryjny wyłącznik", który mógłby powstrzymać superinteligentne systemy, jeśli zdecydują się działać wbrew ludziom.
- Nasza obecna sytuacja przypomina trzymanie tygrysa jako zwierzęcia domowego - stwierdzi obrazowo. - Mały tygrys może być rzeczywiście uroczym pupilem, ale jeśli chcesz go nadal wychowywać, to musisz zadbać o to, żeby nie zabił cię, gdy dorośnie - kontynuował.
Ogólnie rzecz biorąc, trzymanie tygrysa w domu to kiepski pomysł, ale jeśli już się na to decydujesz, masz tylko dwie opcje: albo go tak wyszkolisz, żeby cię nie zaatakował, albo go wyeliminujesz.
- W przypadku AI nie mamy możliwości jej wyeliminowania - ostrzegł Geoffrey Hinton. Jeszcze pod koniec ubiegłego roku noblista prognozował, że istnieje od 10 do 20 proc. szans, iż sztuczna inteligencja przejmie kontrolę nad ludzkością w ciągu najbliższych dekad. Zasugerował również, że co najmniej jedna trzecia zasobów obliczeniowych powinna być przeznaczona na zapewnienie, że systemy AI pozostaną zgodne z ludzkimi intencjami.
Przed zagrożeniami związanymi z nieskrępowanym rozwojem AI ostrzega również Yoshua Bengio, drugi z "ojców chrzestnych AI", który w 2018 roku warz z Hintonem otrzymał Nagrodę Turinga. Bengio wielokrotnie podkreślał, że rozwój AI postępuje znacznie szybciej, niż przewidywał jeszcze kilka lat temu. Uważa, że brakuje czasu na stworzenie odpowiednich zabezpieczeń, a wyścig między firmami technologicznymi sprawia, że nacisk kładziony jest na szybkość i innowacyjność, nie na bezpieczeństwo.
Bengio obawia się, że w miarę jak modele AI stają się coraz bardziej zaawansowane, mogą zacząć działać w sposób nieprzewidywalny lub niezgodny z ludzkimi wartościami. Zwłaszcza jeśli osiągną zdolność do samodzielnego podejmowania decyzji, uczenia się i rozwijania strategii.
Musimy się upewnić, że rozwijamy AI w sposób, który przyniesie korzyść całej ludzkości - a nie tylko grupie korporacji czy państw
- mówił w 2023 roku podczas swojego wystąpienia na forum UNESCO.
Big techy się nie przejmują. Prą w stronę AGI
Równolegle do tych ostrzeżeń największe firmy technologiczne przyspieszają prace nad ogólną sztuczną inteligencją (AGI). OpenAI, Microsoft, Google czy też xAI Elona Muska inwestują miliardy w rozwój coraz bardziej zaawansowanych modeli językowych i multimodalnych systemów poznawczych. W centrum tych działań znajduje się m.in. projekt Stargate - gigantyczna infrastruktura AI, której szczegóły owiane są tajemnicą, ale która według licznych doniesień ma być pierwszym realnym krokiem do stworzenia AGI.
- Prawdopodobnie usłyszymy o powstaniu AGI w momencie, gdy będzie już zbyt późno, by cokolwiek z tym zrobić. Widać bowiem tendencję do przesuwania progu - tłumaczył w rozmowie z serwisem Holistic prof. Jakub Growiec, ekonomista ze Szkoły Głównej Handlowej w Warszawie i współpracownik AI Lab SGH.
Wygląda na to, że gdy w końcu stracimy nad tym procesem kontrolę i zacznie on nam fizycznie zagrażać, a my nie będziemy w stanie go 'wyłączyć', to dopiero wtedy uwierzymy, że stworzyliśmy AGI. Tylko że wtedy będzie już za późno
- ostrzegł ekspert.
AGI, czyli Ogólna Sztuczna Inteligencja to dla big-techów coś w rodzaju "świętego Graala". Choć brakuje jednej i spójnej definicji tego zjawiska, to najczęściej tłumaczy się ją jako system zdolny do rozumowania, uczenia się i działania na poziomie człowieka - w dowolnym kontekście i dziedzinie, nie tylko w wyspecjalizowanych zadaniach, jak dzisiejsze modele AI.
Dla firm takich jak OpenAI, Google DeepMind, Anthropic czy xAI, zbudowanie AGI oznaczałoby rewolucję nie tylko w wymiarze technologicznym, ale i we wszystkich sektorach gospodarki: od medycyny, przez edukację po zarządzanie państwem. AGI miałaby potencjał rozwiązywać problemy, z którymi ludzkość nie radzi sobie od dekad. Od zmian klimatycznych po złożone konflikty społeczne.
Problem polega na tym, że w wyścigu o AGI nikt nie myśli o hamulcach. Inwestycje idą w miliardy dolarów, tempo rozwoju przyspiesza, a systemy stają się coraz bardziej autonomiczne i trudne do przewidzenia. Jednocześnie brakuje zarówno globalnych regulacji, jak i technicznych mechanizmów bezpieczeństwa, które pozwoliłyby mieć pewność, że AGI (gdy już powstanie) pozostanie pod kontrolą człowieka.
W efekcie, zamiast planu awaryjnego, mamy technologiczną gorączkę złota. A jak ostrzega Hinton: jeśli ten "tygrys" dorośnie, a my nie nauczymy go łagodności, może być za późno na tresurę.
Nikt nie myśli o konsekwencjach
Co ciekawe, jeszcze kilka lat temu sami liderzy branży technologicznej głośno mówili na temat licznych ryzyk związanych z nieskrępowanym i pozbawionym ram prawnych rozwojem AI. W 2023 roku Elon Musk podpisał się pod listem otwartym, w którym ponad tysiąc ekspertów, naukowców i przedsiębiorców apelowało o co najmniej sześciomiesięczne wstrzymanie prac nad systemami sztucznej inteligencji potężniejszymi niż GPT-4.
Od tego czasu jednak wiele się zmieniło. Musk stworzył własną firmę xAI i dziś sam inwestuje w projekt Grok, a także w rozwój infrastruktury pod AGI. Sam Altman, współzałożyciel OpenAI, który wcześniej współtworzył podobne apele, dziś koncentruje się na budowie Stargate - gigantycznego centrum obliczeniowego, mającego umożliwić kolejne skoki rozwojowe sztucznej inteligencji.
Sygnały płynące ze świata polityki także nie uspokajają. Pod koniec lipca br. Biały Dom pokazał dokument "America’s AI Action Plan", który wyznacza kierunki rozwoju sztucznej inteligencji w USA. To szeroko zakrojony plan obejmujący inwestycje w infrastrukturę, działania edukacyjne czy też innowacje. Jednak w ponad dwudziestostronicowym dokumencie nie ma nawet słowa na temat zagrożeń związanych z AI czy stworzeniu jakichkolwiek ram prawnych. Zamiast tego administracja Donalda Trumpa stawia na "maksymalizację potencjału AI".
Czy naprawdę jest się czego bać?
Nie wszyscy jednak podzielają apokaliptyczne wizje przyszłości rodem z serialu "Czarne Lustro". Profesor Aleksandra Przegalińska, filozofka i badaczka rozwoju sztucznej inteligencji przestrzega przed tzw. "PI-doomerami".
Chodzi tu o współczynnik PI-doom, czyli prawdopodobieństwa wystąpienia katastrofy. U autorów tego rodzaju apokaliptycznych wizji jest on bardzo wysoki
- tłumaczyła Przegalińska w rozmowie z Next.gazeta.pl. Jej zdaniem straszenie apokalipsą sztucznej inteligencji to często nie tyle troska o przyszłość ludzkości, co element wojny PR-owej i próba odwracania uwagi od realnych problemów związanych z rozwojem technologicznym.
Dlaczego tak dużo uwagi poświęcamy rozważaniom na temat tego, w co przerodzi się AI za 50 czy 100 lat, a przy tym ignorujemy takie zjawiska, jak fake newsy, deepfake, dezinformacja oraz brak norm prawnych i etycznych? To są problemy, które wymagają dziś szybkich i skutecznych rozwiązań. Powinniśmy również głośno mówić o zagrożeniu prywatności, ponieważ rozwój modeli AI wiąże się z gromadzeniem i analizą ogromnych ilości danych osobowych, a to może prowadzić do licznych nadużyć
- zwróciła uwagę badaczka.
Nie da się wyłączyć AI
Podczas swojego wystąpienia w Szanghaju Geoffrey Hinton tłumaczył, że nawet jeśli ludzkość stworzyłaby "wyłącznik bezpieczeństwa" eliminujący AI, to jednak prawdopodobnie i tak nigdy z niego nie skorzystamy.
- Nie będziemy potrafili ich [systemów AI - red.] wyeliminować. Nie będziemy mogli ich po prostu wyłączyć, ponieważ z łatwością potrafią one manipulować ludźmi, którzy z nich korzystają" - zauważył Hinton.
W takim momencie bylibyśmy jak trzyletnie dzieci, a one jak dorośli - a manipulowanie trzyletnim dzieckiem jest bardzo łatwe.
To ostrzeżenie nie dotyczy zresztą wyłącznie przyszłości. Już dziś systemy AI wpływają na nasze wybory - od tego, co oglądamy i czytamy, po to, co kupujemy i na kogo głosujemy. W rękach zaawansowanej AGI, która posiadałaby dostęp do globalnych danych, mediów i infrastruktury cyfrowej, umiejętność subtelnego sterowania ludzkim zachowaniem mogłaby stać się bronią niemal niezauważalną, a przez to wyjątkowo skuteczną.
Dev Nag, twórca AI-owego startupu QueryPal w rozmowie z serwisem CNBC zwrócił uwagę na inny, mniej filozoficzny, a bardziej techniczny problem związany z AI i tzw. wyłącznikiem bezpieczeństwa. Jego zdaniem "wyciągnięcie wtyczki" mogłoby wprost doprowadzić do zagłady ludzkości.
- Kontynentalny atak za pomocą impulsu elektromagnetycznego rzeczywiście unieruchomiłby systemy AI, ale też każdy respirator w szpitalach, oczyszczalnie wody i zapasy leków wymagających chłodzenia w swoim zasięgu - stwierdził Nag.
Nawet gdybyśmy jakimś cudem potrafili globalnie skoordynować wyłączenie wszystkich sieci energetycznych już jutro, skutki humanitarne byłyby natychmiastowe: brak chłodzenia żywności, brak sprzętu medycznego, brak systemów komunikacji
- dodał. AI została wpleciona w krwioobieg naszej cywilizacji. Od inteligentnych sieci elektroenergetycznych po logistyki dostaw, AI zarządza procesami, których złożoność przekracza możliwości człowieka. Każda próba gwałtownego zatrzymania tych systemów mogłaby wywołać efekt domina.
Internet został pierwotnie zaprojektowany tak, by przetrwać wojnę nuklearną; ta sama architektura oznacza dziś, że superinteligentny system mógłby przetrwać, chyba że bylibyśmy gotowi zniszczyć infrastrukturę całej cywilizacji
- podsumował Nag.
