Jak tłumaczy prof. Jakub Growiec, kierownik Katedry Ekonomii Ilościowej SGH, "p(doom)" to "prawdopodobieństwo katastrofy egzystencjalnej, końca ludzkości albo końca jakiejkolwiek sprawczości ludzkości". - W tym sensie, że być może jakaś niewielka część populacji przetrwa, ale nie będzie miała już trwale wpływu na losy Ziemi i cywilizacji - dodał naukowiec, z którym rozmawialiśmy podczas Europejskiego Forum Nowych Idei (EFNI) w Sopocie.
Co mogłoby doprowadzić do zagłady? W tym przypadku pojawia się określenie transformatywnej AI. - To technologia sztucznej inteligencji, która jeszcze nie istnieje, ale w przyszłości będzie w stanie w pełni zautomatyzować wszystkie zadania, które wykonuje obecnie człowiek w pracy - wyjaśnia nam prof. Growiec.
Transformatywna AI doprowadzi do zagłady? "85 procent"
Jak dodaje, prawdopodobieństwo egzystencjalnej katastrofy, "w szczególności na skutek działań transformatywnej sztucznej inteligencji, w oczach luminarzy AI, jak i firm technologicznych i niezależnych badaczy, jest bardzo wysokie". - Jak na skalę zdarzenia, o którym mówimy, jest szokująco wysokie. W moich oczach jest to 85 proc. Natomiast oczywiście głosy są rozrzucone między 0 a 100 proc. Każdy głos osoby, która daje powyżej 5 proc., należy uznać za głos podchodzący serio do tego ryzyka i należy uznać je za bardzo wysokie - ocenił naukowiec w rozmowie z Next.gazeta.pl.
Prof. Jakub Growiec na technologicznym blogu Homo Digital wymienia opinie innych ekspertów na temat "p(doom)". Jak czytamy, "wahają się one od 0 proc. (Yann LeCun - główny badacz AI w Meta), przez około 50 proc. (ubiegłoroczny noblista Geoffrey Hinton), do niemal 100 proc. (Eliezer Yudkowsky - prekursor badań nad zagrożeniami AI)". Prof. Growiec dodaje, że z kolei liderzy branży, tacy jak szef OpenAI Sam Altman, CEO Anthropic Dario Amodei czy CEO xAI Elon Musk, również podają w swoich wywiadach dość wysokie szacunki "p(doom)". To około 10-25 proc. Z kolei Shane Legg z Google DeepMind podaje skalę od 5 do 50 proc.
Rosyjska ruletka? "Jeszcze nie jest za późno"
- Najważniejsze moim zdaniem jest to, że jeszcze nie jest za późno, żeby to powstrzymać. Jeszcze jest potencjalnie możliwość reakcji, polegającej przede wszystkim moim zdaniem na tym, żeby zahamować rozwój najbardziej zaawansowanych modeli, najbardziej ogólnej sztucznej inteligencji, do czasu przekonującego rozwiązania problemu AI alligment, czyli zgodności celów zaawansowanej transformatywnej AI z długookresowym dobrostanem ludzkości - podkreśla prof. Growiec. Na blogu Homo Digital naukowiec podkreśla m.in., że jeśli cele zaawansowanej sztucznej inteligencji "będą choć w niewielkim stopniu sprzeczne z celami człowieka, czeka nas konflikt o zasoby, z którego nie wyjdziemy zwycięsko".
Jego zdaniem "algorytm AGI, po przekroczeniu poziomu inteligencji człowieka, nie pozwoli się wyłączyć oraz będzie dążyć do przejęcia światowych procesów decyzyjnych dla siebie, gwarantując sobie w ten sposób dostęp do zasobów". Jednocześnie "będzie się samodoskonalić, coraz bardziej zwiększając swoją przewagę inteligencji nad człowiekiem".
Naukowiec na blogu cytuje m.in. Stuarta Russella, "autora najpowszechniej wykorzystywanego podręcznika do metod sztucznej inteligencji na świecie", który stwierdził, że "liderzy branży AI zdecydowali się zagrać w rosyjską ruletkę z całą ludzkością bez naszej zgody".
