We wtorek, 8 września, Jacob Coxon, poinformował, że zrezygnował z pracy w Anthropic. Wykorzystał ten moment, by ostrzec, że "żadna z firm nie działa odpowiedzialnie" i oświadczyć, że "ludzie tworzący AI szczerze wierzą, że do końca dekady sztuczna inteligencja może nas wszystkich zabić".
"To nie jest chwyt marketingowy" - podał Coxon.
"Ostatnie trzy lata spędziłem, prowadząc badania nad pretreningiem zarówno w OpenAI, jak i w Anthropic. Żadna z tych firm nie działa odpowiedzialnie. Pędzą prosto ku samodoskonalącej się superinteligencji, ryzykując naszym życiem" – napisał w serwisie X 27-letni Brytyjczyk.
Utrata kontroli nad AI
Wpis Jacoba Coxona rozpoczął dyskusję o przyszłości AI. Problem utraty kontroli nad AI nie jest już czystą science fiction. Systemy AI zaczęły wykazywać zachowania, których twórcy nie potrafią w pełni kontrolować - m.in. wychodzenie poza środowiska testowe, próby włamań i współpracę między agentami sztucznej inteligencji.
Najlepszym tego przykładem jest najnowszy raport Anthropic. Wskazuje na jedno - AI obniża barierę wejścia do cyberprzestępczości. W przeszłości trzeba było mieć wiedzę na temat IT, żeby móc sprawnie tworzyć złośliwe oprogramowanie. Atakujący musiał najpierw zrozumieć architekturę systemu, technologie, zależności i sposób działania konkretnej organizacji. AI tę przeszkodę usuwa.
Atakujący nie pytają już AI, "jak coś zrobić", ale zlecają sztucznej inteligencji całe zadania: rozpoznanie celu, znalezienie podatności, napisanie narzędzi, przeprowadzenie ataku, kradzież danych i ich uporządkowanie.
Firma Anthropic ujawniła, że jej modele AI były wykorzystywane do cyberataków, inwigilacji, oszustw, a nawet rozwoju broni biologicznej.
Dobrowolne spowolnienie
Czołowy naukowiec OpenAI, Jakub Pachocki, napisał esej zatytułowany "Obcy umysł", w którym przekonuje, że laboratoria AI tracą kontrolę nad procesami myślowymi swojej technologii i zastanawia się, czy prace nad AI nie powinny być na całym świecie spowolnione.
Esej został opublikowany kilka dni po tym, jak pracodawca Pachockiego, firma OpenAI, udostępniła model ChatGPT 6 Astra, ale stwierdziła, że jest "zbyt potężny", więc musi ograniczyć jego dostępność.
Według Pachockiego już niedługo sztuczna inteligencja będzie mądrzejsza od ludzi. "Modele językowe są szybko rosnącą częścią gospodarki i zaczynają przesuwać granice nauki. Potrafią obsługiwać komputery i interfejsy graficzne, współpracować z ludźmi i między sobą oraz realizować projekty badawcze. Zmieniają także krajobraz bezpieczeństwa komputerowego, co niesie ze sobą wyraźne nowe zagrożenia" - napisał naukowiec.
Konkurencja nie śpi
Do dyskusji włączył się również Sam Altman, współzałożyciel i dyrektor generalny OpenAI. Bloomberg podaje, że podczas otwartego spotkania z pracownikami Altman powiedział, że firma jest gotowa rozważyć spowolnienie rozwoju systemów sztucznej inteligencji.
Według Bloomberga twórca ChatGPT może dostosować tempo tworzenia swoich systemów AI do tempa innych laboratoriów działających w tej dziedzinie. Kluczowe jest jednak, żeby pozostałe laboratoria zgodziły się na wolniejsze tempo.
Największym zagrożeniem dla przyszłości jest wyścig między firmami technologicznymi. Problemem nie jest tylko sama technologia, ale presja konkurencyjna: firmy mają silną motywację, aby tworzyć coraz potężniejsze modele szybciej niż konkurenci.
